社伝によると，この社は７世紀半ばごろ，大分県の宇佐八幡宮から分霊（ぶんれい）して，この地に迎え，まつられたと言う。道路を隔てたすぐ東側には国分寺の跡がある。奈良時代に入って諸国に国分寺が造営されると，宇佐八幡宮から分霊してまつられた手向山八幡宮（たむけやまはちまんぐう）が東大寺の鎮護（ちんご）の神となったように，この八幡宮も三河国分寺の鎮護の神として人々の尊崇（そんすう）を受けるようになったと考えられている。また，源頼朝，今川氏真（うじざね），
徳川家康が社領を寄進しているように，武家とのつながりもある。
本殿は，1477年（文明９）の建立で，室町時代中期のものである。建築形式は三間社流造（さんげんしゃながれづくり），屋根は桧皮葺（ひわだぶき）である。三間社流造というのは，流造のひさしの部分の軒柱が四本で，柱間が三つある流造ということである。桧皮葺とは，桧（ひのき）の皮を重ねてふくふき方で，高級建築に用いられる。1907年（明治40）に国の重要文化財に指定された。素朴な鎌倉時代建築から装飾の多い江戸時代建築へ移る中間の，室町建築の特徴を備えていると言われる。
