天平年間に飢饉や疫病が広がったり、反乱があったため、時の聖武天皇は仏教の力により平安な国家を建設しようと、741年（天平13年）に諸国に寺院の建立を命じました。
その命により建てられた大隅国国分僧寺の寺院跡です。 明治初年の廃仏毀釈で廃寺となりました。


現在、平安時代（1142年）の刻銘がある石造六重層塔1基と2体の仁王像、観音像の願文のある石塔などが残っており、1921年（大正10年）に国の史跡に指定されました。