伝説によると平安時代中期、前九年の役で奥羽を平定した源義家はその功により出羽守となり、また永保三年には累進して陸奥守兼鎮守府将軍となり、その時に源義家の妻（妙法尼）が一子千松君を抱きこの地に慕い来た。しかし千松君は、幼少三歳にして亡くなり、その菩提を弔うために千松寺を開基した。源家から寺領三百石を給された。　千松君の生母（妙法尼）は生前千松君の守護神として源義家から授かりし金垢一寸八分の密迹金剛力士（仁王尊）一体とともに千松君を葬った。そして建立したのが仁王尊である。　伊達時代には小松郷のほかに千松寺村として独立した村が存在しており、この地の大檀那であった佐野千松は慶長3年、上杉が会津置賜庄内120万石へ移封された際、先方衆として2100石もの厚遇をもって召抱えられた。慶長5年9月9日、最上の山形城を攻める為米沢を出陣した直江兼続、前田慶次ら上杉軍がその夜、この村で重陽の節句の祝い酒を酌み交わしたという。