大吉寺の創建年代は不明で、当初は、世田谷城の城主・吉良氏の祈願所として真言宗に属していました。
その後、吉良家衰亡とともに衰退していたところを、祐天上人が浄土宗寺院として再興しました。

境内には、昭和4年に都旧跡に指定された、江戸時代中期の武士・伊勢流有職故実研究家の伊勢貞丈の墓があります。

また、近年では、作家・スポーツライターでもあった寺内大吉の生家としても知られています。