朱元璋的祖父朱初一经常卧于其处放牛。有一次,一个道士(风水高人)路过此处,见了此处龙穴格局说如有人“葬于此处,后代可出天子。”道士(风水高人)的徒弟追问原因,道士说:“你若是不信,就拿个枯树枝栽在这儿,十天之内就能起死复生”,朱初一偷偷试验了一下,果真如此,大喜!于是把道士的话告诉了朱元璋的父亲朱世珍。
十年后,泰定四年(1327年)朱初一病死,葬于此。半年后,朱世珍妻陈氏即怀了朱元璋。至正十二年(1352年),朱元璋参加了郭子兴领导的红巾军,一路登上皇帝之位,1386年,朱元璋命皇太子朱标,带领文武群臣和工匠,到泗州城北杨家墩,开始修建祖陵。以后陆续增修,经过28年,耗费大量资金,到永乐十一年(1413年)才把他的高祖、曾祖、祖父三代的陵墓全部修建成功。至此,杨家墩改称明祖陵。李自成率军攻破此处后,为了破坏明朝的龙脉,将明祖陵大肆破坏,破其风水,斩其龙脉。