东北王张作霖是草莽出身，斗大的字不认识一筐，而且他身上还有着浓厚的封建迷信思想，尤其看中风水。张作霖14岁时，父亲因为在赌场中与人结下仇怨被村里的无赖打死，因当时家中贫困，张父被草草埋葬在了海城的辽河下游。
张父的这个墓地别说是风水，就连基本的地理优势也不具备，每年只要发大水都会被淹没，后来其棺木被洪水冲出，漂到了一块高粱地里，随后就地又给埋了。此后，因张作霖在官场上飞黄腾达，他便认为这与父亲的葬地有关，因此也就没有再动过父亲的墓地。
1928年，张作霖被日本人炸死。让张学良伤心的不仅是父亲遭遇不测，更让他发愁的是应该将父亲葬到哪里。原本张作霖在世时曾修建了陵园，并请了当地有名的风水先生杨某看中了锦县东北的驿马坊，说那里有龙脉。
陵园建成之后，本应将张父迁移此处归葬，但是张作霖没有答应，只将母亲葬于此地。如此一来，张作霖祖上就有了三个墓地，一是老祖坟，位于新民县的四台子；而是张作霖父亲的墓地，位于海城；三是新建的位于锦县驿马坊的坟茔。
既然张作霖生前已经为自己建好了新陵园，就应该葬入此地，但是奉天省省长莫德惠和众官员都持反对意见，原因是张作霖生前担任过陆海军大元帅，这如同皇帝一般，中国古代历朝历代的开国皇帝都是另建陵寝，而不会葬入祖坟。
这个建议打动了张学良，经过商议，东北三省政府决定出资120万大洋修建新陵。在新陵未建成之前，张作霖的棺椁暂时停放在沈阳东关的竹林寺内。
可是不久后，张学良因家仇国恨，毅然易帜，东北军投靠了南京政府。这让日本人十分不爽，这让他们想趁东北群龙无首之时强占满洲的计划落空。如此一来，国民政府也大力支持为张作霖修建元帅陵。
关于元帅陵址的选择非常慎重，一位精通风水的周先生勘察选中了铁臂山下的一座山包，这里曾是明军和后金军队萨尔浒一战的古战场，位于省城东南，浑河之阳。
陵址定下来以后，马上就筹建了“大元帅仪葬工程处”，处长郑子臣是张作霖初建炮兵时的二营长，也是张作霖的姻亲。工程处特地从上海请来了一位工程师，并将工程包给了建筑公司修建。张作霖的大元帅陵仿清东陵建制，只不过规模有所减杀，但整体气势依然宏伟壮观。
1929年至1930年间，张学良在政治上春风得意，声名显赫，他将清代不少王爷坟前的石像等艺术品运到元帅林，其中就有克勤郡王福彭目前的大石碑。光是这些石制艺术品就达到了60余件，其豪华程度不输清代帝王。
一年后，即1930年，元帅林竣工，这时将张作霖葬入新陵本是顺理成章、水到渠成了。可是，张作霖的棺椁停放在沈阳，当时元帅林仅有火车，公路仅仅是一条简陋的土路。况且，风水师周先生一再强调张作霖的尸体不能经过火车的颠簸，这样会不吉利。
话都说到这个份上了，怎么办？那只有修路了，于是沈阳当局马上下令修建公路，可是公路刚刚修建到抚顺的时候，“九一八”事变就爆发了，工程也因此中断。
日军占领沈阳后，为了拉拢张学良，也曾想让张作霖归葬元帅林。父亲就是死于日本之手，如今又要和日本妥协，这是张学良不能接受的。于是，张作霖死后数年，他的棺椁才被送往了锦县驿马坊的张家墓地归葬，修了几年的元帅林最终也没能让一代枭雄魂归九泉。
