臨汾素有“臥牛城”之稱。1977年10月，有人在城墻東北角取土?xí)r挖出一個石匣，匣中有一尊鐵臥牛，并有明朱洪武年間的碑記一塊，這大概就是臨汾被稱為“臥牛城”的見證。

    臨汾城池始建于西晉，距今約1600多年。鐵臥牛是什么時候埋入城墻之中，無從考證。出土碑記中有“癸丑（1373）冬十有一月二十有五日”字樣，修整城墻時，就從城東北角挖出過此鐵牛；另謂五代梁開平二年（908）九月吾州刺史徐懷玉刻記，記載梁晉交兵時，寇退而修城就曾挖出過此物，當(dāng)時“以為祥”，便原封不動地將鐵牛埋在原處。明癸丑年第二次出土后，當(dāng)時亦認(rèn)為是“退滅寇兵之祥”，便擇吉日，藏之。1977年10月則是鐵牛第三次出土?，F(xiàn)在這尊鐵臥牛已在堯廟展出。

    唐朝滅亡，五代開始的第二年，梁晉交兵，剛上任的后梁晉州刺史徐懷玉嚴(yán)陣以待。晉軍多次攻城未克。退走之后，徐懷玉組織守軍趕修被毀的城墻，在城墻的東北角，挖開城基，赫然發(fā)現(xiàn)土中埋著一尊鐵鑄臥牛，眾人嘖嘖稱奇，紛紛議論說：“這是一件吉祥之物，可保佑晉州城堅不可摧?！毙鞈延褛s緊命人刻石，記錄發(fā)現(xiàn)鐵牛的經(jīng)過，然后將鐵牛裝入一個石函，把原地略作清理，刻石平放于地，石函放在其上，最后填土，夯筑城墻。不過數(shù)日，晉州城堅固如初。后來朱元璋建立了明朝，平陽衛(wèi)指揮使胡淵率兵卒修筑臨汾城，在清理東北角舊城基礎(chǔ)時，又挖出此物，鐵牛在相隔465年后重新出土。

    胡淵弄清鐵牛及石碑的來歷，視為神物，便命手下將校擇吉日舉行隆重儀式，恭恭敬敬將石函及徐懷玉所刻之碑埋入原處，并命平陽衛(wèi)管軍正千戶張桂撰文刻碑，記述此事的前因后果。

    這正是：千年祥氣聚堯都，臥牛城中生綠蕪；古人固城御賊寇，今朝建城惠民生。(錫剛)