临汾古有“卧牛城”之称，是历史上着名的军事重镇，这座古城内高外低，拥有坚厚的城墙，依自然地形堆砌而成，宛如伏在汾河东岸的一条黄牛。

临汾更有古代冷兵器战争从未被攻破的记录，根据当地传说，李自成曾率领二十余万农民起义军，围攻临汾十余日，死伤惨重却未能攻进临汾。

最后发现守城明军居然尚不足三千人，于是，李自成亲自指挥、组织了一场规模空前的猛攻，血战竟日、城墙下几乎堆满了战死的起义军士兵，结果依旧未能攻克临汾，李自成气急败坏的脱掉满是血污的破软甲、扔到了村口的一棵榆树上，随后率部绕过临汾、一路向东进攻。

这个村子后来就改称为“挂甲庄”，随着时代的变迁，挂甲庄、现在已经融入临汾尧都城区了。

日寇占领临汾期间就开始在外围构筑防御工事，阎锡山所部接收临汾后，由于上党战役惨败，阎锡山无力主动进攻解放军，他更加注重要地防守，继续扩建现代化防御工事，将临汾城内外修建的壕沟交错，碉堡林立，完全就是一座易守难攻的坚固要塞。

临汾从内到外，一共修建了四道防线：

第一道是外围警戒阵地，由城外15里内的村镇和主要建筑物构成支撑点，全部筑有碉堡和明暗火力点，外围遍布壕沟、鹿砦、电网、地雷等障碍物；

第二道防线是环城阵地，由环绕城墙的27组碉堡组成，每组3个，构筑成品字形，具有无死角的交叉射击火力的同时，还能相互支援、阻击试图攻击其中一座的解放军。

主碉堡均由钢筋、水泥和片石块成，四周同样配备壕沟、鹿砦、电网、地雷等，还有暗道通向城内，构成了强大而且严密的交叉火力网。

第三道防线是城墙前面的壕沟、城墙阵地，临汾城外的壕沟深达20米、宽30米，紧贴着城墙，这是运城被解放军用爆破手段炸塌城墙破城后，在原来护城河的基础上挖掘的，就是想阻止解放军用坑道炸毁城墙。

临汾城墙是青石所建，高达15米，地基厚60多米，顶宽10余米，可并排开两辆卡车，城墙上用沙包做碉堡、构筑了数十个机枪阵地，又挖掘城墙夯土，在城墙上构筑了两层层火力点，可对不同距离、不同角度进攻的解放军，实施全天候、全方位火力打击。

第四道防线是城墙之内的内壕，宽度和深度都接近6米，壕沟内每隔15米就有个地堡，另外，城内还有纵深阵地，在沿街各要道和高大建筑物上，修筑有11个巷战据点。

临汾的防御工事远比运城坚固、庞大，阎锡山又早就预计到解放军会攻打孤悬晋南的临汾，给临汾守军准备了足够坚守一年半的粮食、食盐、大豆、黑豆，还有数不清的武器弹药等军需品，这也是阎锡山敢不派重兵增援临汾的原因之一，他认为临汾是“铜墙铁壁”、攻不破的堡垒。