东线谅山爆发激战前，越军自河内增援精锐的首都防卫军第308师向谅山展开反击，并使用化学武器。解放军55军攻入谅山北市区。中国将后方炮兵师拉至前线进行压制。解放军3月1日9时30分集中300门火炮，30分钟落弹几万发，由于越军使用化学武器，当时许世友愤而下令：“拂晓攻击开始后，谅山一间房子也不能留。”
月2日，54军师攻占越南高平省广渊。3月3日，西线解放军11军攻占封土，50军占领越南黄连山省省会沙巴。14军攻占铺楼、郭参。东线，41军攻占茶灵，54军攻占脱浪。3月4日，东线55军打过奇穷河，进攻谅山南市区，越军308师遭我两个师突袭。3月5日，解放军攻占谅山南市区。
3月3日，西线解放军11军31师攻占封土，50军149师占领越南黄连山省省会沙巴。14军攻占铺楼、郭参。东线，解放军41军124师攻占茶灵，54军161师攻占脱浪。
尖刀七连的尖刀排，终于率先冲过南桥头，我军以摧枯拉朽之势涌向南市区。谅山大小和我国的县城差不多大。进入谅山后，我军与驻守越军展开了激烈巷战，整个攻打谅山的战斗持续了6天，最终攻克谅山。
1979年3月4日，李永安在谅山省委大楼拍下了这张著名的《攻克谅山》，当天授命连夜赶回国内， 新华社、人民日报、解放军报等新闻单位记者都在前线指挥部等着他，照片通过传真机传回北京。邓小平也正是看到这张照片，于3月5日下令撤军。谅山战役结束后，越南当局还编造谎言，称“中国军队过不了奇穷河……，西方一家电台也给越南打气：“中国军队还在谅山北侧的山地蹒跚……。”《攻克谅山》发出后，许多国家考证了拍摄位置，结束了中国军队是否拿下了谅山的争议。

3月6日起，解放军以交替掩护，边清剿边撤退的方式，于3月16日全部军队撤回中国境内。我军在撤退路线上铺设地雷，以火箭与长程炮火掩护撤军。越军无大规模追击行动。1979年3月15日22点20分，最后一辆军车回到中国领土。
1979年2月17日至3月16日，我军约有6954名指战员在越南牺牲，14800多人受伤。2月17日至2月28日，中国人民解放军共击毙越军15,000人，2月28日至3月16日，解放军击毙越军37,000人，预计越方总死亡人数超过80,000人。