1979年2月17日，对越自卫反击战打响，时任127师师长的张万年归属广州军区司令员许世友指挥。127师号称铁军师，它的源头源头来自叶挺独立团和秋收起义部分武装力量组成的中国工农红军第四军。毛泽东三湾改编，就是在这支部队的“红一连”试点把支部建在连上，井冈山斗争又在“红二连”抓了“三大纪律六项注意”，朱德、彭德怀和林彪等五位元帅、粟裕等七位大将和330多位将军都出身该部队。
许世友给127师安排的任务是牵制性进攻：按计划，张万年所部将负责进攻支马和龙头地区，打通通往禄平的口子，从侧翼保护55军进攻谅山。然而在战斗打响后，127师却成了进攻的尖刀，他们仅用一天时间就打趴了支马地区的越军。这个结果令越军上下大为震惊，他们原计划是要在这里守半年的。战斗结束后，越军就派出了情报人员，他们急于要弄清楚自己的对手究竟是个什么样的人。
尽管初战告捷，但张万年却并不满足。此后他又率127师攻下了越军重兵布防的禄平县城。当张万年率部进入县城的时候，迎接他的是街道两侧贴满的标语，上面写着“打垮一二七，活捉张万年”。张万年看着标语哈哈大笑，他对身边的参谋说：“越南军人兴师动众进行这样的战前动员，虽然打输了，但情报还是准确的，我们应该尊重他们。”
两次惨败之后，越军终于意识到在正面战场无论如何是活捉不了张万年了。于是他们就派出了特工行刺，想以此瓦解127师的指挥。2月28日晚3名越军特工顺着一条水沟，摸到了张万年临时设立的师指挥部。但张万年深知越军作战特点，他安排警卫部队设置了交叉岗哨，越军特工一露头就被发现，当场击毙1人，另2人逃跑。
这次暗杀失败后，越军并不死心。又在3月4日清晨派出特工在奇穷河边附近摸到了张万年的指挥车，一阵激烈的枪声后，车上打了16个弹洞，译电员被打死。越方大喜过望，随后广播说：127师指挥部已经被消灭，还活捉了张万年。一时之间弄得43军军长褚传禹也真假难辨，他向127师指挥部打电话询问，恰巧张万年不在，这就更加重了他的疑虑。
不久后张万年回来了，褚传禹竟然在电话连问两次他是不是真的张万年，搞得张万年哭笑不得。原来在越军特工偷袭的时候，张万年恰好去奇穷河边溜达，思考渡河之计，才得以躲过一劫。尽管如此张万年还是受到了军长褚传禹的批评，因为他把指挥所放在距前沿只有100米的地方，违反了条令。此后张万年率部南渡奇穷河，攻占迷迈山，和55军形成了对河内的夹击。不久后中央军委下达了撤军命令，张万年和127师回到了国内，此后他的职务一步步提升并在1995年担任了中央军委副主席。
