公元379年2月，苻坚的长子符丕率领7万士兵围攻襄阳城。随后，为了配合西线进攻，苻坚派遣彭超为都督，率领10万步兵和骑兵进攻东晋的彭城、淮阴和盱眙等重镇。
次年2月，襄阳城被攻陷，朱序被俘，西线军队溃败。东线的彭城虽然仍在坚持，但形势却十分严峻。面对前秦军的强大威胁，东晋朝廷只能派出北府兵进行救援，谢玄亲自率领高衡和何谦等将领，带着万余北府兵奋勇前行，为援救彭城而战。
谢玄面对数量庞大的前秦军队，大胆扬言要攻打彭超在留城囤积的粮食和军械，迫使彭超不得不暂时撤军。这一战术成功地救出了彭城的官员和百姓，彭超虽然占据了彭城，但只得到了一座空城。
同年4月，前秦将领毛当和王显率两万余军队向东进攻并会合了彭超，一同进军淮南。在五月，前秦军攻破了盱眙城，并俘虏了高密内史毛操。之后，他们再次以6万大军围困东晋幽州刺史田洛于三阿城。
消息传到东晋的国都建康后，文武官员们都十分惶恐不安。因为三阿城距离建康只有200里，一旦三阿城失陷，谢玄所在的广陵就成了建康的最后防线。于是，丞相谢安开始沿江布防，同时命令谢玄率北府兵驰援三阿城。
公元380年6月，谢玄率领5万北府兵与前秦军队在盱眙展开激烈战斗。最终，前秦军大败退守淮阴。随后，谢玄派何谦率领水师朔淮水而上，焚毁了前秦军搭建的桥梁。让战事发生了重要的转折。
