谢玄招募流民中的骁勇之士，在京口组织、训练“北府兵”。

太元四年（379年），前秦大举南下，连克重镇，朝野震动。

谢玄率军解三阿之围，大败秦军，收复盱眙、淮阴，迫使其败退淮北。

太元八年（383年），淝水之战爆发，谢玄出任前锋都督，遣部将刘牢之率部夜袭洛涧，首战告捷。

后抓住战机，计诱前秦军后撤，乘势猛攻，取得以少胜多的巨大战果。

太元九年（384年），乘胜开拓中原，先后收复了河南、山东、陕西南部等地区，以功封康乐县公。

不久后因遭会稽王司马道子猜忌，被调离边境要地彭城，回镇淮阴。

至镇后，称病自请解职，改任左将军、会稽内史。

太元十三年（388年），谢玄病逝于会稽郡，时年四十六岁。

谢玄文武兼备，立志挽救危亡，以图恢复中原。

他创建的“北府兵”，能征善战，特别能吃苦耐劳，成为东晋最为精锐的武装力量。

他与谢安筹谋淝水之战，并在前线指挥精锐与苻坚决战，以智勇胜敌，名震江左。

如今的曹操可谓是慧眼识英才，不仅发现并提拔了谢玄这枚人才，同时也为收复关中三辅作了十分充实的准备！