燕军于是大溃，随主帅令狐潮一直狂奔退到陈留，这才止住。
张巡率领得胜之兵回城，燕军气沮，一时不敢再攻雍丘。
潮起复潮落，妙计施连环。
令狐潮退兵之后，张巡探知有燕军步骑七千余人进驻白沙涡，欲断雍丘后路，于是再次出城，夜间率兵突袭，大败燕军。
回军经过桃陵，又与四百余名燕军相遇，全部将其俘虏，斩杀主将，尽释胁从。
由此雍丘之围得解，张巡威名远播。
河南诸郡民众纷纷脱离燕军，前来雍丘归附者达一万余户。张巡在雍丘被围四月，围城燕军常有数万之众，而张巡仅有两千士兵，但每战皆捷。
至德二年七月，河南节度使虢王李巨进驻彭城。因闻张巡依孤城抗贼事亦，大为称赞，遂遣使授予张巡为都督先锋之职，河南招讨使依旧。
不料使节前往雍丘路上，却被燕军所擒，押送主帅令狐潮，并搜出李巨赦书。
令狐潮大喜，以为是绝佳机会，于是差派四名心腹军士假作朝廷使者，持李巨赦书前至雍丘，并说肃宗皇帝已至彭城，要张巡前往见驾。
不料四人因不懂朝廷礼仪，当场被张巡识破，经逼问招供后被杀。其余随从，则被押往吴王李祗处所。
令狐潮见斗智斗勇，皆不是张巡对手，不由仰天长叹，只得引兵撤退河北。
延至当年八月，燕将李庭望率二万余人东袭宁陵，于雍丘城外三十里处宿营。
张巡侦知，遂亲率三千士兵，手持短兵夜袭其营。燕军大败，李庭望连夜而逃。
十月初四，令狐潮又与叛将王福德一同率领步骑万余进攻雍丘，张巡再领兵迎击，杀敌千人，燕军败逃。
十一月初八，令狐潮率兵万余扎营于雍丘城北，张巡领兵邀击，燕军逃走。
十二月，令狐潮、李庭望在雍丘北构筑杞州城，以断雍丘城粮食补给。鲁郡、东平相继被燕军攻陷，济阴郡太守高承义献郡投降，虢王李巨退守临淮。
叛将杨朝宗意图攻取宁陵，断雍丘之后。
张巡遂主动放弃雍丘，率将士三千余人，马三百匹，移师坚守宁陵，与睢阳太守许远、城父令姚訚等在宁陵合兵。
杨朝宗率兵进至宁陵城西北，张巡派部将雷万春、南霁云领兵迎战，大破敌军，杀叛将二十员，斩首万余级。
死尸塞满汴水，倾流而下，杨朝宗率残部连夜逃去。
唐肃宗闻说张巡战功显赫，遂下敕书，任命张巡为河南节度副使。张巡遣使向虢王李巨为部下请功，李巨只给折冲都尉与果毅都尉委任状三十通，绝无赏赐。
张巡激愤难耐，寄书言道：宗社尚危，围陵孤外，渠可吝赏与赀？
李巨嫉妒张巡威名功绩，虽不回书驳斥，竟也一直不予理睬。
至德二年春，安庆绪派部将尹子琦率同罗、突厥、达奚等部族精锐，与杨朝宗合兵共十余万人，大举进攻睢阳。
张巡、许远面对强敌，激励将士固守，从早至午，接战二十余次，士气不衰。
许远自以才能不及张巡，乃推张巡为主帅，自与姚訚筹集粮秣军资，全力相助。
张巡任主帅后，首先清除内部叛将田秀荣，然后率军出城袭击叛军，再次以少胜众，大败叛军，并缴获大批车马牛羊辎重。张巡将战利品皆分给将士，自己分毫不取。
捷报传至凤翔，唐肃宗遂拜张巡为御史中丞，许远为待御史，姚訚为吏部郎中。
五月麦熟时节，叛军散于城外各处村镇，催督百姓收麦，以充军粮。
张巡命南霁云率军突然冲出，直捣尹子琦大营，斩将拔旗。又命勇士几十人手持钩、陌刀、强弩从城上吊下，潜入护城壕中，趁城外叛军毫无戒备奋勇杀出，再次重挫叛军。
当年七月，叛军再次围城。
此时睢阳内无粮草外无救兵，守军只剩千余人，皆以树皮为食。
叛军强攻睢阳，先用云梯爬城，又用钩车、木马攻城，皆不见效，便又围城挖壕，壕外加筑栅栏，以作长期围困。城中守军多因饥饿而死，存者又大多伤残疲惫不堪。
张巡遂杀其爱妾，煮熟犒赏将士，许远也煮其奴僮以飨士兵。此后城中麻雀、老鼠及铠甲弓箭上皮革皆都食尽。值此绝境之下，休说唐军将士，便是被张巡所策反李怀忠等叛将，亦皆死心塌地帮助张巡守城，誓死不肯再次反唐。
便在此时，御史大夫贺兰进明接替李巨任河南节度使，驻军临淮。
李巨旧部许叔冀、尚衡驻军彭城，却皆持观望，不肯相救睢阳之围。张巡命部将南霁云杀透重围，到彭城求援，许叔冀不允，只答应赠送绢布数千匹，令南霁云带回睢阳。
南霁云愤怒出城，在马上回首谩骂，要求与许叔冀拼死决斗，许叔冀闭城不敢回答。
南霁云又至临淮，见贺兰进明告急求救。
贺兰进明妒忌张巡声望，不肯出兵，又想留下南霁云，遂大设酒宴招待。
南霁云怒发冲冠，拔刀断指，拒绝与宴，上马而去。出得府衙，复回身抽箭，射入佛寺宝塔砖中，愤然道：我若破贼回来，定灭贺兰进明！
出得城来，南霁云自觉饥饿难耐，坐在马上打晃。因思未曾借到救兵，回去无法向主帅交待，遂又来到真源，求见张巡故友李贲，诉说睢阳之困。
李贲闻之大哭，因城中无兵，只得送马百匹。
南霁驱马返回睢阳，在宁陵宿营之时，万幸得到城使廉坦相助三千军队。于是重整精神，率三千勇士乘夜突围入城。
围城叛军发觉有人闯营，加以阻挡，南霁云边战边进，三千士兵大多战死，到达睢阳城下时，只余一千人马。
当时大雾，张巡在城上听到呐喊厮杀之声，对诸将说道：此乃南霁云归来也。
便令打开城门，接应援军入城。南霁云闯营之时，从叛军手里抢得牛马数百头，悉数赶入城中。将士们都执南霁云双手哭泣，感动万端。
南霁云虽然最终闯营入城，亦使叛军判知睢阳已无外援，围攻更急。
城中得到南霁云数百头牛马之助，得以裹腹活命，于是议论出城突围，向东转移。
张巡、许远经过商议，皆认为睢阳是江淮屏障，如果一旦放弃，叛军必会乘胜鼓噪南进，江淮以南必失。而且带领饥饿士兵行军，必然全军覆没。
思索再三，于是决定死守孤城，与睢阳共存亡，生死不计。
至德二年八月，回纥三千骑兵到达灵武。肃宗下达诏命，对叛军全面反击。
广平王李豫率领蕃汉联军攻击长安，燕将安守忠大败而逃。