但是在他期间，依旧忍不住发动了又一场新的战争。

1474年，日本国后土御门天皇因为不满做室町幕府的傀儡，主动退位，或许是为了恶心足利氏，故意传位于张文奎与皇女所生之子，史称后柏原天皇。

室町幕府大为震惊，想取消后柏原天皇的皇位，却又不想背上弑君的罪名。于是暗中传出谣言，说有人因为后柏原天皇有一半明朝皇室血统的缘故想要刺杀他。后柏原天皇担惊受怕，在室町幕府的故意安排下，逃亡明朝，向同父异母的哥哥张遵瑾求救。

他本意是获得避难的权力，然而张遵瑾却看到了千载难逢的机会。张文奎被日本人俘虏的事情，一直令他耿耿于怀，现在日本人的皇帝都跑来了，岂不是可以借着他的名头出兵，为父亲报仇？

1476年，张遵瑾东征日本。所谓事不过三，日本人再没有神风天佑的运气。明军一路高歌猛进，攻占京都，驱逐了足利氏，后柏原天皇复辟。

张遵瑾无意占领日本，一旦达成报仇的目的，就急急忙忙撤离军队。日本国室町幕府倒台，后柏原天皇又无力控制全国，长达4年的乱世降临，史称战国时代。

张遵瑾为父报仇，为弟复国，明军的损失又不大，这让他在大明内部取得了非常好的评价，正当他踌躇满志地准备新的计划时候，1477年，张遵瑾突然驾崩。