西晋末年，前赵俘虏晋怀帝司马炽得到传国玺。后赵石勒灭前赵，得传国玉玺，并在右侧加刻“天命石氏”。后赵被冉闵所灭，冉魏得到传国玉玺，但其很快又被前燕所灭。

传国玉玺在这里传承就变得混乱了起来。

前燕慕容儁灭亡冉魏后，声称得到了传国玉玺，是灭亡冉魏后冉闵妻子所献；跑到南方的东晋也声称冉魏请自己出兵帮忙，让使者送来了传国玉玺。

前秦苻坚灭前燕，据说得到了传国玉玺。西燕慕容冲攻入前秦长安，苻坚仓皇逃出长安。但在其逃出时并没有带传国玉玺，后来苻坚被后秦姚苌逼死。姚苌曾向苻坚逼问传国玉玺下落，但苻坚痛骂他一顿，说玉玺送给了东晋。不过，东晋朝廷并没有相关记载。

总之，北方的这枚玉玺最后不知所踪，也不知真假，甚至连有无都说不清。

桓玄篡晋后，玉玺到了桓楚手中。只是桓楚很快被刘裕打败，桓玄兵败只得带着晋安帝逃跑，余d逃到后秦。后秦在苻坚在位时没得到玉玺，这时又高调宣称得到了东晋的传国玉玺。后来，晋安帝跑回南方，声称后秦的玉玺是假的，自己带回了传国玉玺。

刘裕灭后秦，带回后秦玉玺。后秦玉玺与晋安帝带回的玉玺并不相同，又是一枚新玉玺，东晋由此拥有了两枚玉玺。刘裕篡晋后，将两枚玉玺收入囊中。

北方，北魏声称在拆邺城一座庙时，发现了两枚玉玺，不知真假。

到这里，从秦朝传承下来的传国玉玺其来龙去脉就完全陷入了混乱。

北魏末年，孝武帝元修不愿受权臣高欢挟持，带两枚玉玺出逃长安，投奔宇文泰。高欢另立元善见为新帝，建立东魏。宇文泰杀孝武帝，拥立元宝炬为皇帝，建立西魏。东魏被高洋取代建立北齐，西魏也被宇文泰取代建立北周，齐周双方相互抗衡。