鲁谒居弟弟不知道计划，怨恨张汤，让人上书朝廷，告发张汤与鲁谒居共同谋划告发李文。汉武帝将案件交给减宣，减宣曾经与张汤有隔阂，等到得知此事，彻底追究事情原因，依法追究责任但是一时没有结案奏报。

恰巧有人私自非法挖掘孝文皇帝陵园陪葬的钱币，丞相庄青翟朝见汉武帝，与张汤约定一同谢罪，可是到了汉武帝面前，只有张汤却不谢罪。

汉武帝让御史审理丞相此案的责任，御史的上级是张汤，张汤想要呈上丞相每一个季度巡视陵园的法令条文，是丞相责任不是我御史大夫责任，暗示知道偷盗者而故意放纵，犯了“见知法”，庄青翟因为此事吃不好睡不好很忧虑，《黄帝内经》：忧伤肺。

本来张汤想要减轻自己的罪名，后来审着审者觉得自己可以除掉庄青翟，这时就有了害人之心。

丞相长史朱买臣、王朝、边通，都是过去做过九卿、二千石官员，做官都比张汤早。张汤几次代行丞相权力，知道三位长史素来尊贵，故意折辱三人，将他们看作低级小吏一般，所以三位长史都怨恨张汤，想让张汤死无葬身之地。

便与丞相合谋，派官吏逮捕贾人田信等人，然后散布谣言说：“张汤将要奏请陛下，田信往往最先知道，囤积财物走向致富之路，与张汤一同分钱。”

消息传到汉武帝耳中，汉武帝询问张汤说：“我做的事，商人往往最先知道，多囤积货物，是有人把我的计划告诉了他们。”

张汤不谢罪，又假装惊讶说：“应该确有此事。”减宣也将鲁谒居等事情报告汉武帝。汉武帝因为张汤心怀奸诈当面欺瞒，派赵禹言词斥责张汤，张汤便上书向汉武帝谢罪，趁机说：“陷害臣的人，三位长史。”然后便自杀而死。

张汤死了之后，家产价值不过五百金。张汤兄弟子侄想要厚葬张汤，张汤母亲说：“张汤作为天子大臣，被污蔑中伤而死，何须厚葬啊！”