回朝之后，论功行赏时，中书令石显、匡衡认为甘延寿和陈汤假传圣旨，犯有大罪，以功相抵，不予诛杀就可以了，如果再予封爵赏赐，那么今后的出国使者争先效仿，必然无事生非，为国招难。元帝听了觉得也有道理，但他内心还是想嘉奖有功之将，于是此事便议而不决，拖延下去。宗正刘向认为，对待甘延寿和陈汤仅以功过相抵是不公平的。他又上书皇帝，专门评析了扫除郅支的艰难以及意义，他认为甘、陈“总百蛮之君，揽城郭之兵，出百死，入绝域，遂蹈康居，屠五重城，搴歙侯之旗，斩郅支之首，县旌万里之外，扬威昆山之西，扫谷吉之耻，立昭明之功，万夷慑伏，莫不惧震。呼韩邪单于见郅支已诛，且喜且惧，乡风驰义，稽首来宾，愿守北？，累世称臣。立千载之功，建万世之安，群臣大勋莫大焉”（《汉书——傅常郑甘陈段传》），他引经据典加以论证，又与前朝和当代的功臣名将进行类比，阐明自己的观点。

于是元帝下诏赦免了甘延寿、陈汤的假传圣旨之罪，然后又让大臣讨论封赏事宜。石显、匡衡仍然坚持他们的主张。但元帝最终于封甘延寿为义成侯，赐陈汤爵位为关内侯，各赏食邑三百户、黄金百斤，并拜陈汤为射声校尉，延寿为长水校尉。

成帝刘骜即位后，丞相匡衡又向成帝起奏陈汤私藏战品的事，说虽然赦免其罪，但不应有官职，于是陈汤被免职。之后陈汤向成帝上书，说康居王送到汉朝来的王子（名为侍子，实有人质之意）不是真正的王子。成帝命人核实，确实是真王子。假如王子是假的，那么证明康居王对汉朝采取了欺骗手段，现已验证是真的，那么陈汤就犯有诬告乃至欺君之罪。陈汤被捕入狱，准备处以死刑。这时，太中大夫谷永向成帝上书，极力赞誉陈汤的功绩，并引用《周书》说“记人之功，忘人之过，宜为君者也”，亟请皇帝开恩。于是陈汤被成帝特赦释放，但取消了他的爵位，只当个一般士兵。

几年后，西域都护段会宗受到乌孙兵马的围攻，段会宗派人请求朝廷尽快发兵援救。丞相王商、大将军王凤及百官讨论数日仍无结果。王凤向成帝建议，请陈汤来帮助策划。成帝立即召见陈汤。陈汤早在攻击郅支时落下风湿病，两臂不能屈伸，因此入见皇帝时，皇帝先下诏不用行跪拜之礼，让他看段会宗写回来的紧急求救奏书。陈汤推辞说：“将相九卿皆贤材通明，小臣罢癃，不足以策大事。”（《汉书——傅常郑甘陈段传》）成帝听出他话中有怨气，便说：“国家有急，君其毋让。”陈汤说：“臣以为此必无可忧也。”成帝问他为什么这样说？他回答说：“一般情况下，五个胡兵相当于一个汉兵，因为他们的兵器原始笨重，弓箭也不锋利。如今他们也学汉兵的制作技巧，有了较好的刀、箭，但仍然可以三比一来计算战斗力。现在围攻会宗的乌孙兵马不足以战胜会宗，因此陛下尽管放心。即使发兵去救，轻骑平均每天可走五十里，重骑平均才三十里，根本不是救急之兵。”陈汤知道乌孙之军皆乌合之众，不能持久进攻，因此他推算了日期后说：“现在那里的包围已经解除。不出五天，会有好消息的。”过了四天果然军书报回，说乌孙兵已解围而去。

大将军王凤通过这件事深感陈汤经验丰富，大有用处，于是奏请皇帝启用陈汤，任他为从事中郎，军事上的大事都请他做出决断。陈汤严明法令，采纳众人的意见办事，颇有将帅风范。但他又经常接受人贿赂的金钱，最终因此而身败名裂。

晚年陈汤后被免职为庶人，徙居敦煌。住了几年后，敦煌太守上书朝廷说：“陈汤曾经诛杀郅支单于，威风远及外国，现在降为庶人，不宜住在边塞地方。”于是又把他迁到安定（今宁夏固原县）。议郎耿育看到陈汤处境可怜，便又上书于皇帝，再次论述了他的功绩，说明当今国家“枭俊擒敌之臣，独有一陈汤耳”。他之所以被冷落遭不幸，是由于嫉妒之臣的排挤、打击所致，恳请皇帝予以关怀、照顾。皇帝下诏让陈汤迁回长安居住，不久去世。

几年后，王莽执政后，追谥陈汤为破胡壮侯，封其子陈冯为破胡侯，陈勋为讨狄侯。

看着别人的故事我的心里不断的发毛，这里就是无穷无尽的黑夜。

我觉得夜是恐怖的。初秋的深夜，就像在大街的路灯也像鬼火般跳动着，忽明忽暗，夜如同一个黑色的罩子，罩在人的头上，是那么沉重而且狰狞，蝙蝠成群地从两旁低矮的废墟中窜出，张开黑色的羽翼吱吱地飞着，有时几乎要扑到人的头上。我总是感觉这空间道路两旁的树木被风吹得来回地摇曳，发出咿咿呀呀哭泣声。我摒住呼吸，低着头快步行走着，好像要尽快逃出这漆黑的坟墓。身后的落叶被风吹得哗哗作响，总好像有一只黑手从身后向我的头顶伸来可是静下来这里什么都没有，我的记忆一片空白。