近臣呈上後，孫紹拆開觀看，疏中細述不能伐涼的原因，並且勸告吳主修德慎罰，以安內為念，不應當再窮兵黷武。
孫紹看完後大怒道：「朕聽說孫峻在邊境與敵私通，現在果不其然！」於是派使臣罷免了孫峻兵權，降為司馬，派左將軍孫綝代領其軍兵，群臣都不敢勸諫。
吳神鳳帝孫紹恣意妄為，窮兵屯戍，上下無不有怨言。
左右丞相滕氏兄弟、老將留贊後嗣留平、大司農樓玄三人看到孫紹無道，直言苦諫，相繼被殺。
前後多年間，孫紹斬殺忠臣四十多人，他出入常帶五百鐵騎，群臣恐懼，卻不敢如何。
羊祜聽說孫峻被罷免兵權，孫紹失德，看到伐吳有可乘之機，就寫表派人前往洛陽請求伐吳，表中曰：「夫期運雖天所授，而功業必因人而成。今江淮之險，不如劍閣；孫紹之昏，過於劉璋；吳人之困，甚於巴蜀，而大涼兵力，盛於往時：不於此際平一四海，而更阻兵相守，使天下困於征戍，經歷盛衰，不能長久。」
韓煒看完表章後大喜，便下令興師。
可六部重臣皆言國庫空虛，不易動兵，韓煒無奈，只得作罷。
羊祜聽說涼帝不肯發兵，嘆道：「天下不如意事，十常八九。今拱手相送卻不能取，真是天大之遺憾！」
到了太初十四年，羊祜入朝奏辭歸鄉養病。
此時韓煒已然垂垂老矣，但依舊去親自探病，病榻前問道：「卿家有何安邦之策來教寡人？」
羊祜答道：「孫紹暴虐至極，現今可不戰而克。如孫紹不幸去世，吳國再立賢君，那麼吳國就不是陛下所能輕易攻取的了。」
韓煒大悟道：「朕現就派卿家領兵前往討伐，何如？」
羊祜說：「臣已經臥病多年，不能再擔此重任。陛下要另選智勇之士方可。」
時年十一月，羊祜病危，韓煒車駕親臨問安。
韓煒來到臥榻前，羊祜流淚說道：「臣，萬死不能報效陛下大恩！」
韓煒也老淚縱橫哭道：「朕深恨當初不能用卿伐吳之策，現如今誰能接替卿去伐吳？」
羊祜流淚說道：「臣將不久於人世，不敢不說出臣之忠言：信王殿下可擔當此任。如果真要伐吳，必用信王。」說完想起什麼，將案頭奏章扔進火盆。
信王韓照，乃韓煒與馮娉婷之幼子，只喜兵法韜略，作風簡樸，從不結黨營私。如今大涼著實不似從前，賈詡、郭嘉、趙雲、典韋等老一代文武紛紛去世，韓煒老而彌堅，卻精力有限，朝局異常混亂，在羊祜眼裡，韓照實在是不可多得的好皇子。
韓煒詫異問道：「舉善薦賢是一樁美事，卿家為何舉薦之後立即焚掉奏稿，不讓他人知曉？」
羊祜答道：「拜官公朝，謝恩私門。臣，從不如此行事。」說完後便微笑閉目，與世長辭。
韓煒老淚縱橫，大哭回宮，追贈羊祜為上將軍、賜爵巨平郡王。
荊州百姓聽說羊祜死後，罷市大哭，江南守邊將士也都哭泣。
太子韓涼思念羊祜在時，常在峴山遊覽，就在上面建廟立碑，四時祭享。往來人看到其碑文的無不流淚，所以取名叫做墮淚碑。
所謂：曉日登臨感涼臣，古碑零落峴山春。松間殘露頻頻滴，疑是當年墮淚人。
涼帝韓煒聽了羊祜遺言，拜信王韓照為鎮南大元帥，都督荊州諸事。韓照為人老成練達，不但精通兵略，還好學不倦，最喜愛讀左丘明《春秋傳》，坐臥經常攜帶，每次出入必定派人帶在馬前。
韓照奉了父皇之命，在襄陽撫民養兵，積極準備伐吳。
這時吳國老臣、老將都已經去世，吳主孫紹每次宴請群臣，下令都必須喝醉，又封黃門郎十人為糾彈官。
宴罷後再各自奏報過失，有冒犯的或者剝其面，或者鑿其眼，因此國人更加恐懼。