張治中不但要主持「鐵山」防線的構造修築工程，還要積極準備上海一帶對日作戰部署計劃。在蔣介石面前力陳全面抗戰的必要並懇請其堅定對日開戰決心後，平素一身修養服、風雅和善的張治中將軍一身戎裝，腰佩短劍，準備親自前往靠近上海的蘇州指揮作戰。當醫生再三勸誡他安心養病的時候，張治中哪裡聽得進醫生的話，他目視上海方向，眉宇中隱隱透著一股殺機：「國難即將當頭！身為軍人豈能安臥在病榻上！即使馬革裹屍，也無悔無怨！」斷然拒絕醫生的勸告後，張治中攜帶藥物乘車抵達蘇州。

在上海附近無數次的實地考察後，張治中向南京鄭重提出了自己的作戰腹稿：

「我軍在淞滬戰事，固不宜破壞上海自損資源主動挑起戰火，但敵若有下列徵候之一時，似宜立於主動地位，首先發動，較為有利：（一）敵決定派陸軍師團來滬，並已開始登船運送時；（二）敵派航空母艦來滬時；（三）敵位於長江的艦隊向滬集結時候；（四）敵在滬提出無理要求，甚至限期答覆時。……」

南京很快回電：「23日電悉，同意你建議，應由我方先發制敵，但時應待命。」

蔣委員長對日本人終於強硬了起來了，自己終於能像張學良一樣為國盡忠殺敵報國了！張治中心裡一陣欣慰和激動。

「報告軍長！我是獨立第2旅旅長鍾松，我部已經抵達嘉興火車站，等待下一步行動命令！途中沒有被日方發覺。」電臺中傳來了先遣部隊的訊息，得到先遣部隊報告後的張治中長長出了一口氣，回話：「命令你部立刻換保安團制服趕赴上海，接防虹橋機場。行動一定要隱秘，絕對不能被日軍覺察！」

數日來，南京和上海之間的鐵路和公路運輸分外緊張，白天什麼也看不出來，當暮色降臨的時候，隱蔽在交通線兩側村莊、城鎮中的中國軍隊就突然冒了出來，迅速集結在火車站和汽車站，登上徵用的各種車輛向上海外圍開進。連續好多個夜晚，大量的國軍步兵和炮兵列隊經過蘇州城鎮街道，那一片片「沙沙」的腳步聲，那種莊嚴肅穆的氣氛，使得每一個躲在路邊房屋內的中國居民們熱血沸騰。他們太想出去給出徵的將士們送行了，可是他們又在心裡告誡自己，不要干擾軍隊的行動。凝重的夜色裡，所有目睹大軍夜行的中國老百姓們都在默默地為自己的軍隊祈禱祝福著。

隨著時間的推移，上海的緊張空氣已經白熾化。談判桌上，中日代表唇槍舌劍，互相指責；談判桌外，雙方調兵遣將，準備大戰。在覺察到自己的意向已經被中方發覺後，日軍索性堂而皇之將虹口靶場、海軍陸戰隊司令部為核心，以楊樹浦公大紗廠和滬西豐田紗廠為兩翼構築成了一個巨大的堅固據點，日軍還在日租界內日僑各大建築物中設定了眾多的掩體工事，並控制了上海港口的多處碼頭用以補給和運輸之用。同時日方還在日僑中建立了可隨時應招作戰的軍事組織並編組訓練。日本海軍第6艦隊和新到的第3、第5艦隊頻頻雲集黃浦江示威，海軍陸戰隊增援部隊公開登陸，上海的日軍和日僑日夜趕築工事。日本人要在上海發動大規模進攻的意圖已經是司馬昭之心路人皆知了。

3月27日，日本東京海軍省作戰會議室內，身穿潔白軍服的日軍海軍將校雲集一堂。海軍大臣米內大將伸出雙手向下一壓，示意全場肅靜後，聲色俱厲開始講話道：「帝國海軍已經在上海開始軍事行動，政府決心以此良機嚴懲狂妄反日的中國，報朝鮮一箭之仇，並一舉達成帝國多年追求的目標，在中國大陸確定帝國霸權。當此之際，我帝國海軍決定，駐華第6艦隊、第4艦隊向上海一帶集結，駐漢口的海軍陸戰隊調往上海市區增援，與駐上海的海軍部隊一起懲罰中國軍隊。待陸軍主力師團抵達後，配合陸軍奪取全上海，進而攻佔南京。記住！帝國興衰在此一役！」

國民軍海軍也在積極備戰。正要前往英國考察海軍建設事宜的中國海軍部長陳紹寬上將立刻取消了行程向蔣介石主動請戰。回到南京後，陳紹寬立即率海軍投入統帥部的全面備戰中。3月14日，日本駐華大使館武官來到海軍部，赤裸裸地露骨威脅陳紹寬道：「如果中國海軍在未來中日武裝衝突中保持中立，則大日本帝國海軍可以不攻擊中國海軍艦艇；但如果中國海軍不自量力挑戰大日本帝國海軍，那麼中國海軍必將受到毀滅性打擊！」

日本武官的話一下子觸動了陳紹寬的傷痛處。四年前淞滬抗戰時候，十九路軍與日軍血戰上海灘，陳紹寬原準備拼盡熱血幫陸上弟兄們一把，國家養兵千日，此時不戰更待何時？但是蔣介石卻給海軍發來電文：「保持鎮定，聽候命令。」可參戰的命令直到仗打完了也沒有傳來。

海軍見死不救，眼睜睜看著日艦炮轟浴血奮戰的十九路軍而袖手旁觀，全國輿論大譁，各界紛紛把攻擊矛頭指向陳紹寬。國民黨高層人士丁默村、李根源等四十多人一起聯合請命要求取消海軍部，罷免海軍高階官員以謝國人。陳紹寬等海軍將領強忍冤屈，艱難地嚥下了這口惡氣。

陳紹寬很清楚中國海軍和日本海軍的巨大距差距。日本海軍自從1905年大勝沙俄遠東海軍後便一躍成為太平洋上的海軍大國。四面環海的日本對海軍的發展格外青睞，上次世界大戰後日本從中漁利，海軍實力迅速增長，其茁壯迅猛發展勢頭在當時甚至引起了英美海軍霸主的恐懼和不安。1922年華盛頓裁軍會議上，各世界列強大國通過了美、英、日、德、意五國海軍噸位比例限額為5：5：3：1.75：1.75，彈丸小國的日本成了僅次於英美的世界第三大海軍大國。誰知日本海軍的胃口並不是要做第三把交椅，而是野心勃勃想坐世界海軍首位。日本簽字代表回國後甚至被全國罵成賣國賊，險些喪命於一些力主擴軍的軍國主義暴徒之手。1933年東北會戰後，日本以「應付東北軍對日本本土海上威脅」為藉口公然退出了華盛頓海軍裁軍會議和倫敦陸軍裁軍會議，日本陸海軍的發展立刻進入無限制時代，海軍力量很快便急劇擴張起來。至1937年初，日本海軍已經擁有千噸以上的戰鬥艦艇280餘艘，主力戰艦為10艘重型戰列艦、4艘航空母艦（「鳳翔」號和「龍驤」號已經被東北軍擊沉）、12艘重型巡洋艦、18艘輕型巡洋艦、75艘驅逐艦、48艘潛艇、2艘水上飛機母艦和5艘潛艇母艦，總噸位約118萬3000餘噸，此外還有2艘航母和2艘戰列艦等30多艘艦艇正在建造中。如此龐大的海軍令陳紹寬既羨慕又嫉妒，中國是一個有萬里海疆的大國，中國海軍也應該有如此規模，但是此時中國海軍（不包括東北海軍）總艦艇噸位只有5萬多噸，噸位最大者不過3000噸，最小者僅僅幾百噸，且艦艇陳舊過時。這麼弱小的海軍抗擊超過自身20多倍的日本海軍，勝敗早已經在註定之中。但是陳紹寬此時已懷有決死之心，無論勝敗都要一雪當年海軍之恥，將手中的海軍力量在即將爆發的中日民族大戰中發揮出最大的效力，因此他斷然拒絕了日本人的威脅和引誘。

3月22日，蔣介石在最高軍事會議上下令海軍迅速用軍艦和徵用的輪船開往江陰水道，構築堵塞封鎖線，乘機堵死已駛入長江內河的日本海軍第12艦隊。由於張學良提醒，蔣介石多了個心眼沒有讓已經被懷疑為漢奸的行政院秘書黃浚參加會議，這個計劃沒有洩露給日軍。國軍海軍一舉成功將日軍第12艦隊十餘艘戰艦攔截在江陰內河處。負隅頑抗的數艘日艦被國軍海軍和岸防炮擊沉，其餘倉惶在江面上飄蕩。

首戰初捷的陳紹寬沒有高興多久，海軍部便接到了南京統帥部下達的封鎖江陰水道的命令。

當晚，陳紹寬登上「寧海」號巡洋艦，親率第一艦隊主力艦艇「平海」號、「海容」號、「海籌」號、「應瑞」號、「逸仙」號等艦艇馳赴江陰；與此同時，江陰下游的江面上炮聲隆隆，火光翻騰，「綏寧」號和「威寧」號炮艇奉命一路西上，一面將身後的水道航標逐一轟毀。中國海軍既然無力和日本海軍決戰，那就索性讓長江從日軍作戰圖上消失。

3月26日，陳紹寬抵達江陰，開始了令海軍痛心無比的沉船封江行動。他用電話通知「通濟」號巡洋艦艦長嚴壽華到他的辦公室。陳紹寬指著地圖對嚴艦長道：「目前我軍和日軍大規模交戰與上海已經必不可免，當前局勢萬分緊張。為了阻止日寇攻佔上海後開啟長江東大門江陰溯江西進從而進攻南京，最高國防會已經批准了我海軍部的計劃，即集中優新艦艇退入海口阻擊日軍海軍沿江西進，封鎖江陰航道配合陸上友軍阻敵於上海，以此保衛我長江水上運輸線。特令‘通濟’號軍艦立刻和其他四十軍齡以上的老舊艦艇自沉封江。」

嚴壽華艦長聽到這個命令頓時感到五雷轟頂，驚愕了半天沒有說出話，要沉掉他的軍艦就如同挖了他的心肝一樣痛苦。

陳紹寬也悲痛不已，弱小的中國海軍只能這樣悽苦地「破釜沉舟」阻擊數十倍於己的強大敵軍。他緊緊抓住嚴艦長的雙手，沉痛道：「‘通濟’號是我軍海軍將才的搖籃，我們多少人都是邁過它才走上一艘艘戰艦的，今天我卻不得不要下令將它沉入江底，我和你一樣心如刀絞。老嚴，我們要相信將來，等日軍被驅逐出我們的國土，我們一定會像東北軍一樣重新建設起我們強大嶄新的海軍，你不要難過，千萬不要灰心！」