但是淞滬會戰打了一個多月，戰事久拖不決大出日軍意料。日軍雖然憑藉裝備和武器優勢，將中國軍隊的進攻一一擋回，但是中國軍隊前仆後繼、悍不畏死的英勇頑強抗戰。也給向以戰無不勝自詡的「皇軍」重大殺傷，日軍進展卻並無多少。為了儘快結束上海戰事，不使陸軍大臣杉山元和海軍大臣米內光正聯合提出的「三個月解決中國事變」成為一句空話和笑柄，日本軍部不得已再次作出增兵的決定。將在華北和中國軍隊對峙的第九、第十三師團轉隸上海派遣軍序列，此外，還從臺灣調來了步兵旅團和重藤支隊。這樣，加上原有的幾個師團，日軍到五月中旬在上海的兵力，光步兵就達到了當初松井石根要求的5個師團算上空軍和海軍的兵力，日軍在滬總兵力達到20萬人。
面對日軍調兵遣將，國民政府也決定迅速增派各省及中央軍部隊至淞滬參戰。為打贏這場硬仗，蔣介石不惜血本，把當時的精兵良將幾乎全部派到了淞滬前線。集團軍中，除了原有的第八、第九、第十五集團軍外，又增加了薛嶽的第十九集團軍、劉建緒的第十集團軍和廖磊的第二十一集團軍。
同時對前線部隊部署也做了調整，以應對作戰需要：第十五、第十九集團軍編為左翼兵團，陳誠為總司令，下轄三個軍團、江防軍總司令部及總預備隊，共約十六個師、兩個要塞司令部、四個獨立團、一個江蘇保安隊；作戰地域為薀藻浜以北的萬橋、羅店、廣福地區。
第九集團軍和第二十一集團軍為中央兵團，朱紹良為總司令，下轄十個軍二十八個師、一個獨立旅、一個炮兵旅、一個上海警備司令部和一個上海保安總隊；作戰地域為北站、江灣、廟行一線及其以西地區。
第八、第十集團軍為右翼兵團。張發奎為總司令，下轄十個師、三個獨立旅、三個新編旅、一箇中央軍校教導總隊和一個岸防部隊；作戰地域為蘇州河以南至杭州灣北岸地區。加上不久後趕赴上海參戰川軍劉湘部的五個個師，中國軍隊的總兵力已經達到七十個師，將近七十餘萬人。
中國軍隊轉入防禦後，隨著增援部隊的相繼到達日軍開始發動大規模進攻。五月二十日，日軍集中第十一師團和第十三師團全部主力猛攻固守戰略要點羅店的左翼軍陣地，防守這裡的羅卓英的第十八軍和葉肇的第六十六軍拼死抵禦，陣地屹立不動。次日黎明至二十二日夜，日軍復以兩個師團持續衝鋒，第六十六軍的一五九師和第一六零師遭受重大傷亡，陣地全毀，守軍無一倖存。
第三戰區司令長官部鑑於日軍有以主力於寶瀏公路兩側地區擊破左翼軍之勢，為儲存實力，持久消耗敵人，乃命令左翼軍各部隊逐次轉入第二線陣地防守，相機打擊日軍。這時，松井石根見從側翼突入包圍中國軍隊的企圖無法實現，於是決定改分割包圍為中央突破，集中兵力進攻薀藻浜一線。五月三十日開始，日海軍、航空兵協同地面部隊發起新的攻擊。北路以山室宗武第十一師團指向廣福、陳家行；南路集中第三、第九、第十三、第一零一師團強渡薀藻浜，向大場、南翔進攻，以切斷大場至江灣地區守軍與外界聯絡，使之成為孤軍。六月一日至五日，中國軍隊方面以第八、第十四、第五十九、第六十七、第七十七、第九十師及稅警總團等部隊連日與敵浴血激戰，因犧牲重大，無力再戰，相繼退出陣地。六日起，日軍再度集中海空軍火力，配合步兵向薀藻浜南岸強攻。中國守軍輪番上陣抵抗，經數晝夜血戰，始得稍稍遏止日軍攻勢。
六月十日，日軍突破薀藻浜，戰局再度告急。蔣介石親自帶領大本營一干要員赴第三戰區前敵指揮部南翔指揮作戰。急調中央兵團第二十一集團軍擋住突破蘊藻浜的日軍。
第二十一集團軍屬李宗仁、白崇禧桂系王牌部隊，以能打能拼在國民黨地方軍中享有威名。既然是自己的部隊，調任參謀本部任副總參謀長，早已手癢的白崇禧向蔣委員長獻策，認為純粹被動防守非長久之計，徒增傷亡更無法取勝，必須以一支主力突擊部隊主動出擊，實行積極防禦的策略。
正在為戰局焦頭爛額的蔣介石當然求之不得。立刻下達了實施反擊作戰的命令。同時命令所有守衛薀藻浜南岸的部隊，配合廖磊第二十一集團軍發動全線反擊。
但是白崇禧雖有「小諸葛」之稱，在長達二十多年的軍閥混戰中也是常勝將軍，但是和日本人交戰畢竟還是第一次，根本缺乏對日軍戰鬥力的認識。當日，日軍吉住良輔的第九師團、伊東政喜第一零一師團以及藤田進的第三師團一部，亦向薀藻浜南岸發起猛攻。雙方主力迎頭相撞。桂軍初上戰場，毫無與日軍交鋒經驗，以血肉之軀衝進密集彈雨，將日軍施放的煙霧誤為毒氣，隊形自我混亂；加上當時淞滬戰場上只有桂軍身穿黃色軍服，極為顯眼。成為日軍練習射擊的活靶子。遭日軍飛機、火炮、坦克和機槍密集火力突擊，數萬大軍一日即被打散，上萬敢死隊大部戰死。該集團軍僅旅長即陣亡六七人。「小諸葛」見桂系潰兵被其他部隊收容，多年經營毀於一旦，不禁痛心疾首，連日飲食不進。激戰至六月二十日，部隊被迫撤退。左翼軍配合二十一集團軍進攻的四個團在廣福南側向北路日軍的反擊作戰，也被日軍擊退。日軍乘機展開反撲，兵鋒直指大場。
六月二十一日，日軍以重兵直趨真太公路，威逼大場左翼。劉行方面日軍。渡過薀藻浜後攻向大場以西塔河橋，左翼兵團十五集團軍的十八師、二十六師和六十七師等部經過艱苦抗擊，阻住日軍攻勢。此時，中國軍隊從大場東面，經大場、市中心向東北而成一半圓形陣線，繞於江灣以北。廟行、大場位置突出，遂成日軍眼中釘，肉中刺，必欲拔之而後快
日軍調集各種火炮、飛機集中猛烈轟擊，方圓數里，幾為焦土。日軍接著又以四十餘輛戰車為前導，掩護步兵奪佔胡家橋、塔河橋、走馬塘等處陣地。