由于陈诚的反对，国军最终决定，让第九集团军从张华浜以南的突出部撤出，避免遭到日军包围。而第十五集团军各部仍然维持当前的防线。
于是，九月十一日，张治中的第九集团军奉占据命令开始向西撤退。
至于第十五集团军，罗店方面的国军部队仍然维持在原阵地。
而在杨行的第一军和月浦的第九十八师接到的命令都是保持当前战线，在万不得已时，可以后退至二线阵地，另外第一军的命令中还包括，如果撤退需要和十八军提前协商一致。
陈诚的命令便是要求各部保持着当前的战线。
不过面对日军的猛烈进攻，胡宗南的第一军当天接到命令后，立即‘万不得已’开始向西撤退，隔壁的九十八师则称由于第一军放弃杨行，侧翼暴露，不得不随同撤出月浦。
虽然没有确切记载第一军为何放弃杨行，但光头却十分不满，认为第一军提早撤出杨行，影响了沪上战局的成败。
甚至光头还用日记记载，‘第一军与十八军阵型动摇，前方指挥不得其人，只想后退，严令禁止，问其廉耻与主义何在。’
很显然，九十八师和第一军的撤退已然出乎了光头的预料。
甚至在撤退的当天，光头还嘉奖了坚守月浦的第九十八师，没想到当天晚上他们就跑了。
这一跑，便直接影响了国军的撤退阵型，好在国军各部撤退的时候比较聪明，尤其是第一军，上半夜袭击日军，给日军灌迷魂汤，后半夜则开始撤退，以至于日军到第二天清晨，才发现杨行内的国军已经撤退了。
随后，在沪上地区的国军部队开始纷纷向后撤离。
除了张自忠的八十八师和保安团仍然在闸北市区与日本海军的陆战队对峙。
第三十六师的二一二，二一六两个团先后撤退至东钱家、塘江湾车站一带，并且以两个团的兵力，占据了狄家浜、复旦大学、叶家花园等处作为前哨阵地。
八十七师则撤退至了岭南山庄、庙行一带。
至于五十七师一六九旅撤退至蕰藻浜南岸，并占据了北孙宅作为前哨阵地，第五十七师的一七一旅、六十一师和独立二十旅也作为预备队，于大场集结。
而日军这边，九月十二日，日军的第六联队新任联队长川并密于当天抵达前线，和他一同抵达的还有日军的后备步兵大队，这一天，第六联队各部都忙于和后备步兵第一大队换房交接，并没有意识到国军的主力已经撤走，所以没有任何行