1937年12月7日日军完成对南京的战略包围，开始缩小包围圈，向内进攻。经过4天激战，守军的防线一再后移，有效阻击的可能性变得越来越小，当然可能还是有一些零星的局部战斗是存在的，有的也还很激烈，但整体而言已经无法抵挡了。守军最高指挥官唐生智将军在12月11日晚间接到蒋介石亲自打来的电话：“如情势不能久持时，可相机撤退，以图整理而期反攻。”
1937年12月12日17时，卫戍司令部召集师以上将领开会，布置撤退行动。唐生智首先简要地说明当前战况，询问大家是否还能继续坚守。与会将领无一人发言，这些将领心里可能会说：“早就看出不能坚守，是你唐司令要誓死保卫南京，现在到问我们能不能守住，谁还敢说誓死之类的大话呢。”唐生智随后出示蒋介石命守军相机撤退的电令，即由参谋长周斓分发了参谋处已油印好的撤退命令及突围计划。
卫戍司令部突围计划的基本精神是大部由正面突围，一部随司令部由下关渡江。但在书面命令分发后，唐生智又下达了口头指示，规定第87师、第88师、第74军及教导总队“如不能全部突围，有轮渡时可过江，向滁州集结”。这就大大降低了命令的严肃性，也为不执行命令制造了借口，以致计划中规定的由正面突围的部队，除广东部队第66军及第83军之大部按命令实施突围外，其余各军、师均未按命令执行。有口头指示为依据的部队，必然一起拥向敌人尚未到达的下关，以便迅速、安全地渡江北撤;许多未接到撤退命令的部队因发现友军撤退而撤退。虽接到命令而并不知道撤退计划详情的旅、团长们也都认为上级既然要军队撤退，在下关必然已准备好大量渡江工具，因而亦皆拥向下关。
自行决定由下关渡江的军、师长大多未按命令规定的时间开始撤退，而是在散会后立即部署部队撤退。有的单位在接到命令前即已撤走。如卫戍司令部第2军团负责固守乌龙山要塞以掩护其他部队撤退和突围，应最后撤退，但徐源泉于12日下午即率其第41师和第48师从周家沙和黄泥荡码头乘坐其预先控制于该处的民船最早渡至江北，经安徽去江西整顿。乌龙山要塞部队在徐源泉部撤走后，也于当晚毁炮撤去江北。有的将领只向所属部队打撤退电话，或回去安排一下撤退事宜就脱离部队，先行到达下关，随同卫戍司令部及第36师乘渡船先到江北。如第71军军长王敬久、该军第87师师长沈发藻等根本未回指挥所;教导总队队长桂永清回到富贵山地下室指挥所后告知幕僚撤退任务，即留参谋长邱清泉处理文件等，自己单独先去下关;其第2旅旅长胡启儒得知撤退消息较早，不等会议结束，即以奉命去下关与第36师联系为由，电话通知其第3团团长代行旅长职责，独自先去下关。
由于城中各部队多沿中山路向下关撤退，而挹江门左右两门洞已 经堵塞，仅中间一门可以通行，各部争先抡过，互不相让，不少人因挤倒而被踩死。如教导总队第1旅第2团团长谢承瑞，在光华门阵地上曾英勇地抗击日军多次冲击，却在挹江门门洞内被拥挤的人群踩死。有的将领，如第83军第156师师长李江见城门无法挤过，就从门东侧用绑腿布悬吊下城出走。
下关情况更为混乱，各部队均已失去掌握，各自争先抢渡。由于船少人多，有的船因超载而沉没。大部官兵无船可乘，纷纷拆取门板等物制造木筏渡江，其中有些人因水势汹涌、不善驾驭而丧生。
因乌龙山要塞守军撤走，原停泊于草鞋峡、三台洞(燕子矶南)的“文天祥”鱼雷快艇中队也于12日夜驰去大通，12月13日拂晓，日军山田支队未经战斗即占领了乌龙山;日海军舰艇通过封锁线到达下关江面，日军第16师团一部亦乘舟艇进至八卦洲附近江面。大量正在渡江的中国军队官兵被日海军及第16师团的火力和舰艇的冲撞所杀伤。宪兵副司令萧山令即死于半渡之中。与此同时，日军各师已分由中山门、光华门、中华门、水西门等处进入南京城内;原在镇江的天谷支队已渡过长江，正向扬州前进中;国崎支队已至江浦，正向浦口前进中。已渡至江北的中国军队沿津浦路向徐州方向撤退。
12月14日，根据中国大本营的指示，唐生智在临淮关宣布南京卫戍司令长官部撤销，撤至江北的卫戍军部队改隶第三战区。南京保卫战基本结束。
