据说，黄金荣在上海解放前夕，没有随同蒋介石去台湾，原因有四：一是流氓具有极强的地方性。去了台湾，人生地不熟，他也就无势无力;二是他的财产大都是不动产。他曾向杜月笙商借20万美元，以便逃亡之后作花费之用，杜月笙居然没有答应，撇下他去了香港;三是他年已八旬，多病缠身，不像杜月笙小他 20岁;四是他知道蒋介石大势已去，已跟共产党私下有所接触。黄金荣自己声称:“我已经是快进棺材的人了，我一生在上海，尸骨不想抛在外乡，死在外地。”
上海解放之初，慑于强大的政治压力，黄金荣曾把自己手下400多名帮会头目的名单，交给了上海地下党。所以解放后，青帮未敢作乱。当时上海这里接管，那里接管，黄金荣却安然住在上海家中，没有碰他一根毫毛。
1951年初，声势浩大的镇压反革命运动开始了。一封封控诉信、检举信，寄到了上海市人民政府，坚决要求镇压青帮头子黄金荣。
上海市人民政府召见黄金荣，向他说明既往政策不变，但要求写一份悔过书公开登报，向人民认罪。
1951 年5 月7日，黄金荣口授，他的属下龚天健捉刀，写下《悔过书》，送交上海市政府。5 月20 日，上海《文汇报》和《新闻报》上发表了黄金荣《悔过书》，题目改为《黄金荣自白书》。
《黄金荣自白书》如下：
我小时候在私塾读书;十七岁到城隍庙姨夫开的裱画店里学生意。二十岁师满，在南门城内一家裱画店里做生意，五年后考进前法租界巡捕房做包打听。那时候，觉得做裱画司务没有出息，做包打听有出息。现在想来，做包打听成为我罪恶生活的开始。
我被派到大自鸣钟巡捕房做事，那年我二十六岁，后升探长，到五十岁时升督察长，六十岁退休。这长长的三十四年，我是一直在执行法帝国主义的命令，成为法帝国主义的工具，来统治压迫人民。譬如说私卖烟土，开设赌场，危害了多少人民，而我不去设法将其阻止，反而从中取利，实在真不应该。
蒋介石是虞洽卿介绍给我认识的。国民党北伐军到了上海，有一天，张啸林来看我，他们谈起组织共进会，因为我是法租界巡捕房的督察长，叫我参加，我也就参加了，就此犯一桩历史上的大罪恶，说起来，真是无限的悔恨!后来，法租界的头脑费沃利，命令禁止共进会在法租界活动，一方面张啸林要利用共进会发展他们的帮会势力，所以对我不满意，我因为职务的关系，就和他们闹意见，从此与张啸林避不见面，不久，我辞去法巡捕房职务，退在漕河泾了。我在法巡捕房许多年，当然有些势力，有许多人拜我做先生，我也收了很多门徒，门徒又收门徒，人多口杂，就产生了在社会上横行霸道、欺压善良的行为。我年纪大了，照顾不到，但无论如何，我是应该负放纵之责的，因而对于人民我是有罪的。
解放以后，我看到共产党样样都好，人民政府是真正为人民的政府。几十年来被帝国主义军阀国民党统治下的上海，整个变了样子，政府根绝了贪污，社会上没有敲竹杠仗势欺人的事情。我今年八十四岁，已经二十多年不问世事，但经过了这个翻天覆地的变化，看到了伟大的人民力量，再检讨自己六十岁以前的一切行为，感到非常痛苦。一方面我对于人民政府对我的宽大，表示深深惭愧和感谢，一方面我愿向人民坦白悔过。恳切检讨我的历史错误。请求允许我立功赎罪。
我坚决拥护人民政府和共产党，对于政府的一切政策法令，我一定切实执行。现在，正是严厉镇压反革命的时候，凡是我所能知道的门徒，或和我有关系的人，过去曾经参加反革命活动或做过坏事的，都应当立即向政府自首坦白，痛切承认自己的错误，请求政府和人民饶恕;凡是我的门徒或和我有关系的人，发现你们亲友中有反革命分子要立即向政府检举，切勿徇情。从今以后，我们应当站在人民政府一边，也是站在人民的一边，洗清个人历史上的污点，重新做人，各务正业，从事生产，不要再过以前游手好闲，拐骗人，吃讲茶乃至鱼肉人民的罪恶生活。这样，政府可能不咎既往，给我们宽大，否则我们自绝于人民，与人民为敌，那受到最严厉的惩罚，是应该的了。
现在共产党宽大为怀，使我有重新做人的机会，在毛主席旗帜下，学习革命思想，彻底铲除帝国主义的封建思想意识，再不被反动派利用，做为人民服务的人。
最后，我谨向上海市人民政府和上海人民立誓，我因为年纪大了(今年八十四岁)，有许多事已经记忆不清。话也许说得不适当，但是我的忏悔惭愧与感激的心，是真诚的!是绝不虚假的。
黄金荣的这份自白书对上海的流氓们起到了震慑作用。为了表示痛改前非的决心，黄金荣开始在“大世界”门前扫地。他扫地的照片见报之后，产生极大的震憾，尤其是诸多帮派头目，看到黄金荣这样的流氓大亨都威风扫地，低头认罪，也就纷纷向人民政府交代罪行。
1953 年6 月20 日，黄金荣在上海病故，终年86 岁。上海滩另一个流氓大头目、比他小20岁的杜月笙，反而先于他，在1951 年病故于香港。
