1949年前夕，黄金荣的儿媳李志清席卷了黄金荣的金银珠宝，离开上海前往香港，后又到了台湾。
有人劝黄金荣到香港去，82岁的黄金荣面临人生的最后一次抉择——或去台湾，或留上海。
最终，黄金荣留了下来。“以不变应万变”是他的处世信条，反正来日无多，听天由命吧。
但黄金荣心里明白，自己已是80多岁的人，死在香港倒不要紧，只怕在半路上突发急病，死在途中，那就糟糕了。
他对人说：“我已经是快进棺材的人了，我一生在上海，尸骨不想抛在外乡，死在外地。”
对于解放军到来的时候，他既没有逃跑也没有躲避，而是安心地住在上海的宅院里，等待人民政府的处置。
解放初期，人民政府还有很多事情要处理，那时候的黄金荣也度过了一段安逸的时光。
当时黄家上上下下二十多口人，都住在龙门路均培里一号。这是黄金荣发迹后建造的一幢三层洋房，有几十个房间。
除夏天避暑去漕河泾黄家花园住一段时间外，黄金荣一直居住于此。
人民政府这时还允许黄金荣照常经营他的产业，如大世界、黄金大戏院、荣金大戏院等，每月都有一笔可观的收入。
1951年初，镇压反革命运动开始后，黄金荣的日子就开始难过了起来，市民甚至自发涌到黄公馆门口，要求他接受批斗。
一封封控诉信、检举信飞进市政府，恳请政府为民做主，报仇雪恨。
实际上，对于上海的帮会人物，如何做好他们的工作，党中央在上海解放前，已经有明确方针。就是只要他们不乱来，老实接受改造，就不处理他们。
根据这一方针，上海市人民政府出面召见黄金荣，向他说明了既往政策不变，但要求他写悔过书并公开登报，进一步向人民交代，老实认罪，以期获得人民群众的谅解。
1951年5月20日，上海《新闻报》《文汇报》刊出了黄金荣自白书。
黄金荣在“自白书”中，自称“自首改过”“将功赎罪”“请求政府和人民饶恕”等。
在自白书的末尾，他这样写道：解放后，看到共产党样样都好，所以我想到从前有许多事是不对的，人民政府对我很宽大原谅，我有说不出的惭愧与感谢。
我决定从今以后，多做些对得起人民政府的事情，我还要劝我的门生和亲友，不要做对不起人民的事体，凡是觉得自己有这种事体的，赶快要和政府自首改过，要跟我一样将功赎罪，报答人民政府的大恩大德，还要帮助政府来做好镇压反革命的事体。
上海滩第一大亨的忏悔，在当时轰动一时。
但自白书的发表并没有使得他得到安宁，在那个人人都需要劳动的年代，黄金荣的生活也必须得到改变。
政府派人向黄金荣说，在身体条件允许的情况下，希望他早晨到大世界门口去扫扫马路。
得到这一命令，黄金荣自然是极其不满的。
但是，属于他的时代早已经不在了，此时的他早已无可奈何，只能提着扫把出现在大世界门口。
彼时，在大世界门口早已经云集了众多前来拍摄的记者。
第二天，黄金荣在大世界门口扫大街的照片刊登在上海各大报刊后，立即传遍了国内外。
只见身穿长衫的黄金荣茕茕孑立于晨曦之中，一旁的垃圾车是空的，说明他似乎还没有开扫，但他尚没开扫却已在拄帚歇息，显出一副疲态。
看得出，此时此刻黄金荣的脸容是凝重的，甚至带着满脸的迷惘和惆怅。
旧上海另一大亨杜月笙在香港得知这一消息，暗自庆幸自己没有留在上海，躲过一劫。
虽然这一象征性的改造措施并没有一直持续下去，但到了1953年，上海市政府决定对黄金荣残余势力再进行打击。
由于恐惧心理，黄金荣病倒了。
在弥留之际，他将养子黄源涛叫到家中口传了遗嘱，他最后感叹道：我的一生，都风扫落叶去了，唯有留下这个大世界，不过，断气瞑目之后，大世界不可能再属于我的了。
几天之后，黄金荣便突然高烧不止，不久就闭上了眼睛，时年86岁。
