1954年2月，高岗和饶漱石的反党阴谋败露后，中央书记处决定召开座谈会，针对高岗问题进行批判。
2月17日晚，高岗被接到了中南海丰泽园的会议室，刘少奇、周总理、邓小平，早已在会议室等候。刘少奇见到高岗后严肃的说：“主角到了，现在开会”高岗却不满意的叫嚷道：“这是什么会议?政治局委员都没有来气，中调部、中联部、公安部、政法委的人却来了，这算个什么会？”
“高岗，你住嘴，有你讲话的时候！”刘少奇高盛制止了高岗，下面邓小平传达了毛主席的重要讲话，这一项九八高岗镇住了，他心中暗自思忖：难道自己真的陷入了被清算、被斗争的境地吗？此时邓小平标售，按照主席的指示，中央决定成立两个会议小组，分头解决高岗、饶漱石问题，对他们进行最后的挽救。高岗听说还大女，抓桌上的皮包边走边骂：“老子不开你们这个会，邓小平同志家传圣旨，我要去杭州见毛主席！”
刘少奇情绪激动，声音洪亮地警告道：“只要你高岗迈出半步，你将永远无法返回！”面对如此局面，高岗只好把皮包往桌上一甩，骂骂咧咧地坐了下来。紧接着邓小平就拍着桌子说高岗不像话，他是第一个在党的会议上撒野的人。就这这是，身为老特工出身的李克农看到高岗素爱在桌上的皮包里，有一只比肥皂盒大一点的半透明盒子，他立即抢到手，打开发现是一只修真手枪，高岗看到刚想抢回就被制止柱了。刘少奇不禁大怒，叫人把高岗带了下去。也是从这时起，高岗被管教了起来2月5日，他给中央写了一个交代材料称，我活腻了，如果你们所说有罪，我是想拱倒刘少奇，抓到党内第二把收的位置，今后接替毛主席，做自己的领袖。我的问题，毛主席最清楚，他应该在党内有个说法。至此之后，高岗的情绪越发不稳定，但还是心存侥幸，觉得党中央不久后应该会给他安排工作。所以他便把希望寄托在第一届全国人民代表大会上，想从中窥探自己的政治前景，他开始主义看报纸。
自8月5日起，报纸陆续报道了各地选出的人大代表名单。其中包括中央军委选出的徐向前、傅钟等五位代表；东北军区选出的罗荣桓、周士第等六位代表；以及沈阳和抚顺选出的林枫、万毅等二十五位代表。高岗在阅读报纸时特别关注与自己相关的区域新闻，由于他不确定中央会如何安排他在选举中的代表位置，因此他进行了多种推测。觉得可能把他放在东北，因为他是东北党政军的一把手，也可能放在军队，因为他是人民革命军事委员会的副主席；还可能放在北京市的中央机关，因为他是中央人民政府的副主席。
可十几天过去了，高岗依然没在报纸上看到自己的名字，也就是说，堂堂的中央政府副主席，连个代表都当不上，他感到非常难受。高岗性格刚毅，自尊心极强，他认为与其将来遭受羞辱，不如选择逃避。因此，他萌生了自杀的念头。某夜，当工作人员为他送来晚餐时，他以虚弱的语气表示自己毫无食欲，声称头痛难忍，夜晚无法入睡，并指示工作人员前往医生处，为他取来数片安眠药，强调需要多拿一些，因为少量的药片无法缓解他的症状。通过这种方式，高岗逐渐积攒了大量安眠药。
8月17日凌晨3时20分，高岗服用了大量安眠药后，随即躺卧于床榻之上。在一片漆黑与急促之中，一粒安眠药意外滑落至床上，恰巧被他压在身体之下。
清晨时分，家人发现高岗持续沉睡未醒，察觉事态不妙，遂立即联系相关机构寻求援助。约至上午9时30分，北京医院的医疗团队抵达高岗住所，并立即展开急救措施。然而，高岗的呼吸逐渐放缓，心跳亦愈发微弱，最终生命迹象逐渐消逝……
一位医生在对高岗进行检查时，发现其身下压有一粒安眠药。医生指出：“一般情况下，服用八粒此类药物便可能危及生命，即便是长期使用者，十六粒亦足以致命。”医生进一步检查高岗背部，发现一处红褐色的斑痕，断言：“这是死亡斑，表明已真正死亡。”随后，医疗团队决定终止抢救。这一决定作出的时间为上午10时17分。
毛泽东得知高岗自杀的消息后，十分震惊，也十分痛惜，叶子龙安慰他说：“高岗是自绝于党。”
