1959年庐山会议以前，人们都知道彭、黄的关系比较好， 但是真正了解得很清楚的人不多，连毛泽东也不很了解他们的关系。
1959年7月30日上午，中共在庐山举行八届八中全会前夕，为了准备对彭德怀进行揭发批判，毛主席把黄克诚、周小舟、周惠和李锐四个人叫到“美庐”别墅谈话。谈话的主要意思，是暗示他们不要跟着彭德怀走得太远，应当及早同彭德怀划清界线。
谈话一开头，毛主席就对黄克诚说，过去不很了解你的历史，也不很了解你和彭德怀的关系。接着就提出了一连串的疑问:
1、在小组会议上，为什么很多人说你对彭德怀是唯命是听，惯言你们是“父子关系"？
2、还有些人说彭德怀对你是言听计从，说你是彭德怀的“政治参谋长”，这又是怎么回事？
3、为什么人们还说你们是“湖南小集团"？
4、最后，毛主席还加上了一个说法，那就是所谓“军事俱乐部”。
对于以上说法，黄克诚在恢复工作以后回忆说，“这是当时给我扣的四顶帽子”。
黄克诚是一个刚毅的人，毛主席提出一个问题，他当即就插话，针锋相对进行反驳。
毛泽东提到“父子关系”时，黄克诚说:“这是侮辱人。 我和彭德怀都是共产党员，是同志关系。我长期在他领导下工作，我对他有服从的一面，也有争论的一面，而且我同他争论的次数比别的人都多。不论我们争论得多么激烈，但是过后照样工作，谁也不去计较。我们完全是正常的工作关系”。
毛泽东说有人说黄是彭的“政治参谋长”时，黄克诚反驳说：“我这个总参谋长是主席你提的名，在你给我谈话的时候，我就说过，我不是这个材料，言谈举止都没有个军人姿态，怎么能当总参谋长！可你仍然非要我当不可，我算是什么‘政治参谋长’！”
接着，黄克诚又辩驳说:“在你开始批评彭德怀同志那天晚上，我和周小舟他们几个人只是在一起谈了一次彼此的心情，怎么就能说成‘湖南小集团’。要是照这样推论下去，党内小集团就太多了，往后同志间谁也不要同谁交往了”。
关于“军事俱乐部”，黄克诚后来说，当时他觉得毛主席提得比较笼统，没有多加辩解。
在谈话中，黄克诚措辞激烈，但是毛主席没有计较。反而用缓和的语气说：“这些疙瘩要解开。”
毛主席又提到解放战争期间，黄克诚不赞成举行“保卫四平”战役，曾向林彪提出反对意见，林彪未加采纳。毛主席说: “那是我决定的，不关林彪的事。”
黄克诚当即说，“你决定的也是错误的。”
黄克诚的态度，可谓是很坚决的，对毛主席都敢于反驳，可见他的铮铮铁骨。
三天过后，中央在庐山举行八届八中全会，黄克诚被列为彭德怀反党集团，随后就被打倒了。
黄克诚被打倒后，直到1977年在十一届三中全会才复出。在80年代，国内外出现一股否定毛主席及其思想的潮流。1980年11月，黄克诚在中纪委会议上脱稿发表讲话，正确评价和维护毛泽东的历史地位及其思想，他深情地说：“毛主席作为我们党和国家的主要缔造者，多次在危机中挽救了革命，这是我们党内任何其他人都不能比拟的。我们还不习惯其他称呼，还是称呼毛主席好。”
黄克诚的讲话对统一全党、全军的思想起了巨大的积极的作用。陈冠任著、中共党史出版社的《大河向东：他们为什么追随毛泽东》一书记述了黄克诚与毛泽东的私人关系，该书为该社的年度畅销书，曾经名列中国政治军事畅销书榜第九名（如图）。
