1961年11月11日，马林科夫、卡冈诺维奇和莫洛托夫彼开除出苏联共产党，从苏联共产党高级职务上除名时斯大林去世和部长会议副主席、国家保安部门首脑贝利亚被处死后，赫鲁晓夫与斯大林的当然继承人马林科夫展开夺权斗争。
1953年9月，他取代马林科夫成为第一书记，1955年免去马林科夫部长会议主席的职务拥立由其一手挑选选的布尔加宁元帅取代。1955年5月，当赫鲁晓夫初次出国与布尔加除一起访问南斯拉夫时，开始表现出他的灵活性，他为斯大林于1948年谴责南斯拉夫共产主义向铁托道歉。后来在访问日内瓦、阿富汗和印度时，开始显示出他的粗鲁的和外向性的个人外交作风。在1956年莫斯科苏共第20次代表大会期间，他于2月24～25日发表秘密讲话，揭露斯大林一人统治的暴行，攻击这位己敌的苏联统治者的“不能容纳异已、他的残忍和对权力的滥用”。
共产党第一书记揭露30年代大清洗中的非法处决和苏联警察镇压的暴行，产生了赫鲁晓夫始料不及的深远影响。东欧的紧张形势在苏共党内形成了反对赫鲁晓夫的派别。1957年他终于使马林科夫、莫洛托夫等人永久失势，给他们扣上了反党集团成员的帽子。