毛泽东在1975年指定邓小平取代王洪文主持党的会议时，中共仍然处在“文革”的争斗所造成的混乱之中。邓小平在党内的新职务使他得以采取一些重要措施整顿全国的党组织。在北京之外的第一步整顿工作是在省级层面进行的，3个月之后进一步推向县和公社两级。7月2日叶帅写信宣布了由邓小平主持党内工作，两天之后邓小平便在有很多省委领导参加的中央“读书班”上做了讲话，会议的重点是团结和整党。

邓小平知道毛一直在对他进行观察，因此他在会上大讲毛主席的教导，至少是“毛主席的三项重要指示”——这是他为了配合自己当时的工作目标，从毛的教导中挑选出来，组合在一起的。邓小平的目的有二，首先是让毛泽东放心他会“反修防修”，其次是强调安定团结和发展国民经济。为了加强党的团结，邓小平采用了毛在1945年抗战结束时召开的中共“七大”上的做法。在那个邓小平第一次参加的党代会上，毛泽东强调必须把抗战期间各占山头跟日本人打游击的各个单位统一起来。邓小平结合前一段时期的情况说，各自为战的打游击时期自然而然地出现了“山头”思想，同样，在“文革”期间自然也出现了派性。他总结道，现在我们党要响应毛主席在“七大”上发出的团结号召，再次克服派性。不管什么人，只要“没有犯过罪”，愿意配合整顿、放弃派性，都要给予善待，包括过去的激进派。

邓小平小心地避免触动毛的敏感神经，同时大胆地、策略性地选拔善于治国而不是闹革命的人。他没有公然表示要清除党内的“左派”或激进派，但他的确更强调对搞“宗派主义”（即拉帮结伙的“左派”）而不是搞“修正主义”（即“右派”）的人的批评。他说，要把领导权交给有10年或以上工作经验的干部。虽然他没有明确反对任命从红卫兵中提拔上来的人，但这样一来他就排除了1965年以后，即“文革”期间发迹的人，当时这些人中间有部分是“坐直升飞机”上来的。邓小平还要求对那些未经适当资格审查就入党的人重新进行审查。虽然未做具体说明，但他针对的也是1966到1975年组织程序混乱时期新增的1600万党员，而不是“文革”之前入党的1800万党员。因“不合格”而被清除出党的基本上都是坚持派性不改的人。毛泽东没有阻止邓小平的做法，这意味着他承认当时国家需要更加稳定的领导班子。整党的一项中心任务是让“文革”期间由林彪派往地方的军队干部退出对地方政府的领导。邓小平在1975年8月8日做出指示，除了少数例外，军队要退出所有地方职务。军队的很多人当时是“革命委员会”的成员，而“革委会”在一些地方已经成为正规的政府机构。1975年底很多军人又回到了军营。1975年5月5日，毛泽东主持了他的最后一次政治局会议后不久，邓小平又去医院看望了周恩来。邓小平知道自己正触及毛泽东十分关心的问题，他也知道，周恩来在跟毛泽东打交道方面要比他更有经验。周恩来告诫邓小平说，要谨慎行事，只抓具体问题，一步一步来，不要进行全面整顿。邓小平虽然敬重周恩来，也知道毛泽东有可能不再给他撑腰，但是他比周恩来更有魄力，他下决心进行全面整顿，攻克那些他认为搞四个现代化必须加以解决的老大难问题。

邓小平当时还没有谈到改革，但是在构建后来能够实施改革的中共体制的同时，他也开始思考未来改革的内容。为此他需要扩大自己的理论队伍——能够帮他思考一些大问题的官僚体制之外的作家、理论家和战略家。毛泽东让邓小平接过中央日常工作的领导权后不久，他征得毛泽东同意，把自己的一批理论人马扩大为政治研究室这样一个正式机构。该机构设在国务院下面，其实是由邓小平亲自领导，由过去就是这个智囊团首领的胡乔木继续负责它的日常工作。