20世紀20年代末，是安徽黨組織大發(fā)展時期。到1928年底，安徽絕大多數(shù)縣都建立了縣委、特區(qū)委或特別支部。壽縣黨員超過400人，宿縣270人，潛山151人，霍山120人，六安132人。

1931年2月15日，中共安徽省委在蕪湖正式成立，王步文任代理省委書記。省委設立了書記處、組織部、宣傳部、秘書處、交通處、印刷處等機構，省委成立后，指導各地深入發(fā)動以土地革命為中心任務的各項群眾運動。

但是，1931年4月6日，省委機關被破壞，省委書記王步文、常委霍錕鏞等11人被捕，不久王步文、霍錕鏞等在安慶英勇就義。此后，安徽很長一段時間內未能成立一個全省性的黨組織。

1949年2月中旬，為了渡江戰(zhàn)役需要，華東局決定并經中央批準成立中共安徽省委，宋任窮任書記。同年4月，中共安徽省委被撤銷。

1952年1月2日，中共中央批準，成立中共安徽省委員會，曾希圣任書記。