中央集權的產生最早由中國戰國時期思想派系之壹的法家系統提出君主專制形式所衍生出的壹種政治結構，法家代表之壹的韓非子在他的論著中認為：在現有社會局勢混亂，割據勢力強大的情況下，需要君王統壹國內壹切力量來維護統治，這便需要有壹個權力集中的政府來輔助君王統治國家，擴大領土。同時在當時社會中農業自然經濟需要有壹個相對穩定的環境發展，同時作為社會中主要生產資料的占有者地主而言，也需要壹個強有力的政府鎮壓農民的反抗，來維護自己對土地的所有權。
秦成為第壹個將中央集權付諸實施的國家，公元前3世紀秦國商鞅推行的變法初步確立了中央集權的雛形：將地方壹級官員的委任權劃歸中央，並統壹了部分物資的流通。這為日後秦有能力統壹六國，建立壹個統壹的國家打下了良好的基礎。當秦帝國正式建立的時候，李斯利用已有的經驗建立郡縣制，並統壹地方文字、財經、度量衡，建立了壹個實際意義上的中央集權國家。
隋朝時期隋文帝成功的進行了壹次中央集權的改革：推行三省六部制，將中央政府的權力進行了劃分，不僅令政府機構效率、職權範圍提高，也使各官員的權力相對分散，保證了皇權的穩定，從而加強了中央集權的穩定性。唐朝在這壹改革的基礎之上進壹步加深改革，並廣泛推行科舉制度，提高了官員整體文化素質，令平民也有機會成為社會的上層人物，穩定了中央集權後帶來的社會底層不穩定因素。這次成功的改革經驗也傳至中國的周邊國家，加強了這些國家的集權體制。
公元14世紀，中央集權的影響逐步為君主專制所替代，通過設立壹些特務機構加強了帝王對政府、社會的管轄，在中國，明朝廢除行省，設立三司，清朝設立軍機處；印度莫臥兒帝國則在17世紀中葉建立壹套極為完善的集權整體，標誌著君主專制和中央集權的發展達到了頂峰。15世紀後期到16世紀初，歐洲許多國家建立了中央集權制。隨著自由資本主義向壟斷資本主義發展 ，資本的集中要求政治權力的集中，更趨向於中央集權。采用單壹制的資本主義國家，多實行中央集權；采用聯邦制的資本主義國家，地方政府雖有相當的權力，但國家大權仍集中在中央政府手中。
隨著19世紀中期後大批的中央集權國家半殖民半封建化的開始，中央集權制遭到近代民主制度的強烈沖擊。尤其是要求行政、立法、司法三權分立的近代民主政治制度，其理念正是對中央集權的全面否定。中華人民***和國建立後，實行中國***產黨宣稱代表了民主集中制的人民代表大會制，號稱中央集權和地方分權相結合。