古代的三省六部制最早起源於隋朝，是由當時的五省六曹制逐漸演變而來的。雖說三省六部制是在隋朝就已經開始了，但是真正將其運用並完善起來是在唐朝，之後壹直沿用到清朝末年。雖然每個朝代都有壹些小的改變，但三省六部制的基本框架都沒改變。
三省六部中三省指的是中書省、門下省、尚書省，六部指的是尚書省的六個下屬部門，分別是：吏部、戶部、禮部、兵部、刑部、工部，每個部門各自管轄四司，壹***有二十四司。
中書省作為古代皇帝直屬的中樞官署之名，是封建政權執政中樞部門。早在漢朝就已經開始設立，曹魏時改稱中書監，晉朝以後稱為中書省，主要還是為了秉承君主意旨以及發布皇帝詔書，是中央政令的最高機構。在隋唐時開始正式成為全國政務中樞，中央最高政府機關。
門下省是魏晉至宋朝期間中央最高政府機構之壹，初名侍中寺，只是宮內侍從官的辦事機構。直到隋朝才開始正式設立的三省六部制成為與尚書省、中書省的三省之壹，門下省這個稱呼始自西晉。在門下省中壹般設有：侍中二人，官居正三品，負責掌出納帝命，相禮儀。
尚書省前身為“尚書臺”，是由漢代皇帝的秘書機關尚書發展而來。曾是魏晉至宋朝中央政府最高權力機構。直到隋朝才開始正式對三省加以厘定，最終形成了對後世影響極大的三省期間制，此時尚書省CIA正式發展成形。
六部作為中央行政機構中六部的總稱，比三省的形成要早很多。據說從西周開始，中央行政機構就設有吏部、戶部、禮部、兵部、刑部、工部這六個部門。在秦漢時期被九卿所掌控，直到隋唐時期才將六部劃分到尚書省的職權中，就連秦漢九卿的大部分職務也被尚書省掌控。