1878年10月1日（清光緒四年九月六日）出生川沙鎮內史第，早年父母雙亡。1887年隨外祖父發蒙，接受傳統教育。迫於生計，年未弱冠，即在家鄉任塾師。1899年時在松江府以第壹名取中秀才。1901年入南洋公學﹐選讀外文科﹐受知於中文總教習蔡元培。1902年後又中江南鄉試舉人。1903年返鄉興辦小學堂。期間，開始接觸嚴復翻譯的《天演論》等新學書籍。次年在鄉辦校，因鼓吹反清被逮捕，壹度入獄，在江蘇巡撫“就地正法”批文到達壹小時，由基督教外籍牧師保出，逃亡日本，壹年後事息歸國，繼續興辦學校。1905年參加同盟會。辛亥革命前，先後創辦和主持廣明小學和師範講習所、浦東中學，在愛國學社、城東女學等新教育團體和學堂中任教，並參與發起江蘇學務總會。辛亥革命後，任江蘇都督府民政司總務科長兼教育科長，後任江蘇省教育司長，全力以赴改革地方教育，全面規劃建設了省立高、中等學校和縣立小學，省教育會副會長，上海申報館旅行記者。1908年與童世亨等***同創辦浦東電氣股份有限公司，為浦東最早的供電設施。1913年發表《學校教育采用實用主義之商榷》，提倡教育與學生生活、學校與社會實際相聯系。1914年2月至1917年春，他以《申報》記者身份在安徽、江西、浙江、山東、北京、天津等地考察了五個月。隨中國遊美實業團體在美國考察了25個城市52座學校，廣泛接觸各界人士，尤註重考察美國的職業教育。
1915年4月，隨農商部“遊美實業團”赴美報聘，考察教育，撰寫《旅美隨筆》。黃炎培還到日本、菲律賓、南洋各地考察。每次考察均有記錄，並結集出版。他認為辦教育如同治病，知病源才能開好藥方，做到對癥下藥。“外國考察，讀方書也；國內考察，尋病源也。方書誠不可不讀，而病所由來，其現象不壹，執古方治今病，執彼方治此病，病曷能已。”所以，他都是從中國實際需要出發進行考察。1917年赴英國考察，同年5月6日，聯絡教育界、實業界知名人士在上海發起中華職業教育社。次年，創建中華職業學校。此後數十年時間的教育和社會活動主要通過中華職業教育社來展開。1921年被委任教育總長而不肯就職。曾參與起草1922年學制，進行鄉村建設實驗和籌辦南京高等師範學校、河海工程專門學校籌備主任（現河海大學）、國立東南大學（現南京大學）、上海商科大學（現上海財經大學）、廈門大學等高校。1931年“九壹八”事變後，黃炎培積極投入抗日救亡運動﹐創辦《救國通訊》﹐宣傳愛國主義﹔組織上海市民維持會(後改為上海地方協會)﹐支持淞滬會戰。1941年，與張瀾等人發起組織中國民主政治同盟，壹度任主席。
(左圖)為1945年7月1日毛澤東在延安宴請國民參政員飯桌上僅4菜1湯。
1945年又與胡厥文等人發起成立中國民主建國會。同年7月應邀訪問延安。寫成《延安歸來》壹書，如實介紹延安。
1946年在上海創辦比樂中學，探索兼顧升學和就業雙重準備的普通中學。 至1949年前，先後又創辦重慶中華職校、上海和重慶中華工商專校、南京女子職業傳習所、鎮江女子職校、四川灌縣都江實用職校等。 新中國成立後，黃炎培破“不為官吏”的立身準則，欣然從政。1949年9月出席中國人民政治協商會議。中華人民***和國成立後﹐歷任中央人民政府委員﹑政務院副總理兼輕工業部部長﹑全國人大副委員長﹑全國政協副主席﹐中國民主建國會中央委員會主任委員等職。1965年12月21日病逝於北京。骨灰安放於北京西郊八寶山革命公墓，夫人姚維鈞的骨灰也安放於此。
曾創辦有“人文圖書館”，1933年，籌建新館，實業家葉鴻英捐款40萬元，改名“鴻英圖書館”。收藏以社會科學、歷史及關於近代史料為主。至1946年，藏有報紙136種、雜誌3 604種、圖書5萬余冊。私人藏書豐富，古籍法帖珍品不少。所藏魏晉、唐、宋碑帖數種，名人書畫等，毛澤東曾借過其收藏王羲之書法真跡。
黃炎培文章峭拔清健、傲岸不群。筆歌墨舞、酣暢淋漓。詩初學溫、李，繼復寢饋李、杜。思力沈厚，趣味雋永，章調鏗鏘。興到落筆，雖語必工，富於著述。著作有《黃炎培考察教育日記》、《新大陸之教育》、《東南洋之新教育》、《中國商戰失敗史》（合作）、《中國教育史要》、《黃黃炎培考察教育日記海環遊記》、《斷腸集》、《蜀道》、《抗戰以來》、《延安歸來》、《學校教育采用實用主義之商榷》、《黃炎培教育考察日記》、《中華職業教育社宣言書》、《八十年來》、《南洋華僑教育商榷書》、《我之人生觀與吾人從事職業教育之基本理論》、《中國關稅史料》、《對外貿易史料》、《淞滬抗日史料》，詩集《斷腸集》、《苞
桑集初稿》、《紅桑》等。家鄉故居建有紀念館。