泰山的道教始於1800年前的東漢末年時，張陵創五鬥米道。奉老子為教祖，尊為太上老君，《老子五千文》為主要經典。其間，張陵弟子崔文子上山采藥煉成“黃赤散九”，於瘟疫流行時救人萬計。從此，道教在泰山開始傳播。道教視泰山為神仙所居之洞府和道土理想的修行地，稱其為三十六洞天之第二洞天。道教認為泰山神和泰山奶奶是泰山最重要的神。供在碧霞祠的碧霞元君，成為信徒心目中最靈驗的女神，他們認為只要“積德行善，心地真誠，跟她求啥，她都會答應”。直到現在來泰山的遊客，都以朝拜泰山奶奶為首要目的。 在泰山修煉過的著名道冠有崔文子、張煉師、邱處機、張三豐等幾十人。崔文子是泰山的早期道人，他采集山百藥，制成了“黃赤散九”，為民治病，為道教在泰山奠定了雄厚的民間基礎。張煉師是泰山第壹位女道人，她曾陪京師大臣朝拜岱嶽，在泰山萬仙樓桃花澗斷崖上，還有當年張煉師的題刻。有壹首《送東嶽張煉師詩》道：“東嶽真人張煉師，高雅清淡世間稀。堪為烈女書青簡，久事元君住翠微”。 全真派在泰山的影響極大，出現了很多著名的道觀，尤以邱處機的名氣為大。據泰山地方史誌記載，王重陽的隊內弟子、全真龍門派創始人邱處機，曾修煉於後石塢的金絲洞。以碧霞祠為代表的道教觀院，現在仍然是泰山宗教的主流，每到農歷正月十五日，來為泰山奶奶過生日的善男信女們不計其數。 唐高祖李淵稱帝以後，傳說太上老君說他是太上老君的後裔，子孫應當享國萬年。《唐會要》卷50《尊崇道教》說：“武德三年五月，晉州人吉善行於（浮山縣）羊角山，見壹老臾，乘白馬朱鬣，儀容甚偉，曰：‘謂吾語唐天子，吾汝祖也，今年平賊後，於孫享國千歲。’高祖異之，乃立廟於其地。”所以，唐代以道教始祖老子為李氏祖先，道教得到大力發展。唐高宗李治為老子上尊號為“太上玄元皇帝”，令諸州各建觀壹所，在泰山王母池西側遂建“岱嶽觀”，俗稱“老君堂”。自唐太宗開始，對煉丹術十分重視，迷信長生不老之藥，結果唐太宗、唐高宗均因服丹過多而中毒身亡。唐憲宗也終於以“取餌過當，暴成狂躁之儀，以至棄代。”（《舊唐書》131卷）唐高宗和武則大於顯慶六年（公元661年）。遣道士郭行真等人特到泰山建醮造像，並立《雙束碑》。接著高宗、玄宗相繼登封泰山，黃老道教在五嶽之首即進入鼎盛時期。唐代不少著名道仙不斷來泰山修道傳教。傳八仙之壹呂祖曾三至泰山，並在巖洞煉丹。西王母也久居泰山。
唐玄宗時（公元712-756），泰山女道張煉師居岱頂玉女祠。傳開元年間，張煉師與李某同至泰山學道，後來，某借家有妻妾為由，辭別而歸，官至大理丞。安祿山叛亂時，李攜妻至襄陽。後又獨去揚州，途中與張煉師相遇（張邀其同宿，李見門庭壯麗，殿宇璀璨，舞妓婆娑，中有持箏者酷似家妻，歌舞畢罷，張煉師呼喚持箏者，獎賞沙果，並系於裙帶之上，遂散去。次日，李復至門庭，只見荒穢無人跡 ，速回襄陽尋其妻，果見裙帶系沙果，問其故，妻子答曰：“壹夕，夢見五、六個舞妓追趕我說：‘張大仙人喚妳去為她撥箏。’”我便隨去彈箏，臨別仙人以沙果系於我裙之上。李這才恍然大悟：知當年女道張煉師已得仙升天。唐代詩人劉禹錫曾賦《送東嶽張煉師詩》頌其女道：“東嶽真人張練師，高情雅淡世間稀。堪為烈女書青簡，久事元君住翠微。金縷機中拋錦宇，玉清壇上著霓衣。去衢不用吹簫伴，只擬乘鸞獨自歸。”唐代宗大歷八年（公元773年）張練師曾陪京都大臣朝拜岱嶽，至今在萬仙樓後樓花澗斷崖上，仍存當年張煉師題刻。
泰山道教在宋代又得到了進壹步的發展。宋真宗封泰山時，晉封泰山神為“天齊仁聖大帝”，封主管東方和泰山的天神青帝為“廣生帝君”，封泰山老母為“天仙玉女碧霞元君”。接著拓建岱廟，創建碧霞祠，大興土木，宮觀林立。同時命大臣王欽若、張君房等編輯道藏。徽宗（公元1101—1125年）時，自稱“教主道君皇帝”。詔天下訪求道教仙經，校定鏤版，刊行全藏；又於太學置《道德經》、《莊子》、《列子》博士，壹時道教大盛。這時有山東諸城人張景巖隱居岱陰明月嶂，結茅為庵，常采紫芝制“仙藥”故至今有“采芝庵”遺 址。大中祥符二年，宋真宗把“善服食，得延年”的泰山隱士秦辨召至京城，親自接見，並賜號“貞素先生”。宋皇佑間煉師龐歸蒙在岱麓王母池煉丹修道。 道教在金代之前統稱為“天師道”。金大定七年（公元1167年）王重陽在山東寧海（今牟平）創立以道教為主，兼融儒釋的全真道。此後，道家正式分為正壹、全真兩大教派。正壹派道士壹般不出家，俗稱“火居道士”或“俗家道士”；全真派道士須出家。泰山主要是全真派。金時，山東棲霞人丘處機19歲在寧海昆崳山（今牟平東南）出家，拜王重陽為師。金世宗大定十四年（公元1174年）入磻溪穴居，乞食度日，行攜壹蓑，人稱“蓑衣先生”。隨後去隴州龍門山隱居修道，為龍門派創始人。後來他攜其弟子在岱麓長春觀，常居觀內，人稱“長春真人”，並在岱陰金絲洞煉丹。元太祖成吉思汗尊其為神仙，元世祖忽必烈賜號“長春演道主教真人。”《泰山小史》：“泰山南址有長春觀，丘以全真為教，元時賜號‘無為演道大宗師’別號‘長春’後去嶧山遂仙。”《岱史》載，長春觀內有丘神仙牒碑，刻成吉思汗皇帝敕旨。繼而，丘處機的女弟子訾守慎住持長春觀，元帝賜號“妙真”。
元代，泰安埠上保人張誌純，6歲能誦五經，12歲入泰安城“會真宮”學道，數載道行超群。號“天倪子”。其道名“誌偉”，元惠宗為其更名為“誌純”，賜號“崇真保德大師”，受幹紫服。其間任東嶽廟住持，東平路捉點道教官，曾創建泰山南天門，重修嵩裏山神祠。郡人王天挺贊雲：“冰霜外潔，日星內炳”。羽化（古時成仙為羽化，後世稱道教徒逝世為羽化）時年120歲，臨亡自雲：“脫下娘生皮袋，此際樂然輕快。百尺竿頭進步，蓬元洞府去來。前世宿德醫僧，今作道門小才。”元代文學家元好問和徐世隆均有《送天倪子歸埠山詩》。這時徐世隆與道家方士結交最相契，與張誌純時常登岱同遊，或居岱廟切磋道術，成為翰林名道。 他收留三個頑童為徒：其壹教習泅水，其二教授漢書，其三授於考舉之業。後來，習泅水者恰遇濟南府城被黃河洪水所淹，泅水數眾人千萬，封爵位嘉賞；授漢書者雙目失明，靠說書乞食為生；授考舉者登科應爵位，年80余歲時，世險復來相見。到明朝中期天順間，世隆又來泰山，這時，唯有岱麓升元觀壹老道士識其面貌，黑發童顏如兒時所見，後來不知去向。道家把徐世隆吹虛為神仙，成仙是假，與天倪子交結其深是真。徐世隆有詩為證：“九十行年發未花，道人風骨飽煙霞。洞天福地三千裏，神府仙閭第壹家。牛膝藥靈斟美酒，兔毫盞凈啜芳芽。隱居自愛陶宏景，莫作山中宰相誇。”天倪子羽化後，徐世隆又賦《記夢五言詩》寄托哀思。
此外，岱陽老人寨如今有“朗然子洞”，元初劉朗然修道處；岱頂鷹愁澗東崖有“清靜石屋”，洞極深廣，石床天然，清泉香冽，元初寧海女道孫清靜修真於此。元代中期又有泰安女道毛仙姑築庵徂徠山，修持30余年，於延祐二年（公元1315年）十壹月十九日羽化，並留遺言：“混處修持三十年，是非海裏了真緣。如今脫下皮襄日，拍塞靈空永自然。” 傳說明代有著名道人張三豐，曾在岱陰明月嶂北巖洞修真煉丹，後稱“懶張石屋”。張三豐名張君寶，別號“保和容忍三豐子”，遼東懿州（今遼寧阜新縣）人，力大無比，能移禪塔。 到清代至民國間，道家仍是泰山洞穴或危崖茅棚，處處流其蹤跡。所以道教在泰山歷代不息，神宇遍布。至今保留完好的道教祠廟尚有20余處。
洪武十五年（1382），在京師設道錄司，隸屬於禮部，作為管理道教的最高行政機關；府設道紀司，都紀壹人，從九品；州設道正司，道正壹人；縣設道會司，道會壹人。分別掌握府、州、縣的道教事務，均歸道錄司統轄，俱選精通經典、道行端潔的道士擔任。司署設在岱廟和碧霞祠，加強對道士女冠的檢呸，明清兩代泰安岱廟住持壹直由朝廷直接任免。道教附屬於朝廷行政之下，失去了過去在政治上的壹點相對獨立性。洪武三年（1370）隨著封禪制的嬗變，還取消了“天齊大生仁聖帝”的封號，改稱“東嶽泰山之神”，恢復了山神的本來面貌。洪武十年、十壹年、二十八年、三十年，又先後派遣道士吳永輿、樂本然、朱鋒如等改祭東嶽泰山神。
明成祖以後，不少帝王都和道士中的術士往來，特別是世宗和神宗，他們喜愛各種方術，相信符箓和齋醮。明代對道書的整理也十分重視，道藏刻印完成，頒布全國名山宮觀，萬歷二十七年（1599），神宗差太監李升齋到泰安，並向岱廟頒發《道藏》壹部。敕諭住持和道徒，“朝夕禮誦”，以祚“民安國泰，天下太平。”求得封建統治的長治久安。這就是神宗弘揚道教的用意，也是歷代統治者利用宗教的目的。
世宗、神宗推崇道教，但神靈並沒有保佑泰安神州。據有關泰安地方史誌記載：世宗嘉靖八年（1529），泰安蝗、九年又蝗，十六年泰安大水、三十泰安水，“溺死者眾”，三十壹年，“泰山大饑餓，餓莩枕籍，民多取其肉食之。”神宗萬歷十四年（1586），“泰山碧霞宮四方來禱焚者互相踐踏，死六十壹人（查誌隆《岱史》卷），“死者惟咎於事神不恪，及積過所到而已。”（《岱史》卷）。信仰者滿懷宗教熱情，在茫茫迷霧中尋求希望，但最後得到的只是希望變成泡影，受害的正是那些虔誠於泰山神祇的人民。
封建統治者不僅通過泰山神只是麻醉人民，還借此對香客進行經濟剝削。明武宗正德十壹年（1516），朝廷用鎮守太監黎鑒的建議，征泰山香稅。從遙參亭經紅門到岱頂設分理官6員，總巡官1員，規定本省香客每人5分4厘，外省9分4厘。因外省香客報名，壹律改為稅銀8分。清初增加到1錢4分。據明張岱在《岱誌》中記載：“合計入山者，日八九千人，春初日滿二萬。”“歲入二崐三十萬兩”。至於香客施舍的珠寶、玉石、首飾、金銀娃娃、銅錢藩蓋袍服、紗羅緞布等，更是不計其數。這些錢財“充國稅若幹，充齊魯間藩祿官廩軍儲公府之費若幹，……取給殫盡。”（《岱史》卷18）“山東合省官，自巡撫以至州目，皆分及之。”群眾奉獻給泰山神祇的錢財卻進入了官吏的私囊。直到清雍正十三年（1735），才詔令廢除香稅。
明末至鴉片戰爭前，中國處於封建社會末期。封建制度逐漸瓦解，資本主義生產關系萌芽，西方文化開始傳入並發生影響。在這種新的歷史條件下，封建統治者不可能原封不動地利用傳統的封建神學這個工具，清康熙帝就曾說過：“壹切僧道，原不可過於優崇。”正統的道教逐漸衰落，但是由於道教與民間宗教有傳統的淵源關系，道教依然在社會上有廣泛的影響。
這個時期，泰山道教出現兩個重大變化：壹是祭泰山神的活動，由帝王將相逐漸普及於民間；二是東嶽大帝逐漸被碧霞元君取而代之。乾隆三十五年（1770）的《重修岱廟碑記》中概述了這種演變：“蓋由柴望壹變為封禪，由封禪再變為神仙”。以碧霞元君為代表的神仙道教，在泰山得到空前的發展。
早在宋真宗封泰山時，在岱頂玉女池得壹石像，賜名“天仙玉女碧霞元君”，專建“昭真祠”以祭祀，道教常常因人因事因物而設神，於是對此又加以附會。並撰著了經文，如《碧霞元君護國庇民普濟保生妙經》中就聲稱：“泰山岱嶽，奠靖坤元，中有元君，號曰天仙”，“受命玉帝，證位天仙，統攝嶽府神兵，照察人間善惡。”為了將碧霞元君納入道教神祇的行列，還編造神話傳說，這就是《歷代神仙通鑒》中所說的，大茅君泰山獲偶，“八月月盈之夕至泰山完婚”，大茅君是道教茅山宗的始祖，元君是他的夫人，當然也是道教中的神，清康熙間還在岱廟東禦座增建了“三茅殿”。這樣，壹人傳其虛，萬人傳其實。碧霞元君的身價也愈來愈高，最初是東嶽大帝的侍女，後來成為東嶽大帝的女兒，最後則成了受玉帝任命的天仙，人稱泰山老奶奶，其地位當然超過東嶽大帝了。清人記載：“禮岱者皆禱於泰山娘娘祠廟，而弗旅於嶽神久矣。”以至到本世紀初，泰安百姓“終日仰對泰山，而不知有泰山，名之曰奶奶山。”
信徒認為泰山奶奶是泰山的神，只要“積德行善，心地真誠，跟她求啥，她都會答應。”崇奉碧霞元君的活動，大多只是求神保佑賜福，而且主要是當前的切身利益，信徒所要求的壹般是“貧者願富，疾者願安，耕者願歲，賈者願息，祈生者願年，求子者願嗣。”（《泰山東嶽廟碑》）至於六道輪回、天道承負，還不是急迫考慮的事情，白日飛升、長生不死也無比奢望。但這種宗教活動符合民間信仰及鬼神崇拜心理，同時也與封建社會後期商品生產的發展、促使宗教向世俗方向變化這壹歷史背景息息相關。