據考古發現，該城位於公元前3000年，有人類活動的跡象。這些石器時代和青銅時代的民居遺跡至今仍保留在利馬特河左岸的林登霍夫山上，是蘇黎世最珍貴的文化遺產之壹。
從1世紀中期開始，羅馬人就統治了這個地方，在林登霍夫山上修建碉堡和檢查站(用於收稅)，當時這裏叫圖裏庫姆。
公元前5世紀，阿拉曼尼人取代羅馬人，成為這片土地的主人。8世紀，神聖羅馬帝國查理曼大帝開始建造蘇黎世。壹般認為，格羅大教堂，這個城市今天最重要的建築之壹，可能來自神聖羅馬帝國的皇帝。
公元853年，查理曼大帝的孫子，德國人路德維希在大教堂對面的利馬特河上建造了另壹座聖母院教堂——聖母教堂，但它立即被他的女兒希爾德加德改建為修道院。
中世紀時，蘇黎世和大多數歐洲城市壹樣，遭受外星人入侵，期間流傳著許多悲傷的故事。林登霍夫山上的雕刻噴泉是紀念它的傳說之壹。
1218年，蘇黎世成為日耳曼帝國的帝都之壹。1336年，蘇黎世議會在魯道夫·布倫的主持下通過了《經濟協會法》。1351年加入瑞士聯邦的行列，成為瑞士聯邦的第五個州，開始了相對穩定快速的發展。
1440年，因與他國發生土地糾紛，引發戰爭，被瑞士聯邦驅逐出境；1446在內戰中戰敗；它於1450年被聯邦重新接納。
在16世紀，當宗教革命如火如荼的時候，蘇黎世也開始了文化和經濟齊頭並進的現代化。
18世紀的法國大革命給這裏帶來了相當大的意識形態沖擊，造成了社會和政治的混亂。然而，蘇黎世很快找到了自己的方向，並朝著現代化的方向快速前進，最終成為歐洲最重要和最具活力的化學和工業城市之壹。
如今，蘇黎世不僅是壹座經濟城市，也是瑞士文化和教育的學術中心，擁有中國最大的大學——蘇黎世大學，以及著名的瑞士聯邦科學技術協會。瑞士偉大的教育家約翰·裴斯泰洛齊(1746 ~ 1827)，C.F .邁耶和戈特弗裏德·凱勒也誕生於此，為這裏增添了不少學術色彩和人文魅力。
21世紀初，在瑞士心理學家和精神治療師卡爾·古斯塔夫·榮格(Jung，1875 ~ 1961)創立的基金會的鼓勵下，蘇黎世吸引了很多心理學家在這裏做研究，這讓蘇黎世看起來像是世界心理治療的發展中心。
有不少名人曾在蘇黎世生活或學習過。比如列寧在市內的索齊亞拉基夫讀書，而愛爾蘭人詹姆斯·喬伊斯葬在市內的通順公墓，他的代表作《尤利西斯》就是在蘇黎世寫成的。此外，德國作曲家理查德·瓦格納(1813 ~ 1883)的部分作品也記錄在這裏。