三海的歷史可溯源到10世紀的遼代，當時稱為瑤嶼。它是遼南京城北郊的遊樂之地。金大定十九年（1179），在今北海所在地大興土木，建造了許多精美的離宮別苑，先名大寧宮，後更名為萬寧宮。據《金史地理誌》記載："京城北離宮有大寧宮......明昌二年更為萬寧宮。瓊林苑有橫翠殿。寧德宮西園有瑤光臺，又有瓊華島，又有瑤光樓。"可見建築規模相當宏大。當時園林的布局情況大體是以瓊華島為中心，在島上和海子周圍修造宮苑。其位置相當於今天北海和團城部分。據文獻記載，金代經營瓊華島時缺少太湖石，特從汴京（開封）拆取艮嶽的太湖石來修築瓊華島。
到了元代，以金代的海子、瓊華島為中心建大都城，於是這裏便成了皇城中的禁苑，稱為"上苑"。經過多年經營，到至正八年（1348），山賜名萬壽山（也稱萬歲山），水賜名太液池。對元代萬壽山和太液池有較多的文獻記載。元人陶宗儀《輟耕錄》說："萬歲山在大內西北、太液池之陽。金人名瓊花島，中統三年修繕之。其山皆以玲瓏石疊壘。峰巒隱映，松檜隆郁，秀若天成。......山上有廣寒殿七間。仁智殿則在山半，為屋三間。山前白玉石橋長二百尺，直儀天殿右，殿在太液池中圓坻上，十壹楹，正對萬歲山。"在儀天殿（今北海團城）的南面，太液池南部水中，有壹小嶼，名墀天臺。整個太液池的位置大體相當於現在的北海和中海範圍。
明代，在元代禁苑基礎上進行了擴建，奠定了現在三海的規模。明朝初葉只是對廣寒殿、清暑殿和瓊華島上的壹些建築稍加修葺。天順年間對西苑進行較大規模的擴建。主要工程有：開辟南海，擴充了太液池的範圍，完成了北海、中海、南海三海的布局。填平了儀天殿與紫禁城之間的水面，砌築了團城。在瓊華島上和太液池沿岸增添了許多新建築物。
清代對西苑又作了許多新建和改建。重要的營建有兩次：順治八年（1651）拆除了瓊華島山頂上的主體建築廣寒殿和四周的亭子，修建了巨型喇嘛塔和佛寺，並將萬歲山改名為白塔山。乾隆年間，除了對北海瓊華島（白塔山）的大部分建築物進行重修以外，在北海東北岸、北岸營造了許多建築。在明朝時期比較富於自然景色的南海南臺（即今瀛臺）以及中海東岸地區修建了宮殿樓閣和庭院幽谷。現在整個三海的格局和園林建築，主要是乾隆時期完成的。後來雖屢有修葺，只是個別地方有所增減。
三海的規模自明代開辟了南海以後，就形成了壹個縱貫皇城南北的袋狀水域。以太液池上的兩座石橋劃分為三個水面：金鰲玉虹橋以北為北海，蜈蚣橋以南為南海，兩橋之間為中海。清乾隆帝在他的壹首《悅心殿漫題》的詩中說："液池只是壹湖水，明季相沿三海分。"幾百年來，三海和西苑兩個名稱壹直並用；而中海和南海緊密相依，常常合稱為中南海。
三海總體布局繼承了中國古代造園藝術的傳統：水中布置島嶼，用橋堤同岸邊相連，在島上和沿岸布置建築物和景點。全園面積2500余畝（1畝為666.66米2），水面占壹半以上，景觀比較開闊。瓊島聳立於北，瀛臺對峙於南，長橋臥波，狀若垂虹。島上山石和各種建築物交相掩映，組成壹個整體。許多景點高低錯落，疏密相間點綴其中。
北海主要景物以白塔山為中心。瓊島上布置了白塔、永安寺、慶霄樓、漪瀾堂、閱古樓和許多假山、邃洞、回廊、曲徑等建築物，有清乾隆帝所題燕京八景之壹的"瓊島春陰"碑石和摹擬漢代建章宮設置的仙人承露銅像。北海東北岸有畫舫齋、濠濮澗、鏡清齋、天王殿、五龍亭、小西天等園中園和佛寺建築；其南為屹立水濱的團城，城上蔥郁的松柏叢中有壹座規模宏大、造型精巧的承光殿。
中海主要景物有紫光閣、蕉園和孤立水中的水雲榭。此榭原為元代太液池中的墀天臺舊址，現在還存有清乾隆帝所題燕京八景之壹的"太液秋風"碑石。
南海主要景物有瀛臺，臺上為壹組殿閣亭臺、假山廊榭所組成的水島景區。重要的建築物有翔鸞閣、涵元殿、香依殿、藻韻樓、待月軒、迎薰亭等。瀛臺東現有石橋通達岸邊。此外，在中南海中還有豐澤園和靜谷，是園中之園，尤以靜谷的湖石假山的堆疊手法高超。
三海的藝術價值在中國現存古代園林中是第壹流的。遼、金以來1000年連綿不輟地經營，歷史文獻記載豐富，而且現在大多數尚有遺跡可尋。清代乾隆時的建築、山石和園林布局，現在還基本保存完整（僅中南海有較多的改變），是其他宮苑以至私家園林所少見的。金代瓊華島的艮嶽遺石，元代廣寒殿裏的巨大玉甕，明代的團城，以及樹齡八九百年的蒼松翠柏等，是北京城發展史的可貴見證。三海的園林藝術繼承了中國的傳統造園技藝並有所發展和創新。園中有園、園內外借景等布局手法都有巧妙的應用。園中栽植的花草樹木除翠柏青松之外，還有岸柳、池蓮、海棠、牡丹、芭蕉、竹、懸葛、垂蘿，名花奇果，品類繁多。這些花草樹木都和假山池岸、殿閣樓臺相互結合成景，體現了中國園林的藝術水平。