19世紀末，紐約市只有兩座對外開放的圖書館：由阿斯特遺贈40萬美元建造的阿斯特圖書館，1849年正式開放；由藏書家萊努克斯建造的萊努克斯圖書館，1880年開放。
1886年，蒂爾登遺贈240萬美元，遺囑要求在紐約建造壹座圖書館，他的遺囑執行人比格婁律師建議和阿斯特圖書館、萊努克斯圖書館合並，成立壹個“蒂爾登、阿斯特、萊努克斯基金會”，基金會於1895年5月23日成立。1901年卡內基也捐贈了520萬美元，並且合並了紐約巡回圖書館。市政府承擔了維護和運轉費用，因此紐約公***圖書館成為政府和私人慈善機構***同合組的，典型美國方式運營的圖書館。
圖書館主體是科研圖書館，位於曼哈頓第五大道40街和42街之間，1911年5月23日落成，第二天開放，門前有兩個石雕臥獅，命名為“阿斯特獅”和“萊努克斯獅”，後來又俗稱為“阿斯特先生”和“萊努克斯夫人”（雖然兩只都是雄獅）。在大蕭條時期，紐約市長拉瓜地亞為了鼓勵市民戰勝經濟危機，將這兩座石獅取名為“忍耐”和“堅強”，現在紐約市民只是根據它們的位置俗稱左面的（北方）為“上城”（居住區），右面的為“下城”（金融區）。
主要閱覽室是315號房間，90.5米長，23.8米寬，高15.8米，四外都是開放式書架，長窗，房頂有大吊燈。室內長型閱覽桌和舒服的椅子，桌上有銅臺燈。裝備有電子計算機可以和因特網聯接。所有壹切都是免費的，有許多著名作家在這裏搜集資料，在大蕭條時期，也有許多人在這裏進行相當大學教育的自學。
1980年代，圖書館擴建了12,000平方米藏書面積，是在地下，占據了圖書館西面的伯裏揚公園的地下部分，上面仍然是公園。