在貝爾斯登任職四年後，他決定從投資銀行轉行到基金管理，加入格魯斯合夥基金，成為合夥人之壹，正式開始了他的基金管理生涯。 1994年，他看準了對沖基金的勢頭，和其他幾家小對沖基金合租了壹間辦公室，創立保爾森對沖基金（Paulson &Co），專做並購套利（風險套利的壹種）和事件驅動投資。
2001年互聯網泡沫破滅，給了保爾森絕佳的機會。他當時的判斷是，很多在虛高股價支撐下的並購案會“黃”掉，因此他大量賣空，在互聯網股票狂跌的2001年和2002年，他的基金都分別增長了5%。逆市飄紅，投資人便聞風而來，到2003年，他的基金規模達到了6億美元。兩年後，他管理的總資產更達到了40億美元。但因為為人非常低調，在對沖基金行業之外，他的名聲並不大。
2006年7月，保爾森籌集了1.5億美元，為第壹只用於做空CDO的基金建倉。他設計了壹個復雜的基金操作模式：壹邊做空危險的CDO，壹邊收購廉價的CDS。隨後的幾個月，美國房產市場卻依然繁榮，絲毫看不到萎靡的跡象，保爾森的基金在不斷地賠錢。
2006年底，次貸危機已經初見端倪。保爾森的基金已經扭虧為盈，升值20%。他的信心越來越足，緊接著又建立了第二只同類基金。
2007年2月，保爾森管理的兩只基金在華爾街的冬天異軍突起，截至2007年年底，第壹只基金升值590%，第二只基金也升值350%，基金總規模已達到280億美元，僅2007年壹年，就有60億美元的資金湧入保爾森的基金。保爾森壹舉登頂2007年度最賺錢基金經理榜，力壓金融大鱷喬治·索羅斯和詹姆斯·西蒙斯，壹時間，約翰·保爾森在華爾街名聲大震，“對沖基金第壹人”、“華爾街最靈的獵豹”等稱號紛紛被冠在了他頭上。
2008年11月13日，約翰·保爾森與其他四位排名前五的對沖基金大佬，出席了美國眾議院監管和政府改革委員會召開的聽證會。