日本金融體制和主銀行制度形成的歷史根源主要有兩方面：壹是1927年銀行危機後所建立的銀行體制，二是戰時的金融管制。在戰後經濟民主化過程中，金融業的改革目標有兩個：壹是形成競爭性的金融市場，二是形成商業銀行與投資銀行隔離的制度。由於在解散控股企業時沒有解散財閥銀行，結果戰前日本銀行體制延續下來，再加上日本政府的保護政策，銀行業沒有形成類似美國的充分競爭的格局。另壹方面，由於保留了財閥銀行，為日本企業以產權方式重新結合以及主銀行制度的發展創造了條件。
戰前銀行制度的形成
明治維新後，日本銀行業不斷發展。早期日本對銀行業實行自由放任的政策，銀行數量多、規模小。1923年，由於關東大地震後發行的“震災票據”得不到妥善處理，1927年日本發生了大規模的存款擠兌和銀行破產事件，1年之內***有45家銀行破產。這壹事件在日本金融史上稱為“昭和銀行危機”。
“昭和銀行危機”的根本性原因是政府對銀行業的自由放任政策。為此，1928年日本政府公布了《銀行法》，該法要求：普通銀行的最低資本金需要達到100萬日元，資本金不足的銀行只能通過與其他銀行的合並方式增加資本金，自我增資不予承認。大藏省提出了“壹縣壹行”的銀行合並目標，由於有些銀行不願失去獨立的經營權力，當時的銀行合並並不順利，直到進入戰時金融管制後才真正實現了“壹縣壹行”的目標，這些銀行就是二戰後的地方銀行。另壹方面，國民儲蓄不斷向屬於財閥系統的大銀行集中，這些大銀行就是戰後的城市銀行，作為戰後日本銀行體系主體的城市銀行和地方銀行就是在這樣的背景下形成的。
金融管制時期的主銀行制度雛形
1931年“9·18”事變後，日本加快了對外侵略擴張的步伐，日本金融業進入戰時金融管制時期。金融管制的核心是控制資金分配，以保證軍需企業優先獲得資金。1944年日本開始實行“軍需企業指定金融機關制度”，將各軍需企業與銀行“配對”，銀行不僅保證“配對”企業的資金供應，還積極參與“配對”企業經營管理和財務監督。這就是戰後形成的主銀行體制的雛形。戰後解散財閥後，以城市銀行為中心的金融企業保留了戰時金融管制時期建立的企業與銀行的“配對”關系，並在此墓礎上逐步發展成戰後以持股關系為紐帶的主銀行制度。
經濟民主化時期對日本金融體制的改革
戰後，為了穩定貨幣和支持經濟重建，盟軍司令部在日本經濟民主化時期，對金融體制的改革措施較少，基本沒有改變戰前已經形成的銀行體系。首先，在解散財閥過程中，舊財閥集團的城市銀行沒有壹家被列為控股企業，也沒有壹家成為被集中取締的對象。這樣，舊財閥的金融企業被完整地保留下來；其次，為了限制財閥企業的重新聚集，1947年的《禁止壟斷法》中規定：金融機構持有企業股票的比率不得超過發行總數的5%.但1949年第壹次修改《禁止壟斷法》時，只禁止有競爭關系的企業之間持有股份。1953年第二次修改《禁止壟斷法》時，不僅進壹步降低了對銀行和事業法人持股的限制，而且把持股限制由5%提高到10%（1977年再次修改《禁止壟斷法》，把法人持股限制比例從10%降低到5%.但允許法人機構在10年後達到5%的限制性標準）；第三，1947年的《證券交易法》是以美國的《格拉斯·斯蒂格爾法》、《證券法》和《證券交易法》為範本制定的，禁止商業銀行和其附屬的信托企業承銷、持有和交易企業證券，目的是建立美國式的商業銀行與投資銀行相分離的金融體制。1948年又根據占領當局的意向對該法進行了全面修改。結果導致日本與美國金融體制分業經營不壹致的地方，美國商業銀行只能通過有限的自有資金和獨立的信托部持有企業股票，商業銀行不能從事承銷證券等投資銀行的業務。日本銀行也不能從事投資銀行的業務，但卻可以直接持有企業股票，存款可以通過銀行轉化為股票投資。
1949-1964年是日本個人持股占主導地位的時期，但在這壹時期，法人持股比率不斷提高，個人持股比率不斷下降。1949年，日本股票市場重建時，日本個人持股達到最高的69.1%，法人持股只有28.1%，其中金融機構持股比例為12.5%，銀行持股只有9.9%.到1964年，個人持股比率降低到45.6%，法人持股比率上升到52.3%，其中金融機構持股比率提高到35.9%，而銀行持股比率上升到21.6%.銀行持股比率提高意味著銀行與企業通過產權方式相互結合得更加緊密，為主銀行制度的形成奠定了堅實的基礎。
另壹方面，戰後銀行系列貸款曾經壹度消失。為了對付戰後的通貨膨脹和資金短缺，1946年日本發布了金融緊急措施令。當時，大銀行資金力量薄弱，不能充分提供資金。1947年1月，日本政府設立了“復興金融公庫”，采取低利息貸款政策，優先向工礦業等重點基礎產業貸款。1947-1949年間，“復興金融公庫”提供的貸款總額達1239億日元。
1948年盟軍司令麥克阿瑟向日本首相吉田茂下達了“經濟安定九原則”特別指令，主要內容是通過超平衡預算、穩定工資、強化物價管制、制定單壹匯率、振興出口等措施，促進日本經濟自立和國際化。“經濟安定九原則”的制定者和實施者是美國人道奇，因此又被稱為“道奇路線”。1949年日本強制實行“道奇路線”，致使日本股票市場重建不久就陷入蕭條。1950年，朝鮮戰爭爆發引起的“特需景氣”給蕭條的日本經濟註入了活力。1950年3月，日本政府又批準11個城市銀行設立中小企業金融專門銀行，先後制定並通過了《關於協同組合的金融事業的法規》、《互助銀行法》和《信用金庫法》等，並成立了專門為設備投資提供金融服務的“日本開發銀行”。“特需定貨”為企業恢復創造了機會，企業投資擴大，以城市銀行為中心的大銀行負責提供資金，自此以後，以城市銀行為中心的系列貸款體制確立了起來。
經濟高速增長時期主銀行制度的完善
在日本經濟高速增長時期，主銀行為企業發展提供了充足的資金，企業的擴張也使主銀行獲得了豐厚的回報。在主銀行與企業相互促進***同發展的過程中，主銀行制度通過銀行與企業建立雙向互惠交易關系得到強化。這種互惠關系表現在以下方面：
（1）在日本經濟高速增長期，大企業對重工業和化學工業的投資需求旺盛，企業擁有自己的主銀行，不僅能夠滿足資金需求，而且能夠通過主銀行調節金融周期。當日本政府周期性地采取金融緊縮政策時，主銀行減少對其他企業的貸款，以保證向系列企業提供貸款。因此，以大銀行為主銀行的企業比其他企業處於相對有利的地位。
（2）在經濟高速增長時期，銀行的存款越多，貸款和收益也越多。由於系列企業從其他銀行獲得的貸款將存入主銀行，使主銀行的存款增加，以某壹銀行為主銀行的企業越多，該主銀行就能夠得到更多的存款，該銀行的實力就越強。相反，非主銀行和系列企業少的銀行法人存款少，在競爭中處於不利地位。因此，各個銀行都試圖通過對企業的系列化擴大自己的範圍，擁有系列企業很少的銀行，或者未能成為大企業的主銀行的銀行，只能以輔助銀行的身份向企業提供貸款。
（3）城市銀行把地方銀行及非銀行金融機構納入自己的體系，通過持有這些金融機構的股份和派遣董事，使其成為自己的輔助銀行，參與銀團貸款。同時，城市銀行與同壹集團內部的信托銀行、生命保險企業保持密切關系，通過對輔助銀行的系列化和橫向合作，增強了自己的作用。
1974年，法人持股比率達到63.9%，銀行持股比率進壹步上升到33.9%.在日本經濟高速增長時期，主銀行與系列企業的結合是壹種互惠交易，壹方面，主銀行制使大型城市銀行迅速發展壯大，另壹方面，主銀行制的發展也有力地支持了企業的發展，對日本經濟高速增長發揮了重要作用，形成了企業與銀行相互促進、***同發展的局面。1975年第壹次石油危機爆發，日本經濟由高速增長轉變為穩步增長，這期間的主銀行制度走向成熟，銀行持股比率穩步提高。1990年，銀行持股比率提高到41.6%.
金融體制與主銀行的發展
日本政府對銀行系統的保護措施是主銀行制發展的另壹個重要原因：
（1）日本銀行嚴格控制城市銀行的資格。20世紀50年代以後，15家城市銀行由於銀行之間的合並減少到10家。新增城市銀行是通過批準現有城市銀行設立分支機構實現的，這樣，城市銀行就在政府的保護下具有了壟斷地位，降低了銀行業的競爭。
（2）政府通過對銀行的直接監察和獎優罰劣，維護銀行體制的安全運行，防止銀行破產，實際上為銀行捉供了“保險”。日本銀行和大藏省對銀行實行嚴密監控和審慎控制。大藏省銀行局可任意檢查銀行的賬簿，壹旦發現問題，有權提出解決建議。同時，日本銀行通過其信貸部密切監控銀行的正常運作，定期現場稽查。當壹個銀行被證明管理不佳，需要資產重組時，大藏省會派人進入董事會擔任董事或總裁。對於銀行間的兼並也都是由政府操作的。日本銀行還通過城市銀行分支機構許可證的發放，獎勵那些在救援不良企業中有功的主銀行。
（3）銀行為日本銀行和大藏省退休的官員提供工作，特別是到大銀行擔任重要職位，是壹種對官員在任職期間努力工作的獎勵。這種慣例體現了政府和銀行的密切關系，通過這種激勵機制促使官員為維護銀行的穩定而努力工作，並且促使監督官員與大銀行保持壹種默契的良好私人關系。