現代商業銀行是從貨幣兌換業逐漸發展而來的，中央銀行又是在商業銀行的基礎上，經過長期發展逐步形成的。
在銀行事業發展的初級階段，許多私人銀行除辦理存款、放款和匯兌等業務外，也都辦理銀行券發行業務，一般利用銀行券的發行來增加自己的資金。隨著銀行數量的增加、經濟的發展、市場的擴大，銀行券的分散發行已經不適應資本主義經濟發展的需要，其缺點日益顯現。
許多銀行券分散的發行，不能保證貨幣流通的穩定性。為數眾多的小銀行信用能力薄弱，隨著資本主義競爭的加劇和經濟危機的震蕩，一些小銀行無法保證自己所發行銀行券的兌現，從而無法保證銀行券的信譽及其流通的穩定性，進而引起社會混亂。
小銀行信用能力有限，所發行的銀行券不能廣泛流通。許多分散的小銀行所發行的銀行券只能在有限的地區流通，從而給生產和流通帶來困難。隨著資本主義經濟的發展，要求有更加穩定的通貨，也要求銀行券成為能在全國市場上流通的一般的信用流通工具。因此，在客觀上要求建立一個資金實力雄厚，並在全國有權威的大銀行來集中貨幣發行。
隨著資本主義生產的發展和流通的擴大，對貸款的要求不僅數量增多了，而且期限延長了，商業銀行如果僅用自己吸收的存款來提供放款，就遠遠不能滿足社會經濟發展的需要，而將吸收的存款過多地用於提供貸款，又會削弱銀行的清償能力，使銀行發生擠兌和破產的可能。於是就有必要適當集中各家商業銀行的一部分現金準備，在有的商業銀行發生支付困難時，給予必要的支持。這在客觀上要求有一個銀行後臺，能夠在商業銀行資金發生困難時，給予貸款支持，這個後臺只有中央銀行才能充當。
當然，中央銀行的產生有一個發展過程，在之後的經濟發展中，對中央銀行又提出了新的要求，賦予中央銀行新的職能，使中央銀行在實踐中逐漸成長起來，最終成為今天一個能夠掌握和運用多種手段，對國民經濟進行調節的機構。
中央銀行誕生於17世紀後半葉，而中央銀行制度的形成則在19世紀初期。最早設立的中央銀行是1656年的瑞典銀行。直到1913年美國建立美國聯邦儲備體系後中央銀行制度才基本建立。現將瑞典銀行、英格蘭銀行和美國聯邦儲備體系三家比較典型的中央銀行形成的历史進行簡要闡述。
瑞典銀行於1656年成立，原是私人創辦的商業銀行，1661年開始發行銀行券，是當時歐洲第一家發行銀行券的銀行。1668年由政府出面將該行改組為國家銀行，對國會負責。然而直到1897年瑞典政府才通過法案將發行權集中於瑞典銀行，瑞典銀行發行的貨幣成為法償貨幣。此後瑞典銀行才演變成中央銀行。
英格蘭銀行設立於1694年，雖然比瑞典銀行晚成立38年，但是被資本主義國家稱為近代中央銀行的先驅，其設立在中央銀行制度的發展史上是一個重要的裡程碑。英格蘭銀行設立時最初的宗旨純屬替政府籌集經費，其交換條件是該行有權發行紙幣。1833年，英國議會通過法案，規定英格蘭銀行的紙幣為全國唯一的法償貨幣。1844年，英國議會再度修訂銀行條例，該條例由英國時任首相羅伯特·皮爾所擬，故稱為《皮爾條例》。該條例決定將英格蘭銀行機構分為發行部和業務部，將發行鈔票和銀行業務分開，從而奠定了現代中央銀行組織的糢式。而且該條例又限制其他商業銀行發行紙幣的數量，擴大了英格蘭銀行的貨幣發行權。隨著英格蘭銀行發行權的擴大，加上該行與政府的密切關系，英格蘭銀行作為特殊銀行的地位更加鞏固，許多商業銀行把自己的現金準備的一部分存入英格蘭銀行，作為交換和清算用途，英格蘭銀行成為英國銀行業的清算銀行。在英國的幾次周期性金融危機中，英格蘭銀行充當「銀行的銀行」，對資金周轉困難的銀行提供貸款，以免銀行擠兌風潮的擴大導致整個銀行業的崩潰，發揮了「最後貸款者」的作用。這樣英格蘭銀行就逐步演變成英國的中央銀行。到19世紀後期，英格蘭銀行已成為中央銀行的典範，為他國所紛紛糢仿，因此英格蘭銀行被譽為中央銀行的鼻祖。1946年英國議會通過《英格蘭銀行法案》，使得該行正式成為國有銀行。
美國中央銀行是世界各經濟強國中最後建立的，也是性質最特殊的中央銀行。美國1907年爆發的金融危機暴露出美國銀行制度的一個重大缺陷：貨幣供給缺乏彈性，即貨幣供給無法適應社會大眾和經濟發展的需要。為此美國政府設立國家貨幣委員會，建議成立聯邦式的中央銀行。美國國會於1913年通過聯邦儲備法案，聯邦儲備體系於1914年成立。根據美國聯邦儲備法律的規定，除在首都設立聯邦儲備體系理事會外，將全國分成12個聯邦儲備區，每個區設立一家聯邦儲備銀行，可以獨立行使中央銀行的職能。換言之，目前美國有12家中央銀行。但是有必要指出的是，美國聯邦儲備體系理事會在成立之初並沒有實權，但是後來權利日益增加，其主要任務在於決定美國聯邦儲備體系的貨幣政策，並且監督和協調各區聯邦儲備銀行的業務，所以事實上該理事會已成為美國聯邦儲備體系的實際決策機構。
