20世紀初，中國正處於清末商品經濟發展初期。雖然民族工商業有一定的發展，但因列強侵入，清政府經濟不能自主，尤其是外商銀行進駐中國，不僅攫取了中國鐵路的築路權，還通過賠款的清償，控制了中國的關稅收入；又通過進出口貿易，壟斷了國際匯兌，成為中國金融業的主宰。當時國內一些銀行如中國通商銀行、信成銀行等很難與外商銀行相抗衡。因此，要辦自己的銀行，“集資設立，以期不外溢利權”，成為當時朝野的呼聲。

1907年11月，郵傳部正式奏請設立交通銀行。郵傳部希望以銀行為樞紐，使輪、路、電、郵四政互為交通，又取“交通”二字交叉貫通引申興旺發達之義，故名交通銀行。當時擬設交通銀行的具體緣由，一是經辦募債贖路（京漢鐵路）；二是經營四政收支；三是自辦國外匯兌；四是輔助統一幣制。1907年12月8日，經批准，交通銀行正式在北京開始籌備。

1908年3月4日，交通銀行正式開業。1912年初，經董事會議決定交通銀行的英文名稱：BANK OF COMMUNICATIONS。歷史上，交通銀行發行貨幣，代理國庫，投資和支援實業，為發展中國近代工業做出了巨大貢獻。1958年，除香港分行仍繼續營業外，交行國內業務分別併入當地中國人民銀行和在交行基礎上組建起來的中國人民建設銀行（“中國建設銀行”前身）。

交行重新組建後，與台灣的交通銀行發生正統之爭。台灣的交行聲稱成立於1907年，設立之初是輔佐路、電、郵、航四大要政的資金調度，1949年遷往台灣，1960年複業，1975年被制定為工業專業銀行，1979年改制為開發銀行，為台灣工、礦、交通及其他公用事業提供金融服務。由於內地和台灣的兩家交通銀行中文名稱相同，英文名稱均為“BANK OF COMMUNICATIONS”，而且中文行名招牌共同使用鄭孝胥題寫的行名。國際上很多人不清楚中國內地交行與台灣交行的差別，因此，在開展國際業務時，帳單上的兩個交行常常被混為一談，出現了內地交行的錢被寄到台灣去了，或是台灣交行的錢被打到了內地交行的帳上。最後經過追根溯源，雙方舉證，內地的交行是1908年光緒皇帝禦批組建，從1908年至今的檔案均完整地保存在南京第二歷史檔案館，包括歷年來發行的紙幣。而台灣交行是1961年成立的，沒有前期史料，歷年發行的紙幣檔案也不全。顯然，內地交行屬於正統。當然由於歷史原因，兩者之間的血緣關係是明顯的。最後，台灣的交行將其英文名稱的前半截改為了拼音，全稱就成了“Chiao Tung Bank Co.”，內地的交行則使用BANK OF COMMUNICATIONS。2006年8月21日，台灣的交行和中國商銀合併，並更名為兆豐國際商業銀行（Mega International Commercial Bank）。