Ukończył studia na Uniwersytecie Harvarda w 1889 roku i został członkiem firmy bankowej swojego ojca, J.P. Morgan and Company, w 1892 roku, pracując przez osiem lat w londyńskim oddziale firmy. Zastąpił ojca na stanowisku szefa firmy w 1913 roku po jego śmierci, stając się spadkobiercą majątku o wartości ponad 50 000 000 dolarów.

Morgan rozwinął głęboką sympatię do Anglii podczas swojego pobytu w tym kraju. W konsekwencji, podczas pierwszych trzech lat I wojny światowej, stał się jedynym agentem zakupów w Stanach Zjednoczonych dla rządów brytyjskiego i francuskiego, kupując w imieniu tych krajów około 3 000 000 000 dolarów zaopatrzenia wojskowego i innego od firm amerykańskich. Aby sfinansować francusko-brytyjskie zapotrzebowanie na kredyty w Stanach Zjednoczonych, zorganizował ponad 2 000 banków, które udzieliły poręczenia na łączną kwotę ponad 1 500 000 000 dolarów w obligacjach alianckich. Po zakończeniu wojny jego firma udzieliła pożyczek na łączną kwotę ponad 10 000 000 000 dolarów na odbudowę Europy. Chociaż nie był dominującą, mistrzowską osobowością, jaką był jego ojciec, J.P. Morgan, Jr, był nadal najważniejszym amerykańskim finansistą swoich czasów.

Podczas krachu giełdowego w październiku 1929 roku Morgan i kilku innych głównych bankierów połączyli swoje fundusze i próbowali powstrzymać spadek cen akcji, ale bezskutecznie. W 1933 roku ustawa bankowa z tego roku zmusiła jego firmę do oddzielenia działalności w zakresie bankowości inwestycyjnej od działalności w zakresie bankowości komercyjnej (depozytowej). W związku z tym Morgan, Stanley i Spółka stali się nową firmą zajmującą się bankowością inwestycyjną, podczas gdy sam Morgan pozostał szefem J.P. Morgan i Spółki, która odtąd stała się wyłącznie firmą zajmującą się bankowością komercyjną.

.