Hän valmistui Harvardin yliopistosta vuonna 1889 ja liittyi isänsä pankkiiriliikkeeseen J.P. Morgan and Companyyn vuonna 1892, jossa hän työskenteli kahdeksan vuoden ajan yrityksen Lontoon sivukonttorissa. Hän seurasi isäänsä yrityksen johdossa vuonna 1913 tämän kuoltua, jolloin hänestä tuli yli 50 000 000 dollarin omaisuuden perijä.

Morgan oli kehittänyt syvän kiintymyksen Englantiin siellä ollessaan. Tämän seurauksena hänestä tuli ensimmäisen maailmansodan kolmen ensimmäisen vuoden aikana Ison-Britannian ja Ranskan hallitusten ainoa ostoagentti Yhdysvalloissa, joka osti näiden maiden puolesta amerikkalaisilta yrityksiltä sotilas- ja muita tarvikkeita noin 3 000 000 000 dollarin arvosta. Ranskan ja Yhdistyneen kuningaskunnan luottotarpeiden rahoittamiseksi Yhdysvalloissa hän järjesti yli 2 000 pankkia, jotka merkitsivät yhteensä yli 1 500 000 000 Yhdysvaltain dollarin arvosta liittoutuneiden joukkovelkakirjoja. Sodan päätyttyä hänen yrityksensä myönsi lainoja yhteensä yli 10 000 000 000 dollaria Euroopan jälleenrakennustyötä varten. Vaikka J.P. Morgan Jr. ei ollutkaan yhtä hallitseva ja mestarillinen persoona kuin hänen isänsä oli ollut, hän oli silti aikansa merkittävin amerikkalainen rahoittaja.

Lokakuun 1929 pörssiromahduksen aikana Morgan ja useat muut suuret pankkiirit yhdistivät varansa ja yrittivät pysäyttää pörssikurssien laskun, mutta tuloksetta. Vuonna 1933 samana vuonna annettu pankkilaki pakotti hänen yrityksensä erottamaan investointipankkitoimintansa liikepankkitoiminnasta (talletuspankkitoiminnasta). Näin ollen Morgan, Stanley and Companysta tuli uusi investointipankkiiriliike, kun taas Morgan itse pysyi J.P. Morgan and Companyn johdossa, josta tuli tästä lähtien puhtaasti kaupallinen pankkiiriliike.