1889-ben végzett a Harvard Egyetemen, majd 1892-ben apja banki cégének, a J.P. Morgan and Company-nak a tagja lett, és nyolc évig a cég londoni fiókjában dolgozott. Apja halálakor, 1913-ban követte őt a cég élén, és több mint 50 000 000 dolláros vagyon örököse lett.

Morgan az ott töltött idő alatt mély vonzalmat érzett Anglia iránt. Ennek következtében az első világháború első három évében ő lett az Egyesült Államokban a brit és a francia kormány egyedüli beszerzési ügynöke, és ezen országok nevében mintegy 3 000 000 000 dollár értékben vásárolt katonai és egyéb készleteket amerikai cégektől. A francia-brit hiteligények finanszírozására az Egyesült Államokban több mint 2000 bankot szervezett, hogy összesen több mint 1 500 000 000 000 dollár értékű szövetséges kötvényt vállaljanak. A háború befejezése után cége összesen több mint 10 000 000 000 dollár értékben nyújtott hiteleket az európai újjáépítési munkálatokhoz. J.P. Morgan, Jr. bár nem volt olyan domináns, mesterien irányító személyiség, mint az apja volt, mégis korának legjelentősebb amerikai pénzembere volt.

Az 1929. októberi tőzsdekrach idején Morgan és több más nagy bankár egyesítette pénzeszközeit, és megpróbálta megállítani a részvényárfolyamok esését, de sikertelenül. 1933-ban az abban az évben hozott banktörvény arra kényszerítette cégét, hogy szétválassza befektetési banki tevékenységét a kereskedelmi (betéti) banki tevékenységétől. Ennek megfelelően a Morgan, Stanley and Company egy új befektetési banki cég lett, míg Morgan maga a J.P. Morgan and Company vezetője maradt, amely ettől kezdve szigorúan kereskedelmi banki céggé vált.