J.P. Morgan kaufte und sammelte Kunst, deren Wert etwa zwei Drittel seines Nachlasses oder heute 900 Millionen Dollar entsprach. Ein Großteil der Kunst, die er kaufte, wurde in den letzten zwei Jahrzehnten seines Lebens erworben. Nach seinem Tod schenkte sein Sohn J.P. Morgan Jr. einen großen Teil der Sammlung seines Vaters dem Metropolitan Museum of Art.
J.P. Morgan mochte besonders islamische Kunst und andere islamische Gegenstände wie Teppiche, osmanische Fliesenplatten und emailliertes Glas. Er hatte auch eine große Mediensammlung, die aus gedruckten Büchern und Manuskripten bestand. Vor seinem Tod wurde J.P. Morgan mit den Worten zitiert: "Kein Preis ist zu hoch für ein Objekt von unbestrittener Schönheit und bekannter Authentizität."
