晚年的皮尔庞特似乎把自己当成了一个收藏家摩根，他每天只去银行一两个小时，大部分时间倾注在收藏上，他的贪婪的个性同样恰好地反映在他对艺术品的钟爱上，他如饥似渴地想占尽世界上所有美丽的东西。但是，银行家一生的成就与社会公众认识之间的矛盾让他无法脱下银行家的外衣。因此，他的晚年真是祸不单行，好像上帝在开始向他招手的时候，妒忌他人生的辉煌，所以决定要给这老头子最后一点惩罚。“泰坦尼克号”海难事件招致的谴责和漫长的普若听证会像暴风骤雨一样在皮尔庞特的天空中作祟。20世纪初期，也许因为积累了充盈的资金，也许转换了对人生价值的理解，皮尔庞特逐渐开始了对世界艺术品的收藏，那种狂热甚至癫狂的程度，让人惊讶不已。他几乎把生意完全撇到一边儿去了，全身心地扑向了艺术品。他的贪婪的个性同样反映在对艺术品的钟爱上，他几乎如饥似渴地想占尽世界上所有美丽的东西。他把绝大部分的工作全权交由自己信赖的合作伙伴去处理，而自己像个不知道疲倦的猎人一样在全世界范围内搜罗艺术品。
皮尔庞特并不懂艺术，对艺术品的选择在很大程度上是模仿一些皇家图书馆的收藏，或请教一些值得他信赖的熟人，偶尔才去请教一些收藏界的权威人士，所以他的收藏好像都没有经过深思熟虑，有些甚至全凭自我感觉。这一切决定了他前期的收藏很难保证具有不可辩驳的价值性。即便如此，他在收藏方面的抱负仍然非常宏大，并且按计划一步一步辅助实施。皮尔庞特更大的计划是在满足个人欣赏之外为美国的未来收集世界上最优秀的艺术品。他在收藏方面也把自己当成了社会的主宰者和责无旁贷的责任者。他通过为美国的各种机构提供文学作品的草稿和艺术品而督促他们建立起新的研究体系，从而直接促使很多大学艺术学院或者艺术部的开设或者建立。皮尔庞特在文化市场上掠夺似的大肆侵袭所造成的影响一点儿不逊色于他组建钢铁托拉斯。很多人说摩根先生在绘画、挂毯、古玩上的所作所为要比他组建钢铁托拉斯对公众的危害还大。
民众对托拉斯的事情一直感受不深，它也不可能对普通民众造成深厚的感情伤害，但是，当摩根先生要为一个古玩而付出闻所未闻的天价时，民众的神经立即就会紧绷起来，因为摩根先生无疑自然而然地在抬高古玩的价格，等于损害了整个古玩文化市场的公平交易。即便它根本是一件没有价值的赝品，在摩根先生那儿都有可能开出了很高的价钱。他讨厌讨价还价，他上来就爱问交易商花了多少钱买进，然后在买进价上面加上10%到15%成交，有时候一激动，甚至干脆加上50%。皮尔庞特购买艺术品不限制地域和时间。4月份，他在巴黎购买了一座由18世纪法国最优秀的工匠制作的精美的长壳钟，外表上雕刻着古罗马伟大的诗人奥维德关于阿波罗的故事，此表精美绝伦，后来世人一直称道为绝世珍品。5月，在法兰克福购买了德国17世纪的金质收藏品，本来这笔藏品不会是那么低的价格，但是皮尔庞特能以现金交易，所以价格定得稍微低了些，虽然如此，那个价格仍然让普通人觉得吃惊。皮尔庞特把他的大部分收藏都存放在英国，一部分借给了博物馆，其他的部分存放在王子门大街的家中。
在19世纪70年代，皮尔庞特曾经参观过英国众多的国家级艺术画廊，而30年后，他开始邀请英国贵族来参观他自己的收藏。皮尔庞特并不计较在艺术作品上的开销，他曾说过，在所有的语言里最贵的单词是独一无二，为此他花了不少钱。皮尔庞特在艺术品上的花销，数额大得让JP摩根公司的银行家们开始担忧。“他是不是把银行当成了艺术品的资金储备库了啊！？”艺术品堆积如山了，皮尔庞特·摩根要为他的收藏品准备房子了。皮尔庞特在老熟人的介绍下认识了美国著名的建筑大师麦基姆（Mckim）美国最负盛名的建筑设计师之一，是殖民复兴风格（Colonial Revival）的兴起者。他的设计风格是美国现代别墅风格形成的一块基石。深受名门望族喜爱。。麦基姆被誉为建筑界的泰斗，是意大利文艺复兴时期的拥护者，他在古典主义中融入富丽堂皇的风格符合皮尔庞特的口味。不但如此，他对美国文化教育的看法也和皮尔庞特大体一致。勤奋而冷静的麦基姆曾设计了哈佛俱乐部、大学俱乐部和哥伦比亚大学的新校园。皮尔庞特对这些设计都表现出了浓厚的兴趣。
纵然如此，皮尔庞特还是有点不放心（也许是专制得养成了习惯）。皮尔庞特·摩根要的是最好的材料和最可靠的工艺。而且他事必躬亲，从仿古的木质天花板、大理石地板到天青色的石柱子，以及书柜的材质，大理石壁炉台等设备的购买和放置等所有细节。 皮尔庞特不时督促建筑师作着调整，他要求质量达到完全上上乘，代价都是次要的。因为皮尔庞特一直奔忙在图书馆里，所以他的图书馆未落成之时就已经有个绰号：“JP摩根公司住宅区分公司”。图书馆最初的预算是85万美元，但是到了建筑物最终落成，总计花费200多万美元，比预算的两倍还多。图书馆像意大利文艺复兴时期的宫殿，具有缥缈和平衡之美，所有的镶嵌物都处理得非常好，根本没有丝毫的黏合物。为了科学地管理图书馆，皮尔庞特招聘了一位漂亮的小姐担任图书馆管理员，她就是22岁的贝勒·格林。格林聪明过人，异常自信。善于捕风捉影和演绎猜测的人们认为她不可能简单地是皮尔庞特的图书馆的管理员，应该是知己、异性朋友甚或红颜情人。他们的友谊远远超越了年龄、财富以及地位的距离。
1904年，皮尔庞特·摩根首次当选为大都会博物馆的董事会主席，很快他就开始为博物馆收集另一组重要的艺术品——地若的盔甲。地若是一位著名的法国盔甲收藏家，经过一段情感的挫折之后，决定变卖自己收藏的珍贵盔甲，当皮尔庞特·摩根知道这个消息以后，几乎没有经过任何考虑，就决定全部收购下来。由于皮尔庞特下手快而且掏钱直爽，所以他只花了24万美元，就买到了这批举世无双的盔甲收藏品。后来这批收藏品珍藏在大都会博物馆。在如此重大的任务面前，皮尔庞特·摩根意识到自己能力的明显不足，非常清楚这一高风险领域内专家学者的作用是无比重要的，他马上张罗和召集一些盔甲方面的专家来管理这批盔甲。关于盔甲的收藏还有一段非常有趣的故事，皮尔庞特·摩根知道还有一位收藏盔甲的伟大人物叫里根斯先生，他还知道里根斯先生对盔甲的收藏拥有非常独到的见解。与地若一样，里根斯先生的收藏也可以用又多又好来形容。皮尔庞特·摩根仔细地翻阅和研究了里根斯先生的收藏资料后，好像得了心病，心中总是痒痒的：“哎呀，里根斯先生的确懂得收藏，可惜没有很好的保存场所啊。
”他参观完里根斯先生的展览后，好像又感觉到那些盔甲总是在夜里甜美地召唤着他，有时候还向他诉说着栉风沐雨的凄凉。皮尔庞特觉得再也睡不踏实了。“得想想办法，把里根斯先生的收藏好好保管才行啊！”皮尔庞特找到了自己熟识同时也熟识里根斯先生的朋友，鼓动他们去说服里根斯先生把自己的收藏送到大都会博物馆来。而且，皮尔庞特公开许诺会任命里根斯先生为名誉上的托管人。皮尔庞特开出了不少的优惠条件，包括单独为里根斯先生的收藏品开辟一个新空间，展览的一切收入均归里根斯先生所有。里根斯先生得到这个消息后说：“哦，我很感动，摩根先生考虑得很周全，我会仔细考虑的。”其实，里根斯先生此时一点都不想把自己的藏品送到博物馆，说白了就是根本没往心里去。这可把摩根先生急坏了：“这个里根斯先生不是在吊我的胃口吗？他究竟是为什么不送来呢？”他的一个合伙人说：“里根斯先生说，他要处理一件关于一个小旅馆的资产处置事宜，他现在没有太多的精力来处理这件事情。”“就为这点小事情啊？”皮尔庞特显然有点不相信。
“应该就为这件事情！”皮尔庞特知道这个理由只是个幌子，里根斯先生并不热心把自己的藏品送到这里来。在这种情况下，既然里根斯先生的借口是为了变卖一个小旅馆的资产，那我皮尔庞特也不强人所难啊，我就认为是这个理由了。“哦，这事情多么简单了！我们买下他的小旅馆资产吧，他要多少给多少！这样他还有什么理由不送藏品到博物馆？”皮尔庞特以不足50万美元买下了小旅馆。这一举动感动了里根斯先生，皮尔庞特也因此得到了里根斯的举世无双的盔甲藏品。这两笔数量巨大的珍贵收藏，完全填满了大都会博物馆的武器和盔甲馆。皮尔庞特最终成了他那个时代的最大的私人收藏家。在皮尔庞特担任大都会博物馆主席期间，开始对博物馆的经营和管理进行大规模的改革，迅速改变了大都会博物馆的定位和活动范围。从1906年开始，大都会博物馆将一律不再接受那些达不到专业水准的捐赠品，同时由于博物馆职能的根本改变和活动内容的不断增多，将不再展出一些复制品和业余爱好者不成体系的作品。这些大规模的改革，自然而然地把馆藏的艺术品进行了目录体系化的明确分类。皮尔庞特·摩根不但不断地物色美丽的东西，而且还组织多批次的学者和专家进行收藏文化研究。
