2002年，在股权等的吸引下，詹姆斯加入了黑石。他被安排在介于施瓦茨曼和合伙人之间的高级职位上，并被授权管理整个公司。他来到黑石后，公司并没有发生巨大改变，但管理机制却开始逐步完善。
他首先对公司过去的投资做了详尽研究，以便准确判断公司在什么情况下，可能会因为何种方式获益或产生损失。随后，他开启了多项改革措施，包括：
在投资中设立审核评定机制等规范。此前，合伙人可以几星期或几个月都“忙于”寻觅投资目标而不受监管，改革后他们必须在一开始就提交提纲，以便管理层根据项目潜在机会的大小来判断是否批准合伙人对该项目投入时间。
他同时要求合伙人进行更严格的交易风险分析，充分考虑发生意外事件的可能性。对此，他引用了航空公司的假设：“航空公司20年才有可能遭受一次恐怖袭击，油价从未在一年内从30美元涨到140美元一桶。这些事件看起来发生的几率极小，但当多个事件累积起来，仍具有足以致命的极高风险。”
同时，为了改变公司此前像蜗牛一样缓慢的决策机制，公司内部制定了新的程序以提高决策效率。
对黑石来说，詹姆斯来了之后，公司逐渐远离了早期自由运转、个性驱动的文化，变得更富有纪律性，权力更加分散。这些转型为公司随后的再次腾飞打下了重要基础。
在改革的过程中，施瓦茨曼对詹姆斯的充分放权无疑至关重要。毕竟，并不是所有的掌门人都能从外部引进继任者，并和其真正共享权力。不过，在改革的过程中，也有一大批老员工选择了离开。在新老交替中，黑石迈向了一个新的阶段。
将迎来乔纳森•格雷时代？
“身材偏瘦，有着大男孩的脸庞，黑色的短头发，无论从外貌还是行为都更像是童子军的一员而不是宇宙的主宰者。”这是黑石同事对新的潜在接班人乔纳森•格雷的描述。
