AI公司被指过度依赖非营利组织进行安全研究

模型训练公司大量依赖METR、Redwood、Apollo等非营利组织及Goodfire等小型对齐公司

模型训练公司（如OpenAI等）大量依赖这些非营利组织与小型对齐公司，将大量安全研究外部性转移给它们。这些公司应向其信任的组织注入数十亿资金。在某些情况下这很容易，但在其他情况下，例如METR——它确实努力保持财务独立于实验室——则较为困难。存在一个慈善市场，需要可信赖的独立于实验室的第三方（提到Coefficient Giving，但认为其与Anthropic关系过近）来接受来自实验室员工或机构的捐款，并将其分配给有前途的对齐与控制研究者。部分慈善界人士可能不满，但OpenAI基金会等可以为技术对齐问题或可验证结果的研究设立巨额奖金。总之，整个生态系统应获得AI领域巨大财富的部分注入。