AI 产品
AI模型能力提升引安全风险，团队暂停强化学习训练以加强防护
随着人工智能模型能力的不断增强，其开发与测试过程中的风险也随之上升。据相关消息，团队已暂停最新部署模型的强化学习训练两周，以加固研究环境、进行红队测试并扩大监控范围。同时，最大的计划前沿强化学习运行仍保持搁置，较小规模的训练和评估则用于验证这些安全措施并建立更多模型对齐的证据。该信息来源于非官方社交媒体渠道，需谨慎对待。
多来源证据
事件时间线
- Twitter/X AI List随着模型能力增强，开发和测试内部的风险也随之增长。 我们暂时暂停了强化学习(RL)训练