OpenAI AGI Readiness团队解散 营利性重组在即
香港奇点财经10月25日报道。CNBC报道称，据该团队负责人透露，OpenAI 正在着手解散其“AGI Readiness”团队，该团队以往负责为OpenAI评估人工智能能力，并就世界如何管理这项技术的准备情况提供战略指导。
周三（10月23日），AGI Readiness 高级顾问 Miles Brundage 在 Substack 平台上发表了一篇离职声明。他阐述了自己离开的主要原因：他认为自己当前研究的外部影响力受限，机会成本高昂；他渴望减少偏见，并称已完成了在OpenAI的既定任务。
通用人工智能（AGI）是人工智能领域的一个分支，致力于研发能在各种任务上达到甚至超越人类智力水平的技术。AGI一直是个饱受争议的话题，部分业界领袖认为业界已接近实现这一目标，而另一些人则持悲观态度，认为这根本无法实现。Brundage 在帖子中还警示道：“OpenAI和其他前沿实验室都尚未做好准备，整个世界也尚未准备好迎接AGI的到来。”
Brundage 表示，他计划创办自己的非营利组织，或加入现有的非营利机构，专注于人工智能政策的深入研究和宣传推广工作。“只有齐心协力，我们才能确保人工智能的发展既安全又有益。”他强调道。根据Brundage的帖子，前AGI Readiness团队的成员将被重新调配至OpenAI的其他团队中。
OpenAI的一位发言人在接受外媒采访时表示：“我们相信，在新的角色中，Miles将继续提升行业和政府政策制定的质量。”
今年7月，OpenAI将顶级安全主管之一Aleksander Madry调往专注于人工智能推理的新职位。Madry曾担任OpenAI的准备工作负责人，该团队负责“跟踪、评估、预测和帮助防范与前沿AI模型相关的灾难性风险”，普林斯顿大学AI计划网站上Madry的个人简介中如此描述。
Madry的职位变动发生在民主党参议员向OpenAI首席执行官萨姆·奥特曼发出信函之后，信函内容涉及“OpenAI如何解决新出现的安全问题”。这封信还指出：“我们要求OpenAI提供更多信息，包括该公司为履行安全公开承诺所采取的措施、公司内部如何评估这些承诺的进展，以及公司对网络安全威胁的识别和缓解情况。”
今年6月，一群OpenAI的现任和前任员工发表了一封公开信，表达了他们对人工智能行业快速发展所带来的监督缺失和举报人保护不足的担忧。信中指出：“人工智能公司有强大的经济动机来逃避有效的监督，我们认为定制的公司治理结构并不足以改变这一现状。”
外媒报道称，这封公开信发布后不久，美国联邦贸易委员会（FTC）和司法部将对OpenAI、微软以及英伟达展开反垄断调查，重点关注这些公司在人工智能领域的行为和合作。FTC主席莉娜·汗将此次调查描述为“对人工智能开发商和主要云服务提供商之间正在形成的投资和合作关系的市场调查”。
在6月份的公开信中，现任和前任员工还指出，人工智能公司掌握着大量关于其技术性能、安全措施以及潜在风险水平的非公开信息。他们表示：“我们也了解这些技术所带来的严重风险，但这些公司目前只承担了与政府分享部分信息的微弱义务，而与民间社会则没有任何义务。我们认为，不能指望它们都自愿分享这些信息。”
此外，OpenAI的超级对齐团队于去年成立，其为致力于“实现科学和技术突破，以引导和控制比我们更聪明的人工智能系统”而成立。然而，该团队在今年5月被解散。当时，OpenAI表示将在四年内将20%的计算能力投入到该计划中。随着团队领导人、OpenAI联合创始人伊利亚·苏茨克维和简·莱克的离职，该团队也正式宣告解散。
莱克在X平台上的一篇文章中写道：“制造比人类更聪明的机器本身就是一项危险的事业。OpenAI代表全人类肩负着巨大的责任。但在过去几年里，安全文化和流程已经让位于产品功能。”奥特曼在X平台上对此表示遗憾，并承认OpenAI还有更多工作要做。
莱克在5月份的X帖子中进一步表示，他与OpenAI领导层在公司的核心优先事项上存在分歧已久，最终达到了无法调和的临界点。他认为公司应该将更多的精力集中在安全、监控、准备、安全以及社会影响等方面。他写道：“这些问题很难解决，我担心我们无法走上正确的轨道。过去几个月里，我的团队一直在逆风前行。有时我们为’计算资源’而苦苦挣扎，完成这项至关重要的研究变得越来越困难。”
AGI Readiness团队解散的消息传出之际，正值OpenAI董事会考虑将公司重组为营利性企业的敏感时期。2024年10月初，OpenAI成功完成了一轮融资，估值高达1570亿美元，其中包括从多家投资公司和大型科技公司筹集的66亿美元。此外，该公司还获得了40亿美元的循环信贷额度，使其总流动资金超过100亿美元。
值得一提的是，微软在7月份主动放弃了其在OpenAI董事会的观察员席位，并在一封信中表示，鉴于对OpenAI董事会构成的满意度提升，微软认为现在可以正式辞去这一席位。这一决定发生在OpenAI董事会经历重组之后，该重组事件源于一场内部混乱，该混乱曾一度导致OpenAI首席执行官萨姆·奥特曼暂时离职，并威胁到微软对这家初创公司的巨额投资。