IT之家 3 月 8 日报道,OpenAI 硬件和机器人工程主管 Caitlin Kalinowski 于当地时间周六宣布辞职,以抗议该公司与美国国防部(DoD)达成的合作协议。他表示,OpenAI 在没有完全界定安全障碍的情况下仓促达成了这项协议,而且包括内部监视和致命自主武器在内的“红线”问题也没有得到足够仔细的讨论。我离开了 OpenAI。我非常重视机器人团队以及我们共同取得的成就。做出这个决定并不容易。人工智能在国家安全中发挥着重要作用。但在没有司法监督的情况下监视美国人以及在未经人类许可的情况下实现致命的自治是两条红线,值得比实际情况进行更仔细的辩论。这是关于原则,而不是个人。我对 Sam 和整个 eteam 怀有最大的敬意,我为我们共同取得的成就感到自豪。 Kalinowski 于 11 月加入 OpenAI2024 年 2 月,在 Meta 担任硬件高管两年半多后,领导了代号为“Project Nazare”的 AR 眼镜项目(后来正式称为 Orion)。此前,他在 Meta 的 Oculus 工作了九年多,专注于开发虚拟现实耳机;在 Apple 工作了近六年,帮助设计了 MacBook Pro 和 Air 产品。来源:Pexels 这场争议是由 OpenAI 与国防部达成协议,在敏感的政府网络上部署其人工智能模型引发的。就在几天前,五角大楼将 OpenAI 的竞争对手 Anthropic 列为“供应链风险”,此前与该机构的谈判因坚持内部监视和严格限制自主武器的使用而破裂。 OpenAI与国防部的合作协议公布后,美国公众反应强烈。 Sensor Tower 数据显示,2 月 28 日,即交易宣布当天,卸载与前 30 天的平均值相比,ChatGPT US 应用程序的 s 较前一天增长了 295%。这明显高于9%的平均水平。下载量也较上月下降了13%,并在3月1日继续下降5%。面对舆论海啸,奥特曼于3月1日在X平台公开道歉,承认自己的行为“投机取巧、仓促”。他表示,他将修改协议,明确三条红线:人工智能不能用于“国内大规模监视”,涉及自主武器系统的武力使用必须由人类处理,不得使用五角大楼情报机构的服务。他说:“这些问题极其复杂,需要明确的沟通。”他承诺将与国防部“缓慢行动”,协调技术援助措施的认真实施。 OpenAI 发言人证实了 Kalinowski 的辞职并发布了一份声明向媒体表示:“我们不认为该公司与国防部有任何关系。”该协议为在国家安全中负责任地使用人工智能创造了一条可行的道路,同时澄清了红线,即它与国家监视或自主武器无关。我们认识到“公众在这些问题上存在深刻分歧,我们将继续与世界各地的员工、政府、民间社会和社区进行接触。”
特别提示:以上内容(包括图片、视频,如有)由自有媒体平台“网易账号”用户上传发布。本平台仅提供存储服务、信息传递。
注:以上内容(包括图片和视频,如有)由网易号用户上传发布,网易号是一个仅提供信息存储服务的社交媒体平台。