本月早些时候从人工智能公司辞职的 OpenAI 首席安全研究员之一扬-莱克(Jan Leike)周二表示,他已加入竞争对手人工智能初创公司 Anthropic。
雷克于 5 月 15 日宣布从 OpenAI 辞职,几天前该公司解散了由他共同领导的超对齐小组。该小组成立于 2023 年,主要关注人工智能的长期风险。5 月 14 日,OpenAI 联合创始人伊利亚-苏茨基弗(Ilya Sutskever)在 X 上发帖宣布离职。
我的新团队将致力于可扩展的监督、弱到强的泛化和自动对齐研究。
Anthropic 公司得到了亚马逊的支持,亚马逊承诺出资 40 亿美元购买该公司的少数股份。
雷克在从 OpenAI 离职后的一篇文章中写道:"离开这份工作是我做过的最困难的事情之一,因为我们迫切需要弄清楚如何引导和控制比我们聪明得多的人工智能系统。
自 2022 年底 OpenAI 推出 ChatGPT 以来,人工智能安全在整个科技领域迅速获得重视,并迎来了生成式人工智能产品和投资的热潮。一些业内人士表示担心,公司在向公众发布强大的人工智能产品时行动过快,没有充分考虑潜在的社会危害。
由微软支持的 OpenAI 周二表示,公司成立了一个新的安全和安保委员会,由包括首席执行官 Sam Altman 在内的高级管理人员领导。该委员会将就 OpenAI 项目和运营的安全和安保决策向公司董事会提出建议。
Anthropic 于 2021 年由达里奥-阿莫迪(Dario Amodei)和达尼埃拉-阿莫迪(Daniela Amodei)兄妹以及其他前开放人工智能(OpenAI)高管创立,并于今年 3 月推出了 ChatGPT 的竞争对手 Claude 3。除亚马逊外,该公司还获得了谷歌、Salesforce 和 Zoom 的资助。
观看:人类学联合创始人谈人工智能的应用