一群 OpenAI 的现任和前任员工周二发表了一封公开信，对人工智能行业的快速发展表示担忧，尽管该行业缺乏监督，也没有为那些希望直言不讳的人提供举报保护。
员工们在公开信中写道，人工智能公司有强烈的经济动机来避免有效监督，我们认为定制的公司治理结构不足以改变这种状况。
OpenAI、谷歌、微软、Meta 和其他公司正处于人工智能军备竞赛的风口浪尖--据预测，这一市场将在十年内达到 1 万亿美元的收入规模--各行各业的公司似乎都在争先恐后地增加人工智能聊天机器人和代理，以避免被竞争对手甩在后面。
人工智能公司的现任和前任员工写道，他们掌握着大量非公开信息，这些信息涉及他们的技术能做什么、他们采取了多大程度的安全措施以及该技术对不同类型伤害的风险等级。
我们也了解这些技术带来的严重风险，"他们写道，并补充说，目前这些公司只有微弱的义务与政府共享部分信息，而没有义务与民间社会共享信息。我们认为，不能指望所有公司都会自愿分享这些信息。
信中还详细描述了现任和前任员工对人工智能行业举报人保护不足的担忧，指出在没有有效政府监督的情况下，员工在追究公司责任方面处于相对独特的地位。
签名者写道，广泛的保密协议阻碍了我们表达自己的担忧，除了那些可能未能解决这些问题的公司。普通的举报人保护措施是不够的，因为它们主要针对的是非法活动，而我们关注的许多风险尚未受到监管。
信中要求人工智能公司承诺不签订或执行非贬损协议；为现任和前任员工设立匿名程序，以便他们向公司董事会、监管机构和其他人表达关切；支持公开批评的文化；如果内部举报程序失败，不对公开举报进行报复。
OpenAI 的四名匿名员工和七名前员工（包括丹尼尔-科科塔伊洛、雅各布-希尔顿、威廉-桑德斯、卡罗尔-温莱特和丹尼尔-齐格勒）在这封信上签了名。签名者还包括曾在谷歌 DeepMind 工作的拉马纳-库马尔（Ramana Kumar），以及目前在谷歌 DeepMind 工作、曾在 Anthropic 工作的尼尔-南达（Neel Nanda）。三位以推动人工智能领域发展而闻名的著名计算机科学家也在信中表示赞同：Geoffrey Hinton、Yoshua Bengio 和 Stuart Russell。
OpenAI 发言人告诉 CNBC，公司设有匿名诚信热线，并成立了由董事会成员和 OpenAI 领导人领导的安全和安保委员会。
上个月，OpenAI 撤销了一项备受争议的决定，即让前员工在签署一份永不过期的不贬低协议与保留其在公司的既得股权之间做出选择。CNBC 查看了这份内部备忘录，它被发送给了前员工，并与在职员工共享。
这份写给每位前员工的备忘录称，在该员工离开 OpenAI 时，你可能已经被告知，你必须签署一份包含不贬低条款的一般免责协议，才能保留已归属单位（股权）。
OpenAI 的一位发言人当时告诉 CNBC："我们感到非常抱歉，我们现在才改变这种措辞；这并不反映我们的价值观或我们想成为的公司。
周二的公开信也是继 OpenAI 上个月决定解散其专注于人工智能长期风险的团队之后的又一决定，而这距离这家由微软支持的初创公司宣布成立该团队仅过去了一年，一位熟悉情况的人士当时向 CNBC 证实了这一消息。
这位不愿透露姓名的人士说，一些团队成员正被重新分配到公司内的其他多个团队。
团队解散之前，OpenAI 联合创始人伊利亚-苏茨克沃尔（Ilya Sutskever）和扬-莱克（Jan Leike）两位团队领导人已于上个月宣布离开这家初创公司。莱克在 X 上发表的一篇文章中写道，OpenAI 的安全文化和流程已经被闪亮的产品所取代。
首席执行官山姆-奥特曼（Sam Altman）在 X 上说，他对莱克的离开感到很难过，公司还有更多的工作要做。不久之后，OpenAI 联合创始人格雷格-布罗克曼（Greg Brockman）在 X 上发布了一份声明，称公司已经提高了人们对 AGI 风险和机遇的认识，从而让世界更好地为 AGI 做好准备。
雷克在《X》上写道："我加入OpenAI，是因为我认为OpenAI将是世界上从事这项研究的最佳场所。
莱克写道，他认为公司应将更多的带宽集中在安全、监控、准备、安全和社会影响方面。
他写道："这些问题很难解决，我担心的是，我们并没有走上实现目标的轨道。在过去的几个月里，我的团队一直在逆风航行。有时我们为（计算资源）而苦苦挣扎，要完成这项至关重要的研究越来越难。
Leike 补充说，OpenAI 必须成为一家安全第一的 AGI 公司。
他写道："制造比人类更智能的机器本身就是一项危险的工作。OpenAI 代表全人类肩负着巨大的责任。但在过去的几年里，安全文化和流程已经被闪亮的产品所取代。
在高调离职的几个月前，OpenAI 经历了一场涉及 Altman 的领导层危机。
11 月，OpenAI 董事会将 Altman 赶下台，并在一份声明中称 Altman 在与董事会的沟通中未能始终保持坦诚。
华尔街日报》和其他媒体报道说，苏茨克沃将重点放在确保人工智能不会伤害人类上，而包括奥特曼在内的其他人则更热衷于推动新技术的发展。
Altman 的下台引发了辞职或辞职威胁，包括一封几乎由 OpenAI 所有员工签署的公开信，以及包括微软在内的投资者的哗然。不到一周，阿尔特曼又回到了公司，而曾投票反对阿尔特曼下台的董事会成员海伦-托纳（Helen Toner）、塔莎-麦考利（Tasha McCauley）和伊利亚-苏茨克沃（Ilya Sutskever）则出局了。Sutskever 当时继续留任，但不再担任董事会成员。亚当-德安吉洛（Adam D'Angelo）也曾投票反对奥尔特曼下台，但仍留在董事会。
与此同时，OpenAI 在上个月推出了新的人工智能模型和桌面版 ChatGPT，并更新了用户界面和音频功能，这是该公司为扩大其流行聊天机器人的使用范围而做出的最新努力。在 OpenAI 首次推出一系列音频语音一周后，该公司宣布将撤下其中一个名为 Sky 的病毒式聊天机器人语音。
Sky 因在一部关于人工智能的电影《她》（Her）中模仿女演员斯嘉丽-约翰逊（Scarlett Johansson）的声音而引发争议。这位好莱坞明星声称，OpenAI 盗用了她的声音，尽管她拒绝让他们使用。
