OpenAI档案的报告汇集了忧心忡忡的前员工的声音，声称世界上最著名的人工智能实验室正在为了利润而背叛安全。最初是为了确保人工智能为全人类服务的崇高追求，现在正摇摇欲坠，即将成为又一个企业巨头，追逐巨大利润，同时将安全和道德抛在脑后。
这一切的核心是一项撕毁原始规则手册的计划。OpenAI开始时，它做出了一个至关重要的承诺：它*****投资者能赚多少钱的上限。这是一项法律保证，即如果他们成功创造了改变世界的人工智能，巨大的利益将流向人类，而不仅仅是少数亿万富翁。现在，这一承诺即将被抹去，显然是为了满足想要无限回报的投资者。
对于构建OpenAI的人来说，这种远离人工智能安全的转变感觉像是一种深刻的背叛。“非营利使命是承诺在风险很高时做正确的事情，”前员工卡罗尔·温赖特说，“现在风险很高，非营利结构正在被放弃，这意味着承诺最终是空洞的。”
加深信任危机
许多深感担忧的声音都指向一个人：首席执行官萨姆·奥尔特曼。这种担忧并不新鲜。报道显示，即使在他以前的公司，高级同事也试图以他们所谓的“欺骗性和混乱”行为解雇他。
同样的不信任感也跟着他来到了OpenAI。该公司自己的联合创始人伊利亚·苏茨基弗与奥特曼共事多年，并创办了自己的初创公司，他得出了一个令人不寒而栗的结论：“我认为萨姆不应该是那个应该为AGI负责的人。”他觉得奥特曼不诚实，制造了混乱，对于一个可能负责我们集体未来的人来说，这是一个可怕的组合。
前首席技术官米拉·穆拉蒂也同样感到不安。她说：“萨姆把我们引向AGI让我感到不舒服。”她描述了一种有毒的模式，奥尔特曼会告诉人们他们想听什么，然后如果他们挡了他的路，就会破坏他们。这表明，前OpenAI董事会成员塔莎·麦考利表示，在人工智能安全风险如此之高的情况下，操纵“应该是不可接受的”。
这场信任危机给现实世界带来了后果。内部人士表示，OpenAI的文化已经发生了变化，人工智能安全的关键工作已经退居次要地位，转而发布“闪亮的产品”。负责长期安全的团队负责人简·雷克表示，他们正在“逆风航行”，努力获得进行重要研究所需的资源。
另一名前雇员威廉·桑德斯甚至向美国参议院提供了一份可怕的证词，透露长期以来，安全性非常薄弱，数百名工程师可能窃取了该公司最先进的人工智能，包括GPT-4。
绝望地请求在OpenAI优先考虑人工智能安全
但是那些离开的人不仅仅是走开。他们制定了一个路线图，将OpenAI从悬崖边拉回来，这是拯救最初任务的最后努力。
他们呼吁再次赋予该公司的非营利心脏真正的权力，对安全决策拥有铁定的否决权。他们要求明确、诚实的领导，包括对萨姆·奥尔特曼的行为进行新的彻底调查。
他们想要真正的、独立的监督，这样OpenAI就不能只在人工智能安全方面标记自己的作业。他们呼吁建立一种文化，在这种文化中，人们可以畅所欲言，而不用担心自己的工作或储蓄——一个对告密者有真正保护的地方。
最后，他们坚持OpenAI坚持最初的财务承诺：利润上限必须保持不变。目标必须是公共利益，而不是无限的私人财富。
这不仅仅是一家硅谷公司的内部闹剧，OpenAI正在开发一种技术，它可能以我们几乎无法想象的方式重塑我们的世界。它的前员工迫使我们所有人问一个简单而深刻的问题：我们信任谁来建设我们的未来？
正如前董事会成员海伦·托纳从自己的经历中警告的那样，“当资金岌岌可危时，内部护栏是脆弱的”。
现在，最了解OpenAI人告诉我们，那些安全护栏几乎坏了。
本站部分文章来自互联网，文章版权归原作者所有。如有疑问请联系QQ：3164780！
