杨颖做的车网站,优秀门户网站欣赏,做网站调用无广告视频,焦作网站制作公司作者#xff1a;小岩
编辑#xff1a;彩云
2024年#xff0c;OpenAI的CEO Sam Altman就没有清闲过#xff0c;他似乎一直走在解决麻烦的路上。最近#xff0c;他的麻烦又来了。
当地时间6月4日#xff0c;13位来自OpenAI和Google Deep Mind的现任及前任员工联合发布了…作者小岩
编辑彩云
2024年OpenAI的CEO Sam Altman就没有清闲过他似乎一直走在解决麻烦的路上。最近他的麻烦又来了。
当地时间6月4日13位来自OpenAI和Google Deep Mind的现任及前任员工联合发布了一封公开信引发了外界的广泛关注。这些员工在信中表达了对人工智能技术潜在风险的严重担忧并呼吁相关公司采取更加透明更加负责任的措施来应对这些风险。
不夸张的说这一次OpenAI和谷歌是被讨伐了。
多位知名人士联合背书就连AI教父也为其站台。
这封由13名OpenAI和谷歌Deep Mind现任及前任员工联合发出的公开信一方面揭发了OpenAI的鲁莽和保密文化另一方面还强调了前沿AI技术的严峻风险表达了对AI公司在开发和推广AI技术时利益优先打压异见者以及规避监管等种种行径的担忧。
信中指出尽管AI技术可能会给人类带来巨大益处但其带来的风险同样不容忽视包括加剧社会不平等操纵和虚假信息传播以及自主AI系统失控可能导致的人类灭绝等。这些风险绝非空穴来风不仅得到了人工智能公司本身的确认也得到了世界各国政府和其他AI专家的认可。
公开信签署者们表示他们希望在科学界政策制定者和公众的指导下能够充分缓解这些风险。他们出现了很强的忧患意思他们担心人工智能公司出于强烈的经济动机可能会避免接受有效的监督可仅靠现有的公司治理结构完全不足以解决这一问题。 信中还提到由于严格的保密协议员工们在表达对AI风险的担忧时还要面临着种种限制目前对于举报人的保护措施也存在着严重不足很多员工担心因为提出批评而遭遇报复。
值得一提的是这封信获得了多位知名人士的联名背书这其中就有被誉为“人工智能教父”的Geoffrey Hinton还有因开创性AI研究获得图灵奖的Yoshua BengioAI安全领域的学者Stuart Russell。 公开信署名人员的诉求和初心要实验室对透明度做出更广泛的承诺。
那么在公开信上署名的这些人他的心声是什么呢
OpenAI 的前员工Daniel Kokotajlo正是联名信公开署名人员中的一位他曾在社交平台发文提到“我们之中一些最近从 OpenAI 辞职的人聚集在一起要求实验室对透明度作出更广泛的承诺。”
资料显示Daniel刚刚从OpenAI 辞职其中很重要的一个原因在他对OpenAI在构建通用人工智能方面未采取负责任的行为表示失望并且失去了信心。在Daniel看来AI系统不是普通的软件它们是从大量数据中学习的人工神经网络。尽管目前关于可解释性对齐和控制的科学文献正在迅速增多但这些领域仍处于起步阶段。如果不小心可能会在一段时间内造成灾难性后果。Daniel曾对公司提出他希望其在AI功能越做越强大的同时也能够在安全研究方面投入更多资金但OpenAI并未做出相应的调整这导致多名员工相继辞职。
在Daniel看来OpenAI等实验室构建的系统的确可以给人类社会带来巨大的好处但如果不谨慎处理很可能带来灾难性的后果。更可怕的是当前的AI技术几乎没有被有效监管主要是依靠公司在进行自我监管而这种方式存在巨大的风险。
Daniel还透露离职时他被要求签署一份“封口协议”其中包含一项不贬损条款禁止他发表任何批评公司的话否则将失去已归属的股权。然而他在深思熟虑后依旧决定放弃签署协议。 无独有偶今年4月Leopold Aschenbrenner也离开了OpenAI与Daniel不同的事他不是主动辞职而是被OpenAI以泄露公司机密为由开除的。
Aschenbrenner曾是OpenAI前超级对齐部门成员。据知情人士透露他被开除的真实原因是他给几位董事会成员分享了一份OpenAI安全备忘录结果招致OpenAI高层的不满。据说OpenAI当时很清楚地告诉他开除他的主要原因就是因为这份备忘录。
在此之后Aschenbrenner上线了一个网站用165页PDF文件汇总了他在OpenAI工作期间所了解的信息这份文件被看作是“硅谷最激进的AI研究人员提出的一份未来10年AI发展的纲领性文件”。Aschenbrenner认为目前深度学习还没有遇到瓶颈到2030年左右AGI很有可能会发展出全面超越人类的超级人工智能。对此人类似乎还没有做好准备。AI所带来的也绝不仅仅是多数专家所认为的“另一场互联网规模的技术变革”。
安全主管辞职超级对齐团队解散多名骨干成员正在“背叛”OpenAI...
事实上从OpenAI离职的远不止以上两位很多掌握着核心部门的大佬都相继离开了OpenAI。
其中最具代表性的当属OpenAI原首席科学家Ilya Sutskever以及前安全主管超级对齐团队负责人Jan Leike。
与Aschenbrenner和Deniel一样Leike在离职后公开批评了OpenAI的管理层指责其追求华而不实的产品却忽视了AGI本身存的安全问题。他表示在过去的几个月里超级对齐团队一直都是逆风航行在提升模型安全性的道路上受到公司内部的重重阻碍。
Ilya则在OpenAI的宫斗事件之后一直保持沉默即便到了最后官宣离职的时候也没过多的阐述自己的立场和观点。不过Ilya曾在先前的一段视频中提到一旦AGI彻底实现AI未必会仇恨人类但他们对待人类的方式可能会像人类对待动物一样人可能无意伤害动物但如果你想修一条城际高速你不会征询动物的意见而是直接去做。当面临这种情况时AI 可能也会自然而然地做出类似的选择。 去年11月OpenAI爆发宫斗事件借着宫斗事件的最终走向我们可以大致看出OpenAl内部存在的大模型安全性问题以及分化日趋明显的两大阵营。一方阵营是以Sam Altman为代表的“发展派”另一方则是以Ilya为代表的“安全派”。两方斗法如今来看结局很明显以Ilya为代表的的安全派基本丧失了话语权就连昔日备受瞩目的超级对齐团队也被连根拔起。
在这种情况下未来的一切都成了未知数。我们无法预判Sam Altman所代表的激进发展派是否会一路长虹的前进。如果事实真是这样未来人类该如何平衡与生成式AI之间的关系也会成为巨大的未知数。
