OpenAI高层地震：深入奥特曼和研究员之间的裂痕（组图）

本文转载自澳大利亚广播公司ABC中文，仅代表原出处和原作者观点，仅供参考阅读，不代表本网态度和立场。

过去一周，硅谷一间重要的科技公司就人工智能的未来展开了一场混乱的争斗。

一方是那些掌握着世界上最先进的生成式人工智能的人，他们身后是数十亿美元投资者的支持。

另一方则是少数企业家，他们担心，如果任由人工智能产业在没有任何监管性手动刹车的情况下飞速发展，那么这些系统可能会给人类带来灭顶之灾。

科技界眼睁睁地看着ChatGPT背后的公司OpenAI的董事会突然解雇了其首席执行官，但六天后又把他迎了回来，并换血了一半的董事会成员。

这一连串事件的核心似乎是由于首席执行官山姆·奥特曼（Sam Altman）领导的盈利部门与公司非盈利董事会之间的理念分裂。

奥特曼于斯坦福大学辍学，如今已然亿万富翁，19岁就创办了自己的第一家科技公司。他负责监督OpenAI的扩张，包括ChatGPT的一举成功。

但据公司内部人士透露，注重安全的董事会担心这位首席执行官正在走一条危险的道路。

这一戏剧性的事件暴露出硅谷商业利益和公共利益之间不可避免的摩擦，也引发了人们对人工智能竞赛中公司治理和道德监管的质疑。

一家利他主义的人工智能初创企业如何成为成功的科技巨头

在其创意机器人ChatGPT成为家喻户晓的名字之前，OpenAI最初是一家非营利性研究中心，旨在“建立安全的通用人工智能（AGI）来造福人类”。

它的投资者包括奥特曼、马斯克和若干名风险投资人，他们最初以一个“没有财务义务”的项目名义认捐了10亿美元，允许该项目只专注于探索这项新技术，并与世界分享他们的研究成果。

在许多人看来，这是该竞争激烈的行业向前迈出的令人振奋的合作一步。

到2019年，OpenAI需要资金来购买昂贵的计算能力，以运行和测试其人工智能模型，然后再进行测试。

于是，该研究机构在营利和非营利混合模式下成立了一个商业分支，奥特曼成为其首席执行官。

当时，OpenAI的公告称，“据我们所知，没有任何现有的法律结构能达到适当的平衡”，因此创始人创建了一家“有营利上限的”公司，由非营利董事会管理。

公告白纸黑字写明，股东只能赚取一定数额的利润，超出部分将重新投入到OpenAI公司中。

公司联合创始人之一伊利亚·苏茨克沃（Ilya Sutskever）在2019年告诉美国媒体公司VOX说：“我们试图创建一种结构，让我们能够筹集到更多资金，同时让我们尽可能正式遵守OpenAI最初使命的精神和文字。”

在这里，伊利亚·苏茨克沃成为了一个值得记住的名字。

从2019年开始，奥特曼成为了生成式工智能的代言人。OpenAI的使命在公司文件、采访、演讲台上被反复提及，奥特曼本人也在世界各地旅行，警告人们生成式人工智能终有一天会拥有强大的力量。

他既敲响了警钟，也提升了OpenAI的商业价值。

普林斯顿大学人工智能伦理讲师史蒂文·凯尔茨（Steven Kelts）本周告诉澳大利亚广播公司ABC说：“我认为，他们所做的是利用了一项非常伟大的技术，并从一开始就围绕它制造了许多戏剧性的点。”

随着GPT-3（即 ChatGPT）的发布和广泛流行，OpenAI的价值暴涨，估计最高时达到近900亿美元，而员工们都想卖掉自己的股份。

但是，这个非常有价值的组织最终是由这样一个董事会控制的，那就是他们聚集在一起是为了坚持最初的使命：制造对世界有益的技术，而不是赚钱。

在这一董事会中，就有一位澳大利亚科学家，据说她是之后上演的“接班人”事件的核心人物。

裂痕出现 董事会将矛头指向首席执行官

也许，由利他主义者、亿万富翁和利他主义的百万富翁们共同编织而成的组织结构总是难逃解体的命运。尽管很少有人能预料到这种情况会在一周内就发生了。

11月17日下午，OpenAI董事会令人震惊地宣布解雇首席执行官奥特曼。

据报道，奥特曼是通过Google Meet在线视频通话得知这一消息的，而此时距离声明公开只有几个小时。

联合创始人格雷格·布罗克曼（Greg Brockman）也被董事会除名，但仍被允许留任总裁一职。但他很快也宣布离职，并说他和奥特曼完全被蒙在鼓里。

这一决定的主要决策者是首席科学家、联合创始人伊利亚·苏茨克沃和三位非雇员董事会成员：亚当·迪安吉罗（Adam D'Angelo）、海伦·托纳（Helen Toner）和塔莎·麦考利（Tasha McCauley）。

托纳是澳大利亚人，曾就读于墨尔本大学，之后从事安全使用新兴技术的研究。正是这份事业把她带到了OpenAI，并且据报令她与OpenAI的明星创始人产生了矛盾。

奥特曼和布罗克曼离开没多久，三名高级研究员也纷纷效仿，很快公司就面临着更大的问题。

接下来的周末，越来越多的员工威胁要辞职，而主要投资者则向OpenAI董事会施压，要求其改变决定。奥特曼甚至在周日还带着访客通行证回到了办公室。

微软首席执行官纳德拉据报参与了让奥特曼回归的讨论，微软为OpenAI提供了130亿美元的资金支持。

上周早些时候，纳德拉告诉美国科技记者兼评论员卡拉·斯韦什尔（Kara Swisher）说，尽管微软是OpenAI的主要投资人，但最初撤换奥特曼的决定并没有征求他的意见。

在她的播客节目中，斯韦什尔问纳德拉： “他们没有征求你的意见，对吗？”

“是的，我的意思是，你知道，我们主要是与山姆和管理团队以及营利实体合作，我们与管理这个实体的非营利董事会过去没有任何关系。没错，”他说。

到周日（11月19日），让奥特曼回归的协议仍未达成，OpenAI任命Twitch创始人艾默特·谢尔（ Emmett Shear ）为新的临时首席执行官。

谢尔在宣布就任的推文中承诺，将聘请独立调查员调查导致奥特曼下台的过程。

第二天，纳德拉宣布奥特曼和布罗克曼将加入微软新成立的高级研究团队。

OpenAI陷入了危机，数百名员工威胁要辞职，并加入他们的前领导。纳德拉明确表示，微软会为他们留出位置。

他对斯韦什尔说：“我们要确保，无论山姆做什么，他都一定会和我们一起做。

“我们不希望团队分裂。任务也会受到影响。”

还记得苏茨克沃吗？

他是唯一一名投票罢黜奥特曼并发推文对这一决定表示遗憾的董事会成员。一份要求董事会董事下台的请愿书开始流传。

两天之内，他们的要求得到了满足。

周三凌晨，OpenAI宣布奥特曼正式重新担任首席执行官，董事会大部分成员下台。

麦考利和托纳出局，取而代之的是两名新成员：布莱特·泰勒（Bret Taylor）和拉里·萨默斯（Larry Summers）。

苏茨克沃也退出了董事会，但保留了首席科学家的职位。他表示对联合创始人的回归感到难以言表的喜悦，而此前被罢免的两人同样也对“重新开始编码”感到兴奋。

接受新职位不到72小时后，谢尔就宣布他对奥特曼的回归感到非常高兴。

分裂董事会的人工智能伦理分歧

虽然Open AI公司没有人公开透露上周混乱动向背后的许多细节，但其中不乏蛛丝马迹。

几位观察家指出，由奥特曼领导的营利业务与董事会将公共安全放在首位的利他主义使命之间存在理念上的不匹配，而这种分裂已持续多年。

上周四，路透社发布了一份关于一封秘密信件和一个名为Q*的OpenAI项目的报道，揭示了这一分裂最引人关注的例子。

据路透社报道，在奥特曼被罢黜之前，几位公司研究员写信给董事会，警告说有一个强大的发现可能会威胁到人类。

该发现据信是一个名为Q*项目或Q星的东西。

报道称，OpenAI的一些人认为，Q*可能是这家初创公司在寻找通用人工智能方面的一个突破。

OpenAI将通用人工智能定义为在最具经济价值的任务中超越人类的自主系统。

两位消息人士告诉路透社，这封对Q项目表示担忧的信是导致奥特曼被解雇的一个因素，而董事会对奥特曼已有很多不满。

此外，董事会还对在充分了解技术进步的后果之前将其商业化表示担忧。

凯尔茨博士对ABC说：“这是一场关于人工智能安全未来的两派之争。

“我的分析更倾向于这是一场‘快’与‘慢’之争。奥特曼是主张‘快’的一方。

“他们实际上都关注风险，但[主张]‘快’的团队认为，你越快把这些产品推出去，人们就会越早对它们进行攻击能力评估。

“因此，他们认为自己推出的产品是安全的，但他们希望人们尝试破解它们。

“而[主张]‘慢’的团队更像是说，‘不，让我们在OpenAI内部进行安全性研究，这样我们推出的产品就不会有可能具有会被破坏的防护栏。’”

这种分歧似乎也反映在许多关于正在发生的混乱局势的报道中匿名公司内部人士的评论中。

据《纽约时报》报道，在奥特曼被解职的周五下午，一位参加公司会议的人士回忆说，苏茨克沃认为这一罢免是“为了保护OpenAI让人工智能造福人类的使命所必需的”。

《金融时报》还报道了内部对奥特曼向投资者募集1000亿美元成立一家新的芯片公司的担忧。

董事会在宣布更换领导层的声明中称，奥特曼“没有始终如一地坦诚”，许多人认为这意味着他没有完全说实话。

在被赶下台的前一天，奥特曼还在亚太经合组织峰会上宣讲了生成式人工智能的变革能力。

“就在过去的几周里，当我们......将无知的面纱揭开，将发现的前沿向前推进时，我有幸置身其中，”他对观众说，当时同为讨论小组嘉宾的还有来自谷歌和Meta的高管。

在同一场讨论中，他还接着说，现在还没有必要实施严厉的监管。

“要向人们解释目前的模式没有问题，这是一个很难传达的信息，”他说。

“我们这里不需要严厉的监管。也许未来几代人都不需要。”

“但到了某个时候，当这种模式可以做到相当于整个公司，然后是整个国家，然后是整个世界时，也许我们会需要一些全球性的集体监管和集体决策。”

这番话的语气似乎与奥特曼之前就监管问题发表的公开声明以及OpenAI董事会一些成员的声明相左。

据斯韦什尔报道，矛盾的关键在于奥特曼和托纳之间，托纳在董事会中的职位主要聚焦安全和“深入思考人工智能的长期风险”。

托纳最近与人合作撰写了一篇关于人工智能政策的论文，其中讨论了私营部门的信号传递问题，一些人将此解读为暗示ChatGPT的发布引发了OpenAI竞争对手之间的“竞相逐低”。

《金融时报》上周发表的一篇文章收录了上个月对托纳的采访，内容涉及人工智能高管决定自身命运的道德难题。

“我认为，在大多数情况下，[人工智能公司的高管]都在认真对待风险，并希望做正确的事情。与此同时，他们显然是构建这些系统的人。他们有可能从中获利，”她说。

“因此，我认为确保有外部监督这一点很重要，不仅有公司董事会的监督，还有监管机构和广大公众的监督。

“即使他们的初衷是正确的，我们也不应将其作为确保他们会做正确事情的主要方式。”

这是否意味着硅谷有效利他主义的终结？

随着奥特曼和他的朋友们重新掌舵，关于硅谷的话题转向了这一时刻是否标志着硅谷转离了其曾经珍视的慈善理念。

许多人认为，董事会成员之间的分裂归根结底是那些站在被称为有效利他主义的社会运动两边的人。

这是一个包罗广泛的运动，但其核心主张是，利用社区和行业的集体努力寻求创新的解决方案，是解决全球问题的最佳途径。

该运动中的一个重要派别认为，如果不加以控制，人工智能将对人类的生存构成威胁。

在投票罢免奥特曼的董事会成员中，至少有两人似乎赞同这一观点。

自从学生时代发现有效利他主义运动以来，托纳已经为多家有效利他主义组织工作过，而麦考利目前则是一家名为“有效风险投资”（Effective Ventures）的有效利他主义慈善机构的董事会成员。

虽然苏茨克沃并不被视为该问题上虔诚的信徒，但据《华尔街日报》报道，他和奥特曼“在安全问题上发生了冲突，而这些问题与有效利他主义的担忧如出一辙”。

谢尔，这位近72小时的临时首席执行官，在一部哈利·波特粉丝撰写的在有效利他主义社区中广受欢迎的小说中被写为一个角色，这部小说设定为另一个替代现实，小巫师波特在其中努力进行理性思考。

奥特曼过去一直对有效利他主义持批评态度，将其描述为由善意的个人组成的“漏洞百出的运动”。

在一场被称为“失败的政变”之后，OpenAI的大厅里可能已经没有留下什么有效利他主义者了。

OpenAI在给《华尔街日报》记者的一份关于哲学辩论的声明中表示，有效利他主义并不是其业务的核心价值观之一。

这被描绘成这场运动棺材上敲入的最后一颗钉子，在过去几个月里，由于另一位占据科技头条的山姆——加密货币大王山姆·班克曼·弗里德（Sam Bankman-Fried）不光彩的反常行为，该运动的声誉已经遭受了重大损失。

根据《时代》周刊今年三月发表的一篇独家报道，该运动的领导人曾多次被警告，他们的代表人物之一正在实施不道德且疏忽的行为，而这一切早在他被判犯下美国历史上最大的一批金融诈骗罪之前就已经发生了。

知情人士告诉《时代》周刊，这些领导人无视有关班克曼·弗里德的警告，接受了数千万美元用于有效利他主义事业。

上周之后，有效利他主义的另一位最著名支持者、Skype联合创始人贾安·塔林（Jaan Tallinn）公开质疑有效利他主义是否是科技公司的可行理念。

他告诉美国新闻网站Semafor说：“OpenAI的治理危机凸显了以自愿利他主义为动机的治理计划的脆弱性。”

回归现状

抛开个人理念不谈，过去一周来发生的事件让人们更加关注如何监管人工智能，尤其是生成式人工智能。

长期以来，奥特曼一直主张既要发挥生成式人工智能的威力，又要对其进行监督，以确保开发这些技术的公司——包括他自己的公司——不会滥用这些技术。

与此同时，根据《时代》周刊今年六月发表的一份调查报告，OpenAI一直在私下游说官员淡化欧盟《人工智能法案》中的重要内容。

奥特曼今年早些时候出席了最近的国会听证会以及在听证会间隙举行的闭门晚宴，这引起了一些人士的批评。他们指出，一位科技公司高管一方面公开主张对自己的行业进行监管，另一方面却与最终决定这些法律的政策制定者私下会面，这未免有些讽刺。

这个关于透明度的问题强调了国际标准化组织（ISO）关于负责任、安全和可信赖的人工智能开发的最佳实践指南中的一个关键组成部分。

数据伦理和负责任人工智能领域的全球专家奥雷利·雅克特（Aurelie Jacquet）告诉ABC说：“透明度实际上是确保问责制的关键要求，不仅对人工智能如此，对任何产品都是如此。

“我个人认为，人工智能的发展实际上是在放大现有的风险。它是一种工具，你将其纳入现有流程，因此，它放大了[该领域内已经存在的风险]。”

雅克特女士是ISO人工智能委员会澳大利亚代表团的团长，她表示，虽然OpenAI和微软等公司在确保未来该行业的透明度和问责制方面要发挥作用，但一周来发生的事件最终并没有改变这些标准的制定方式。

雅克特女士说：“从人工智能的角度来看，这确实没有改变关于如何负责任地进行人工智能这一对话。”

国际标准化组织将于明年发布其人工智能管理标准，与任何最佳实践指南一样，将由各国政府和公司决定如何实施这些标准。

在凯尔茨博士看来，OpenAI能够存活下来而不是被微软吞并是件好事，不过他认为公众应该对他们最近的一些努力感到不安。

他指出，OpenAI开发的名为MyGPT的个人机器人存在严重的数据隐私问题，而微软连接数百万个应用程序接口（API）并教人工智能如何使用这些应用程序接口的计划也存在诸多风险。

但一周来的情况表明，在硅谷这样的地方，金钱的力量是多么强大。

“你无法阻止利润的力量，”他说。

本文转载自澳大利亚广播公司ABC中文，仅代表原出处和原作者观点，仅供参考阅读，不代表本网态度和立场。