逃离谷歌,多年来DeepMind一直在寻求独立?

作者:泽南、小舟,原文标题:《逃离谷歌,多年来DeepMind一直在寻求独立:还搞了个“Mario”计划》,题图来自:视觉中国

有段时间,DeepMind 员工们将其称为“Watermelon 计划”;后来,高管们又称之为“Mario 计划”,不论如何它们都指代同一件事:让 DeepMind 重新从谷歌拆分出来的秘密计划

DeepMind 在人工智能领域的大名可谓家喻户晓,这家 2010 年创立于英国,以探索最前沿技术为己任的公司在过去的几年里创造了很多“第一”:让 AI 首次在围棋上超越人类,在星际争霸 2 上达到职业玩家水平,还有破解蛋白质分子折叠问题,解决了生物学家 50 年来的重大挑战。

逃离谷歌,多年来DeepMind一直在寻求独立?

人们一直对被收购后的 DeepMind 为何仍能与母公司谷歌保持距离感到好奇,实际上这是该公司员工不断“斗争”达成的结果:近日外媒 Business Insider 报道,九名直面“马里奥”计划的现任和前任员工表示,DeepMind 担心谷歌有朝一日可能会滥用其技术,多年来,高管们一直努力使这家人工智能公司与其所有者分离。

知情人士称,这包括寻求独立法律地位的计划,其将使该组织的工作与谷歌保持距离。

一位前员工表示,DeepMind 面临的一个核心问题是,它将业务出售给了它不信任的人。“从那时起发生的一切都是出售引发的后续,”该人士补充道。

根据《华尔街日报》今年 4 月的报道,谷歌打压了 DeepMind 创始人们多年来试图为确保独立性所做的努力,双方没有达成一致。长达数年的谈判,以及谷歌人工智能部门最近的重组,引发了人们对这家搜索巨头是否能够保有对未来至关重要的技术的控制权的问题。

“自收购以来,DeepMind 和谷歌之间的合作非常成功——在谷歌支持下,我们取得了改变人工智能领域的研究突破,现在正在解开科学中的一些最大难题。”DeepMind 发言人在一份声明中表示。“多年来我们讨论了和谷歌集团之间的各种架构,试图找到支持我们长期研究任务的最佳方式。我们为能够完成这些任务感到无比自豪,同时继续拥有运营自主权和 Alphabet 的全力支持。”

不可避免的谷歌化

不论现在的纷争,2014 年谷歌收购 DeepMind 时,这笔交易被视为一场双赢。谷歌获得了一家世界领先的 AI 研究机构,而 DeepMind 也为其构建像人类一样学习不同任务的 AI(即通用人工智能 AGI)获得了资金支持。

不过事情总没有那么理想,很快二者就出现了一些摩擦。一些员工表示:一些 DeepMind 的研究人员与谷歌庞大的商业体系之间具有文化冲突。还有一些人表示立即将 DeepMind 的工作置于科技巨头谷歌的控制之下是令人担忧的。有一段时间,由于担心谷歌监视他们的工作,DeepMind 的一些员工使用加密消息应用程序进行通信。

一位知情人士说:“有一次,DeepMind 的高管发现谷歌内部人工智能研究小组发表的工作与 DeepMind 的一些代码库相似,但却没有引用。这让 DeepMind 的 CEO 哈萨比斯非常生气。这就是 DeepMind 对其代码加以更多保护的原因之一。”

2015 年谷歌重组为 Alphabet,以给予风险更高的项目更多自由度。在那之后,DeepMind 的领导层也试图使其成为 Alphabet 的一个独立子部门,并拥有自己的损益表。

DeepMind 现已在 Alphabet 内部享有高度的运营独立性,不过该公司还希望能够实现法律自主权。DeepMind 的目标是实现 AGI,他们担心自己的技术被滥用。

知情人士称,在 DeepMind 内部,获得更多自主权的计划最初被称为“Watermelon”,后来在 DeepMind 的领导层中被正式命名为“Mario”。

DeepMind 认为他们的技术过于强大,不能让私人公司占有,因此需要将其安置在与股东利益无关的其他法律实体中,这对整个人类社会都更有益。

接受资助,但还是要分家

2017 年在苏格兰的一次公司会议中,DeepMind 的领导层向员工披露了其与谷歌分离的计划。知情人士称:当时领导层内部表示,DeepMind 计划成为全球利益公司。尽管该名称并非官方法律地位,但反映了 DeepMind 认为其技术会产生全球影响。

后来,在与谷歌的谈判中,DeepMind 表示希望成为担保有限公司,这是一种没有股东的公司结构,常被非营利组织使用。两名参与谈判的人士称谈判协议要求 Alphabet 继续为 DeepMind 提供资金,并获得其技术的独家许可,条件是 Alphabet 不能跨越某些道德红线,例如将 DeepMind 技术用于军事武器或监视。

2019 年,英国公司大厦提交的文件显示:DeepMind 注册了一家名为 DeepMind Labs Limited 的新公司,以及一家新的控股公司,知情人士称这和与谷歌的分离计划有关。

多年来,DeepMind 与谷歌的谈判经历了高峰和低谷,但在 2020 年获得了新的动力。DeepMind 内部一个高级团队开始与外部律师和谷歌举行会议,他们讨论是否会共享代码库、内部性能指标和软件费用。

DeepMind 和谷歌的领导层在人工智能伦理道德问题上从一开始就存在分歧,DeepMind 也一直在担忧与谷歌的交易可能带来的道德困境。《经济学人》在 2019 年报道称:在 2014 年收购结束之前,两家公司签署了“道德和安全审查协议”,以防止谷歌控制 DeepMind 的技术。该协议的一部分包括成立一个伦理委员会来监督研究。

但是多年来关于谁应该加入这个伦理委员会存在很多内部讨论,对媒体的承诺也很模糊。一位知情人士曾称:该小组“从未存在过,甚至从未召集过,也从未解决过任何道德问题”。对此,DeepMind 的发言人拒绝置评。

还有知情人士称:如果 DeepMind 与谷歌分离,将召集成立一个独立的审查委员会。该委员会将由谷歌和 DeepMind 的高管以及第三方组成。一位看到候选人入围名单知情人士称:美国前总统巴拉克 · 奥巴马是 DeepMind 想要为该委员会争取的人。

此外,DeepMind 还制定了一套道德规章,其中包括禁止将其技术用于军事武器或监视,以及规定其技术应以造福社会的方式使用。2017 年,DeepMind 成立了一个由员工和外部研究员组成的专注于人工智能伦理研究的部门。它的既定目标是“为真正有益和负责任的人工智能铺平道路”。

几个月后,一份谷歌与五角大楼之间的有争议合同,即 Maven 项目被披露,引起内部轩然大波,有人指责谷歌卷入了“战争行业”,这在 DeepMind 内部敲响了警钟。

之后,谷歌发布了一套管理其人工智能工作的原则,其中的指导方针类似于 DeepMind 已在内部制定的道德规章,这激怒了 DeepMind 的一些高层领导。

谁来掌控 AI

今年 4 月,哈萨比斯在一次全体会议上告诉员工,与谷歌的拆分谈判已经结束了。DeepMind 将保持其在 Alphabet 内部的现有地位。DeepMind 未来的工作将由谷歌高级技术审查委员会监督,其中包括两名 DeepMind 高管、谷歌人工智能主管 Jeff Dean 和法律高级副总裁 Kent Walker。

但斗争还没有结束,DeepMind 为实现独立长达数年的斗争引发了人们对其在谷歌未来的质疑。谷歌对人工智能研究的承诺也受到质疑,此前该公司两名资深人工智能伦理研究人员离职的消息震动了业内。一系列事件导致了社区的强烈反应,并引发了人们对谷歌是否真正允许独立研究产生了怀疑。

应用数据伦理中心的研究员 Ali Alkhatib 表示,迫切需要更多的公共问责制度来规范大型科技公司对于人工智能的追求。

对于谷歌来说,多年投资 DeepMind 撒下的钱才刚刚获得回报。去年 7 月,预测人类蛋白结构的 AI 算法 AlphaFold 研究登上 Nature,其可以帮助科学家更好地了解微观蛋白质的行为,这有可能彻底改变药物发现的方式。

而在 DeepMind 哈萨比斯坚持认为人工智能技术不应该被一家盈利机构所控制。6 月在 Tortoise 的可信人工智能论坛上发表讲话时,他提出构建“世界人工智能研究所”的构想。哈萨比斯推测,新机构可能受联合国管辖,要由该领域的顶尖研究人员组成。

“如果你作出表率,我们的设想就会更接近现实,”哈萨比斯说道。“我希望 DeepMind 能够成为行业的榜样。”

参考内容:

https://www.businessinsider.com/deepmind-secret-plot-break-away-from-google-project-watermelon-mario-2021-9

https://www.wsj.com/articles/google-unit-deepmind-triedand-failedto-win-ai-autonomy-from-parent-11621592951

作者:泽南、小舟

声明:本站部分作品是由网友自主投稿和发布、编辑整理上传,对此类作品本站仅提供交流平台,转载的目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,不为其版权负责。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。

发表评论

登录后才能评论