作者|袁加息
本次观察关键词:公司治理、AI 安全
Sam Altman 卸任 OpenAI 首席执行官、并且退出董事会的事,仍在迅速发酵中。
当地时间 11 月 18 日(周六)晚,据外媒援引多位知情人士消息,OpenAI 投资者正在向董事会施压,要求 Sam Altman 重新担任 CEO。而董事会正在与 Sam 讨论此事。
似乎人们还抱着一种希望:如果 Sam 能回到 CEO 的位置上来,那么或许可以当整件事没有发生过,OpenAI 可以收拾分歧,继续前进。
但从此次分歧的本质——也就是 OpenAI 董事会层面的冲突——来看,Sam 无论是去是留,OpenAI 很可能在这次危机中都不会“软着陆”了。重大的公司治理结构调整已经在所难免。
OpenAI“奇葩”的治理结构?
在目前国内的很多文章中,分析者往往不能理解 OpenAI 的董事会和公司治理为什么会这样。于是把它斥为“奇葩”。
而 OpenAI 的治理结构之“奇葩”,根源在于它是一个非营利组织。它的六位董事 不把“对股东负责”视为首要职责,于是也不把盈利和股东回报看作最终目标。(所以股东、乃至微软的施压,在原则上对 OpenAI 董事会没有强制性。)
用 OpenAI 的官方说法:“每位董事必须尽职推动本非营利组织(指 OpenAI)的使命——造福全人类的、安全的通用人工智能。……本非营利组织的首要获益人是全人类,而不是 OpenAI 的投资者。”
换句话说,OpenAI 的董事会,是凭借对很抽象的“人类福祉”的判断,来掌舵 OpenAI 的。本次 Sam Altman 的出局,主流的猜测是因为其他董事会成员认为他背离了 OpenAI 创立的初衷,过于激进地推动公司的全球影响力和 GPT 的商业化。
如果真的这样,那么矛盾内核,是“人类福祉”和“AI 商业化”之间的矛盾。
在 OpenAI 特殊的治理结构中,商业化是受非营利的主体宰制的。出于融资和增长方面的考量,母组织(即 OpenAI, Inc.)在 2019 年创立了子公司 OpenAI LP。这个“LP 公司”承担了融资和给员工发放股权激励的功能。
图:OpenAI 的治理结构。其中中间那个框(Holding Company for OpenAI Nonprofit+employees+investors)就是 OpenAI LP。| 图片来源:OpenAI 官网
在 LP 公司创立时和创立之后,OpenAI 曾多次明示投资者:公司的总原则永远要放在第一位,即便遵守公司原则会有损投资者利益。“投资 OpenAI Global, LLC 是一项高风险的投资”,“投资者可能损失所有的资本,得不到任何回报”。
OpenAI 还提到,“怀着捐献的精神去投资 OpenAI Global, LLC 或许更为明智”。因为如果失败,可能血本无归;而如果成功,在“后通用人工智能”时代,金钱也会变得没有意义。
只是很多人没有想到,投资 OpenAI 的风险会以 Sam 被解职这种方式爆发。
董事会何以为“人类福祉”代言?
Sam 回不回得来,其实都解决不了一个更根源的问题:谁能判断组织行为是否符合“人类福祉”?
OpenAI 的 6 位董事,除了被解职的 Sam Altman,以及随即辞职的董事长兼总裁 Greg Brockman,其余的董事是首席科学家、联合创始人 Ilya Sutskever,以及三位独立董事。Sam 是被 4:2 票走的。
根据外媒援引知情人士称,Ilya Sutskever 一直对 Sam 激进的融资和商业化动作表示不满,认为他背离了 OpenAI 的初衷。同时 Ilya Sutskever 因为是被称为“AI 教父”的 Geoffrey Hinton 的学生,很多人因此猜测他继承了老师对 AI 风险的极度警惕。
此外,三位独董包括 Adam D’Angelo、Helen Toner、Tasha McCauley。
其中,Adam D’Angelo 是有“外国知乎”之称的 Quora 的 CEO。D’Angelo 自己也在做一款名为 Poe 的大模型服务,并且不太对外发表关于 AI 安全的想法。
第二位独董 Tasha McCauley 在新技术创业领域的经历较为丰富。她曾经参与创立了一家机器人公司和一家地理信息技术公司。同时,McCauley 也在两个社会组织中任职,两个组织的工作分别与社区治理和 AI 伦理有关。
第三位独董 Helen Toner(下图中右边那位)的专业领域是所有独董中最专注于 AI 安全的。她是乔治城大学安全与新兴技术中心的核心人物,在 OpenAI 董事会中大量承担 AI 安全和影响力评估的工作。
图:右边是在一场会议中发言的 Helen Toner。| 图片来源:视觉中国
总体上,关于 AI 安全,OpenAI 的董事会肯定有自己的专业判断,但另一方面在外界看来,他们的权威性并不是一目了然的。所以将 Sam Altman 解职,到底是出于对 OpenAI 创建初衷和人类福祉的坚守?还有由于一些人猜测的“公司管理层内斗”?这就很难界定。
归根结底,任何三五个人都难以令人信服地判断“服务人类福祉的 AI”应该怎么做。
Sam 是去是留,OpenAI 都回不到之前了
截至本文发稿,“能否请回 Sam Altman”仍然没有定论。但是无论 Sam 回不回来,OpenAI 很可能都回不到从前了。
当地时间周日凌晨 00:47 分,Sam Altman 发推说:“我这么地爱 OpenAI 的团队”。似乎在叹息事情的无可挽回。
紧跟着 Sam Altman、Greg Brockman 两位创始人的离开,OpenAI 的三名核心研究人员随即辞职,这三人是公司的研究总监 Jakub Pachocki,一个评估 AI 潜在风险的团队的负责人 Aleksander Madry,以及从公司创始时期就加入的研究员 Szymon Sidor。
Sam Altman 的离职将导致公司团队的分裂。Sam 代表着这个非营利机构中的商业化分支,否定了 Sam,相当于否定了 OpenAI 为商业化做出种种治理结构设计,以及对于股东、员工的回报。
而他被开除一天后就又发生了“月下追韩信”的戏码,或许表明董事会低估了自己掌控局面的能力。
而即便让 Sam Altman 复位,也是不可能把局面简单“恢复原状”的。把他辞掉的董事会是不是需要改组?乃至于,OpenAI 用一个六人董事会来保证“造福全人类”,这个治理结构本身是不是有效,也是成问题的。如果 OpenAI 仍然坚持做一个非营利组织,那么就迫切需要找到同时“维持初衷”和“维持运转”的治理方案。而如今,我们依然搞不明白,OpenAI 的精神内核在谁身上,它是不是已经拼不回去了。
可能吃瓜群众们多数是期待 Sam Altman 回来的。但是,到底怎样一种治理结构才最有利于兼顾 AI 的安全性和 AI 的商业化?这个问题依然是没有答案的。
几个月前,Sam 曾经在面对彭博社的采访中意味深长地说到,“世界不应该相信我”。他接着说:“我认为董事会需要逐渐向全人类民主化。有许多方法可以实施这一点。我们认为这项技术,其益处,对它的访问权,以及对它的管理权应该属于全人类。如果这真的有效,那么这是一项非常强大的技术。你不应该只信任一个公司,更不应该只信任一个人。”
如今,这个充斥着理想主义的设想,居然到了迫在眉睫需要想办法实现的地步。
OpenAI 的危机从一个侧面显示出,为什么“AI 安全”是一个如此重要的问题,被上升到国际政治和人类命运的层面。一家公司的治理结构如何精良,也解决不了背后那个大问题。哪怕它是个“非营利组织”。
感谢您的阅读。ESG 从业者或对此有兴趣的研究者、投资者,欢迎扫描下面二维码,申请加入我们社群。
原文链接:https://tech.ifeng.com/c/8UqJeTZXGtK