OpenAI的六名成员董事会将决定“我们何时达到AGI”

据OpenAI称，非盈利董事会的六名成员将决定公司何时“获得AGI它定义为“一个高度自治的系统，在最具经济价值的工作上超越人类。”由于一个营利性机构，一旦董事会决定AGI或人工通用智能达成，“在法律上有义务追求非营利组织的使命”，这样的系统将“被排除在与微软的IP许可和其他商业条款之外，这些条款仅适用于AGI之前的技术。”

但是，由于人工通用智能的定义还远未达成一致，让六个人来决定是否实现AGI对OpenAI乃至整个世界来说意味着什么？对于其最大的投资者微软来说，未来可能做出这一决定的时机和背景意味着什么？ 

营利机构受制于OpenAI的非营利使命

该信息包含在X上的螺纹上周末，OpenAI开发人员倡导者Logan Kilpatrick主持了会议。Kilpatrick回应了评论微软总裁布拉德·史密斯（Brad Smith）在最近与Meta首席科学家亚恩·勒村（Yann LeCun）的一次座谈会上，试图将OpenAI定义为更值得信赖的，因为它具有“非营利”地位——尽管《华尔街日报》 最近报道的OpenAI正在寻求出售现有股票的新估值，最高可达900亿美元。 

史密斯说：“Meta由股东所有。OpenAI由非营利组织所有。你对哪个更有信心？从非营利组织还是完全由一个人控制的营利公司获得技术？”

在他的帖子中，Kilpatrick引用了我们的结构“OpenAI网站上的页面，提供了有关OpenAI复杂的非营利/限制利润结构的详细信息。根据该页面，OpenAI的盈利子公司由OpenAI非营利组织（在特拉华州注册）“完全控制”。而盈利性子公司OpenAI Global，LLC似乎已经从有限合伙制转变过来OpenAI LP公司之前于2019年宣布，大约三年后创立最初的OpenAI非营利组织是“允许盈利和分配利润”，它受制于该非营利组织的使命。 

听起来，似乎一旦OpenAI实现了实现AGI的既定使命，微软就会脱身——尽管在上周的OpenAI开发日上，OpenAI首席执行官萨姆·奥特曼（Sam Altman）告诉微软首席执行官萨蒂亚·纳德拉表示：“我认为我们在技术领域有着最好的合作伙伴关系……我很高兴我们能共同打造AGI。”

还有一个新的奥特曼访谈在《金融时报》上，奥特曼表示，OpenAI/Microsoft的合作关系“运作得非常好”，他预计“随着时间的推移会筹集更多资金”。当被问及微软是否会继续投资时，奥特man说：“我希望如此……还有很长的路要走，从这里到AGI还有很多计算要建。培训费用太高了。”

从一开始，OpenAI的结构细节说微软“接受了我们的有上限股权要约，以及我们将AGI技术和治理留给非营利组织和其他人的请求。”

OpenAI发言人告诉VentureBeat“OpenAI的使命是建立对每个人都安全和有益的AGI。我们的董事会管理公司，并咨询外部专家和利益相关者的不同观点，以帮助告知其想法和决策。我们根据董事会成员的技能、经验和对AI技术、政策和安全的看法提名和任命董事会成员。” 

非营利组织董事会成员与有效利他主义有联系

目前，OpenAI非盈利董事会由董事长兼总裁格雷格·布罗克曼、首席科学家伊利亚·萨茨克沃、首席执行官萨姆·奥特曼以及非员工亚当·安吉洛、塔莎·麦考利和海伦·托纳组成。 

达安吉洛他是Quora的首席执行官，也是科技企业家麦考利和霍纳，他是安全和新兴技术中心在乔治敦大学，所有人都与有效利他主义运动-其中遭到炮火袭击今年早些时候，该公司与Sam Bankman-Fried和FTX以及它对人工智能安全的“危险”态度。OpenAI已经长期以来一直有自己的联系致EA：例如，2017年3月，OpenAI收到了来自开放式慈善由有效利他主义者资助。以及OpenAI的负责人Jan Leike超调队，据报道标识随着EA运动。 

OpenAI发言人表示，“我们的董事会成员都不是有效的利他主义者，”并补充道，“非员工董事会成员不是有效的利他主义者；他们与EA社区的互动侧重于与AI安全相关的主题，或提供与团队关系不密切的人的观点。”

董事会的AGI决策“不同寻常”

苏西·富尔顿（Suzy Fulton）为科技领域的初创公司和新兴公司提供外包总法律顾问和法律服务，她告诉VentureBeat，虽然在许多情况下，董事会做出AGI决定是“不寻常的”，OpenAI的非盈利董事会有义务支持其提供“广泛有益的安全AGI”的使命

她解释道：“他们认为非营利董事会的受益人是人类，而营利董事会则为投资者服务。”。“他们试图建立的另一个保障措施是让董事会多数独立，因为大多数成员在开放人工智能中没有股权。”

这是建立实体结构和董事会以做出关键决定的正确方式吗？富尔顿说：“在董事会决定之前，我们可能不知道答案。”。 

芝加哥大学法学院（The University of Chicago Law School）教授安东尼·凯西（Anthony Casey）同意，让董事会决定像AGI这样的具体操作是“不寻常的”，但他认为不存在任何法律障碍。 

他说：“具体确定董事会层面必须解决的某些问题应该很好。”。“事实上，如果一个问题足够重要，公司法通常会规定董事有义务对该问题进行监督，”特别是“关键任务问题”

关注OpenAI的AGI任务是否使他们的主张合法化？ 

并非所有专家都相信然而，人工通用智能很快就会到来，而有些人甚至怀疑它是否可能。 

根据人工智能和数字政策中心主席Merve Hickok的说法提出索赔与联邦贸易委员会三月她说，该机构应该调查OpenAI，并命令该公司“在建立必要的保障措施之前，停止发布GPT模型，”OpenAI作为一个组织，“确实受到了观点多样性的影响。”她解释说，他们对AGI的关注“忽视了AI模型和工具的当前影响”。 

然而，她不同意在由谁来决定OpenAI是否“实现”AGI的背景下，就OpenAI董事会的规模或多样性展开的任何辩论，她说，这分散了人们对其基本使命和主张是否合法的讨论。 

她说：“这将改变关注点，并在事实上使AGI成为可能的说法合法化。”。 

但是OpenAI缺乏对AGI的明确定义——或者是否会有一个AGI——是否回避了这个问题？例如，OpenAI博客帖子从2023年2月开始，他表示“第一次AGI将只是情报连续体中的一个点”。2023年1月，LessWrong接受了采访，首席执行官萨姆·奥尔特曼（Sam Altman）表示，“我希望看到的未来是，人工智能的使用将超级民主化，世界上有几个AGI可以帮助实现多个观点，并且不会让任何人变得过于强大。”

OpenAI的AGI使命对微软真正意味着什么

尽管如此，很难说OpenAI对AGI的模糊定义对微软真正意味着什么——尤其是在没有两家公司之间运营协议的完整细节的情况下。例如，凯西说，如果OpenAI真诚地履行其非盈利使命，OpenAI的结构和与微软的关系可能会导致一些“大纠纷”。

他指出：“有一些非营利组织是以盈利为目的的。”好时信托“但他们完全拥有营利性股份。在这种情况下，这很容易，因为没有小股东反对，”他解释道。“但在这里，微软的盈利利益可能与控制实体的非盈利利益直接冲突。”

他补充说，利润上限很容易实施，但“困难的是，如果实现最大利润与非营利组织的使命相冲突，该怎么办？”凯西补充说，“默认规则会说，实现利润是首要任务，经理们必须首先做到这一点（根据商业判断规则，这取决于广泛的自由裁量权）。”

也许，他继续说道，“微软说，‘别担心，无论哪种方式，我们都很好。你不欠我们任何责任。’这听起来不像微软的谈判方式。”