Openai的董事会将决定人类何时到达AGI - Matthew Griffin

　　喜欢指数的未来？加入我们的Xpotential社区，通过Xpotential University的课程进行未来的证明，阅读有关指数技术和趋势，连接，观看Keynote或浏览我的博客。

　　根据OpenAI的说法，其非营利董事会的六名成员将确定公司何时“获得AGI”（ - 它将其定义为“高度自主的系统，在大多数经济上有价值的工作中都超过了人类的表现。这要归功于“合法的义务”，“一旦追求非营利性的委员会，或者是人为的启用型制度，或者是人为的一般性启用，或者是人为的一般性，或者是人为的一般性界限，或者已经达到了人为的一般性，或者是人为的一般性启用。Microsoft的许可证和其他商业条款，仅适用于Agi Technology。”

　　但是，由于对人工智能的定义远非同意，因此有六个人决定是否已经达到了AGI - 对于Openai而言，因此是世界，这意味着什么？对于最大的投资者Microsoft来说，这一可能的未来决策的时机和背景将意味着什么？

　　周末，OpenAI开发商倡导者Logan Kilpatrick将信息包含在X的线程中。基尔帕特里克（Kilpatrick）回应了微软总裁布拉德·史密斯（Brad Smith）的评论，他在最近与元首席科学家Yann Lecun的小组讨论中，由于其“非营利性”地位，尽管《华尔街日报》最近报道说，Openai在现有股票中销售高达900亿美元。

　　主题演讲马修·格里芬（Matthew Griffin）的AI和AI的未来

　　史密斯说：“元人拥有股东所有。OpenAI归非营利组织所有。您对哪个人有更多的信心？从非营利组织或一个完全由一个人控制的利润公司中获得技术？”

　　基尔帕特里克（Kilpatrick）在《 Openai》网站上的“我们的结构”页面中引用了有关OpenAI复杂的非营利/封顶利润结构的详细信息。根据该页面，OpenAI的营利性子公司由在特拉华州注册的OpenAI非营利组织“完全控制”。虽然营利性子公司OpenAI Global，LLC（似乎已经从有限合伙企业Openai LP转移了，该公司先前于2019年宣布，大约在建立了原始的OpenAI非营利组织后三年，“允许赚钱和分配利润”，但它遵守非营利组织的任务。

　　听起来肯定是一旦Openai实现了他们到达AGI的指定使命，Microsoft将不在循环中 - 即使在上周的OpenAi Dev日，OpenAI首席执行官Sam Altman告诉Microsoft首席执行官Satya Nadella，“我认为我们在Tech上拥有最佳合作伙伴关系……我很兴奋为我们建立Agi。”

　　阿尔特曼（Altman）在《金融时报》上对阿尔特曼（Altman）进行了新的采访，他说，OpenAI/Microsoft合作伙伴关系“非常好”，他希望“随着时间的推移会筹集更多的工作”。当被问及微软是否会继续投资时，阿尔特曼说：“我希望……还有很长的路要走，而且在这里和AGI之间建立很多计算，培训费用只是巨大的。”

　　从一开始，Openai的结构细节说，微软“接受了我们限制的股权报价，以及我们为非营利组织和其他人类留下AGI技术和治理的要求。”

　　OpenAI发言人补充说：“ Openai的使命是建立对每个人都安全和有益的AGI。我们的董事会管理公司，并从外部专家和利益相关者那里咨询各种观点，以帮助其思维和决策。我们根据其技能，经验和观点提名和任命有关AI技术，政策和安全的技能，经验和观点。”

　　目前，OpenAI非营利董事会由董事长兼总裁Greg Brockman，首席科学家Ilya Sutskever以及首席执行官Sam Altman以及非雇员Adam D'Angelo，Tasha McCauley和Helen Toner组成。

　　Quora首席执行官D'Angelo以及技术企业家McCauley和Honer是乔治敦大学安全与新兴技术中心战略总监，所有这些都与有效的利他主义运动息息相关 - 今年早些时候，它与Sam Bankman-Fried and Ftx的关系以及“危险的安全”均与Ai II的安全相关。Openai长期以来一直与EA有联系：例如，2017年3月，Openai从Open慈善事业中获得了3000万美元的赠款，该慈善机构由有效的利他主义者资助。据报道，领导Openai的超级投资团队的Jan Leike鉴定了EA运动。

　　OpenAI发言人说：“我们的董事会成员都不是有效的利他主义者”，并补充说：“非雇员董事会成员不是有效的利他主义者；他们与EA社区的互动专注于与AI安全有关的主题，或者提供与小组无密切相关的人的观点。”

　　Suzy Fulton为技术领域的初创企业和新兴公司提供外包的总法律顾问和法律服务，虽然在许多情况下，在许多情况下，让董事会做出这一AGI决心是“不寻常的”，OpenAI的非营利性董事会尤其欠其“支持“安全的AGI”的使命。”

　　她解释说：“他们认为非营利组织的受益人是人类，而营利性人士为投资者服务。”“他们试图建立的另一个保障措施是使董事会多数派独立，在那里，大多数成员没有公开AI的权益。”

　　这是建立实体结构和董事会做出此关键决定的正确方法吗？

　　富尔顿说：“直到他们的董事会称呼它，我们可能才知道答案。”

　　芝加哥大学法学院教授安东尼·凯西（Anthony Casey）同意，让董事会决定像AGI一样在操作上的某些事情“不寻常”，但他认为没有任何法律障碍。

　　他说：“应该专门确定必须在董事会级别提出的某些问题。”“确实，如果一个问题足够重要，那么公司法通常会对董事对该问题进行监督的义务，尤其是“关键任务问题”。

　　但是，并非所有专家都认为，AGI很快就会到来，而有些人则质疑是否有可能。

　　根据AI和数字政策中心主席Merve Hickok的说法，该组织在三月份向FTC提出了索赔，称该机构应调查OpenAI并命令该公司“停止GPT模型的发布，直到建立必要的保障措施为止，OpenAI作为组织，“遭受了多样性的角度折磨。”

　　她解释说，他们对AGI的关注“忽略了AI模型和工具的当前影响”。

　　但是，在谁能确定Openai是否已“获得” AGI的背景下，她不同意关于OpenAI董事会规模或多样性的任何辩论 - 说这使人们从讨论其基本任务和索赔是否合法的讨论中分心。

　　她说：“这将改变重点，事实上，使AGI可能的主张合法化。”

　　但是Openai是否缺乏对AGI的明确定义，或者是否会有一个AGI - 避开了这个问题？例如，从2023年2月开始的OpenAI博客文章说：“第一个AGI将只是情报连续性的一点。”首席执行官山姆·奥特曼（Sam Altman）在2023年1月的莱斯沃朗（Lesswrong）采访时说：“我想看到的未来是AI的访问权限超级民主化，世界上有几种AGI可以帮助您有多种观点，没有任何人变得太强大。”

　　尽管如此，很难说Openai对AGI的模糊定义对微软的真正意义 - 尤其是在没有有关两家公司之间经营协议的完整详细信息的情况下。凯西说，例如，如果Openai对其非营利性使命是真诚的，Openai与微软的结构和与微软的关系可能会导致一些“大争端”。

　　他指出：“有一些非营利组织可供利润。”最著名的是好时信托基金会。他解释说：“但是他们完全拥有营利性。在这种情况下，这很容易，因为没有少数股东可以反对。”“但是，在这里，微软的营利性利益可以直接与控制实体的非营利利益相抵触。”

　　他补充说，利润上限很容易实施，但是“很难实现最大利润与非营利组织的使命相冲突？”Casey补充说：“默认规则将说，获得利润是优先事项，经理必须将其放在首位 - 根据业务判断规则，可以通过广泛的酌处权。”

　　也许，他继续说：“微软说，‘不用担心，无论哪种方式，我们都不欠我们任何职责。’这听起来并不像微软谈判的方式。”