前OpenAI员工：如何拯救OpenAI的非营利灵魂 “`

(SeaPRwire) –   OpenAI 不是一家普通的公司。它于 2015 年作为一家非营利组织成立，其 预测人工智能可能会“在几乎所有智力任务中达到人类的水平”，因此需要一个“为所有人而不是股东创造价值”的组织。

在接下来的几年里，人工智能的发展变得 迅速，因此在 2019 年，OpenAI 创建了一个 实体，该实体可以筹集投资资本，同时仍然受到非营利组织慈善使命的约束。

大约在这个转型时期，我以初级研究员的身份加入了该公司。我在 OpenAI 的团队专注于 ：一种人工智能系统与模拟环境交互，并通过试错学习改进的过程。我们首先将这种方法应用于视频游戏，然后应用于大型语言模型，使用人类反馈将它们塑造成 ChatGPT 的早期版本。如今，同样的技巧也被用来训练数亿用户喜爱的系统。

我和我的团队的工作基于 OpenAI 在 2019 年转型时做出的关键承诺：一项具有法律约束力的义务，即把公众的利益放在投资者利益之前。但这一承诺现在正受到威胁，因为 OpenAI 正在寻求 一项 ，该 将取消对投资者利润的上限，并 其对其慈善使命的义务。

人们很容易愤世嫉俗地回应这一点，耸耸肩说：一旦有足够的资金投入，该组织从一个以使命为先的非营利组织转变为一家大型科技公司是不可避免的。但这种说法让该公司摆脱了背弃其对公众的承诺的责任。更重要的是，OpenAI 的重组计划仍在 受到民选官员的 审查，因此公众有理由也有权利捍卫自己的利益。

我仍然拥有 OpenAI 的股权，但尽管我在这家组织的财务成功中拥有既得利益，但我认为公众的利益需要保护。在 2023 年离开公司之前，产品已经按照紧张的时间表发布，但这似乎只会加剧，以至于员工警告说 。这种仓促的做法现在导致发布被 指责为“助长愤怒、敦促冲动行为或强化负面情绪”。与此同时，决策者有不完全考虑这些缺点的利润动机。

追究 OpenAI 的慈善使命的责任落在其非营利董事会身上。不幸的是，许多人 认为，目前的非营利董事会缺乏履行这一职责所需的独立性和资源。自 2019 年以来，OpenAI 的商业运营已从不存在发展到每年数十亿美元的收入。相比之下，该非营利组织仍然没有自己的独立员工，其董事会成员也忙于经营自己的公司或学术实验室，无法提供有意义的监督。除此之外，OpenAI 拟议的重组现在威胁要削弱董事会的权力，而实际上需要加强董事会的权力。

但还有另一种前进的道路。在进行任何重组之前，董事会的当务之急应该是聘请一位非营利首席执行官来建立一个独立的团队，该团队不受财务利益冲突的影响，并且仅对董事会负责。该团队的目的是支持董事会履行其监督职责，并且它可以发展到执行许多关键职能。

首先，该非营利组织可以按照该组织慈善使命的标准对高管绩效进行评估。董事会可以使用这些评估来确定高管薪酬方案，从而有助于协调公司最高层的激励机制。

其次，该非营利组织可以为董事会提供有关安全和保障的独立专业知识。它可以审查公司 根据 进行的内部安全测试，以及外部安全测试和公司安全实践的第三方审计。前沿部署可能需要董事会批准，并附有这些审查的摘要。

第三，该非营利组织可以提高透明度。通过保持其自身的与公众的沟通渠道，它可以让公众了解公司的安全和保障实践、内部政策或模型规范的重要变更以及公众关注的新功能。它还可以进行并发布其自身的安全事件事后分析，并管理内部举报热线。

最后，该非营利组织可以负责任何利润动机可能与公共利益背道而驰的活动，例如该公司的 。它还可以开始利用该非营利组织庞大的财务资源（来自其在公司中的多数股权）来提供赠款，以支持人工智能的有益用途和风险缓解工作。

随着人工智能的快速发展，以及 在可预见的未来 没有有意义的联邦法规，一个有权力的非营利董事会比以往任何时候都更加重要。该非营利组织的活动不仅可以作为对 OpenAI 本身的监督，还可以作为其他组织的蓝图。例如，在 OpenAI 试点推出的透明度和第三方审查标准可以为未来的监管提供一个起点。

OpenAI 的下一步行动将决定该公司未来几年的发展轨迹。它本可以退一步并重申其对公众利益的承诺，而不是不可逆转地放弃这些承诺，从而增强非营利董事会履行其监督职责的能力。

OpenAI 的非营利灵魂仍然可以被拯救——但这可能需要公众让其作为该组织合法受益人的声音被听到。

“`