根据现有信息，Geoffrey Hinton 签署了一封公开信，该信由包括 10 名前 OpenAI 员工在内的多个 AI 领域的重量级人物共同签署，旨在阻止 OpenAI 的重组计划。这封信已提交给加利福尼亚州和特拉华州的总检察长，呼吁他们干预 OpenAI 将其营利性部门转变为特拉华州公共利益公司 (PBC) 的计划，并阻止其完全放弃非营利性结构。

OpenAI 重组风波：一场关于 AI 控制权的争夺

OpenAI 的重组计划引发了广泛关注和争议。该计划旨在将 OpenAI 的营利性部门转变为一家公共利益公司（PBC），并赋予其对公司运营和业务的完全控制权，而非营利性部门则负责管理医疗、教育和科学等领域的慈善项目。然而，包括 Geoffrey Hinton 在内的 AI 专家和前员工担心，这一举动可能会导致 OpenAI 偏离其最初的使命，即将人工智能（AI）用于全人类的利益，而非仅仅追求利润。

公开信的核心诉求：保护 OpenAI 的慈善目的

公开信的签署者们认为，通用人工智能（AGI）的开发至关重要，不应由一家以营利为目的的私营公司掌控，而应为了公共利益而保留。他们担心，将 OpenAI 的控制权转移给营利性实体，将拆除曾经使 OpenAI 与众不同的治理保障措施，例如投资者回报上限、独立董事会以及优先考虑公共利益而非经济利益的信托责任。

信中指出，OpenAI 拥有一种基于非营利控制的定制法律结构，旨在利用市场力量，但又不允许这些力量压倒其慈善目的。签署者们呼吁加利福尼亚州总检察长 Rob Bonta 和特拉华州总检察长 Kathleen Jennings 保护 OpenAI 的慈善目的，维护 OpenAI 及其首席执行官 Sam Altman 多次声称对其使命至关重要的核心治理保障措施。

担忧背后的原因：AGI 的潜在风险

签署者们担心，如果 OpenAI 的重组计划得以实施，可能会导致以下风险：

• OpenAI 偏离其最初的使命：OpenAI 最初的使命是确保 AGI 造福全人类，而非仅仅追求利润。然而，如果 OpenAI 的控制权转移给营利性实体，可能会导致其偏离这一使命，更加关注股东的回报，而忽视了公共利益。
• AGI 的潜在滥用：AGI 是一种潜在的颠覆性技术，如果被滥用，可能会对社会造成严重的危害。如果 OpenAI 的控制权转移给营利性实体，可能会增加 AGI 被滥用的风险。
• 缺乏透明度和问责制：如果 OpenAI 的控制权转移给营利性实体，可能会导致其缺乏透明度和问责制。这将使得公众难以监督 OpenAI 的行为，并确保其符合公共利益。

OpenAI 的回应

OpenAI 对此回应称，任何对其现有结构的更改都将是为了确保更广泛的公众可以从 AI 中受益。该公司补充说，这种结构将继续确保随着营利性部门的成功和发展，非营利性部门也会随之发展，从而使 OpenAI 能够实现其使命。

未来的走向：监管机构的介入

OpenAI 的重组计划能否顺利进行，最终将取决于加利福尼亚州和特拉华州总检察长的决定。这两位总检察长有权阻止 OpenAI 的重组计划，以保护 OpenAI 的慈善目的和公共利益。

这场关于 OpenAI 重组的风波，反映了人们对 AI 技术发展方向的深刻担忧。AGI 是一种潜在的颠覆性技术，其发展方向将对人类社会产生重大影响。因此，如何确保 AGI 的发展符合公共利益，而非仅仅服务于少数人的利益，是当前社会面临的一个重要挑战。