OpenAI CEO 阿尔特曼：应当有一个类似联合国核监督的机构来管控 AI

OpenAI首席执行官Sam Altman在访问阿拉伯联合酋长国期间警告说，AI对人类构成了生存风险，并建议设立一个类似于国际原子能机构（IAEA）的国际机构来监督AI。Altman说我们面临的挑战是如何管理这些风险并确保我们仍然可以享受这些好处，而且没有人想毁灭世界。他认为，联合国核监督机构国际原子能机构（IAEA）是世界如何团结起来监督核电的一个例子 。他呼吁全球团结起来，设立一个类似于IAEA的国际机构来监督AI，并确保我们能够充分利用AI带来的好处，而不会让其对人类构成危险 。

Altman还表示，让我们确保全球团结在一起，他希望这个地方能在这方面发挥真正的作用。他说我们把国际原子能机构当作一个榜样，全世界都在表示AI很危险，希望安装一些护栏，我认为我们可以两者兼顾 。他认为设立一个类似于IAEA的国际机构来监督AI，可以使AI得到更好的发展，同时保证AI不会对人类构成危险。这个机构可以监督AI的研究和开发，确保AI的安全，同时避免AI被用于恶意目的 。

今年3月份，包括埃隆・马斯克和史蒂夫・沃兹尼亚克在内的1100多人签署了一封公开信，呼吁所有人工智能实验室立即暂停训练比GPT4更强大的人工智能系统，至少6个月。Altman当时表示，这封信忽略了我们需要暂停的技术细节，但同时也承认OpenAI还没有开始训练GPT5，并且暂时不打算这样做 。他表示，OpenAI已经通过外部审计红队测试和安全测试等方式评估了潜在的危险。当他们完成GPT4时，他们花了超过6个月的时间才准备好发布它 。

AI技术的快速发展和广泛应用，已经引起了全球范围内的担忧。为了管理AI的风险，全球需要建立一个类似于IAEA的国际机构来监督AI的研究和开发。这个机构可以确保AI的安全，同时避免AI被用于恶意目的。同时，这个机构还可以监督AI技术的发展，以确保AI能够为人类带来更多的好处，而不是危害。因此，建立这样的国际机构是非常必要的 。