OpenAI CEO迫切要求监管大语言模型，警告生成式AI风险

北京时间5月18日下午消息（蒋均牧）微软支持的OpenAI首席执行官山姆·阿尔特曼（Sam Altman）呼吁美国监管高级大型语言模型的部署，警告没有坚实的政策框架的生成式人工智能的危险。

在与美国参议院讨论生成式AI治理的听证会上，阿尔特曼认为，随着对社会威胁的担忧日益加剧，监管对于减轻日益强大的模型带来的风险至关重要。

在他的证词中讨论的威胁，集中在与OpenAI如何训练其模型相关的错误信息的传播和违反数据隐私法。

参议员理查德·布卢门撒尔（Richard Blumenthal）在听证会上表示，未经充分训练的人工智能的前景“非常可怕”，并认为新技术必须“担负责任”。

他指出，OpenAI的ChatGPT具有模仿和模拟真实人类互动的能力，他以一段由经过语音训练的模型生成的语音开始了他的证词。

阿尔特曼建议称，成立一个政府机构来监管人工智能的训练和部署将有助于开发，并解释了对于开发者“许可和测试要求相结合”的必要性。

他还提议吊销开发超出某些“阈值”或“能力”的人工智能工具的开发者的许可，例如能自我复制或产生有害内容的模型。

阿尔特曼主张围绕机器学习工具如何从互联网手机数据以生成响应来制定管理规则。

“用户应该能选择不让我们这样的公司或其他社交媒体公司使用他们的数据。”他补充道。