Sam Altman将在联合国演讲中推动制定人工智能标准

OpenAI 首席执行官 Sam Altman 将在联合国演讲中推动制定人工智能标准。OpenAI表示，它并不支持设立某个具体的国际监管机构，更倾向于基本安全标准加民主监督。Anthropic CEO Dario Amodei预计也将通过视频参会。

OpenAI曾于本周一呼吁美国政府牵头建立国际AI标准，并建议各国协调评估AI模型的能力与风险。除此之外，OpenAI 还特别警告递归自我改进（RSI）可能带来新的风险，即越来越多 AI 模型训练工作由其他 AI 系统完成。如果缺乏适当的安全措施，AI 可能快速迭代到人类无法有效监督的程度，使人类逐渐失去对 AI 发展的实际控制。