美AI安全主管辞职吁“核电级”防护 贝森特批危言耸听
- 香港卫视
- 2026/10/04 13:30
-
收藏
-
132.5万
OpenAI一名专注于人工智能安全的员工日前离职,并警告称,顶尖人工智能公司在降低风险方面做得还不够,应采取“核电厂等级”的安全管控措施。美国财政部长贝森特就指着写言论是在危言耸听。OpenAI一名专注于人工智能安全的员工日前离职,并警告称,顶尖人工智能公司在降低风险方面做得还不够,应采取“核电厂等级”的安全管控措施。美国财政部长贝森特就指着写言论是在危言耸听。
OpenAI一名专注于人工智能安全的员工日前离职,并警告称,顶尖人工智能公司在降低风险方面做得还不够,应采取“核电厂等级”的安全管控措施。美国财政部长贝森特就指着写言论是在危言耸听。

OpenAI一名专注于AI安全的员工罗宾逊日前辞职,此前领导OpenAI安全团队的透明度工作。他10月2日在《大西洋月刊》发表文章写道,这家ChatGPT的开发商“靠不断试错而蓬勃发展”。他认为,随着AI技术能力的提升,这种作业模式必然产生失败案例,相关风险也日益加剧。他以OpenAI未能在测试中防止AI代理失控为例加以说明。
他批评OpenAI长期采用“迭代部署”模式,即先发布系统、待问题浮现后再强化防护,但“试错的时代已经结束”。罗宾逊指出,随着AI能力增强,试错带来的风险代价同步上升。他主张前沿AI实验室应像核电站或繁忙机场一样运作,“具备多层冗余和谨慎、耗时的规划,以便偶尔且不可避免的人为错误不会打开通往灾难的大门”。他透露在OpenAI的三年半间,从未遇到有让飞机安全飞行或核反应堆不熔毁经验的同事。
OpenAI一名发言人表示,该公司正在作出调整,以加强研究和测试环境的安全性,训练AI模型以负责任的方式完成任务,扩大与第三方评估人员的合作,并改进实时监控以发现模型令人担忧的行为。这名发言人表示,公司正在确保其模型的能力不会增强到超出OpenAI能够安全管理的程度。

与此同时,美国财政部长贝森特对AI风险警告提出不同看法。他批评人工智能领域一些知名人士就这项技术带来的人类存亡风险发出警告,称这些言论是在危言耸听,没有助益,这并不是领导力,他呼吁该行业进行自我监管并拿出解决方案。他还表示,将寻求通过与中国建立双边通报机制来降低风险。






























