微软谷歌等 AI 巨头齐聚首尔:承诺安全开发人工智能模型,必要时关闭尖端系统 – IT之家

AI新闻2个月前发布 SUYEONE
335 0 0

IT之家 5 月 22 日消息,路透社报道,微软 、谷歌OpenAI 等 16 家科技公司在 21 日和 22 日举行的“人工智能(AI)首尔峰会”上承诺安全开发 AI 模型在无法控制最极端风险的情况下关闭其尖端系统(cutting-edge systems)。

参会的公司还包括国内企业智谱 AI(IT之家备注:腾讯、阿里、美团和小米曾对其投资)、IBM、亚马逊、Meta 和三星。

安全承诺包括发布框架,阐明公司将如何衡量其模型的风险。在风险严重且“无法接受”的极端情况下,如果无法减轻风险,人工智能公司将不得不按下紧急停止开关,停止开发或部署其模型和系统。

这不是人工智能公司第一次做出听起来很高尚但不具约束力的安全承诺。亚马逊、谷歌、Meta 和微软在去年签署由美国政府促成的自愿保障措施,以确保他们的产品在发布时是安全的。

被誉为“人工智能教父”的计算机科学家约书亚・本吉奥对这些承诺表示欢迎,但他指出自愿承诺必须伴随监管

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

Source link

© 版权声明

相关文章

暂无评论

暂无评论...
☺一键登录开启个人书签等功能!