人工智能或将毁灭人类?OpenAI CEO、AI之父等行业领袖联署声明:警惕灭绝威胁

6 个月前
1.7k 次浏览
时事新闻
 

周二(5 月 30 日),数十位人工智能产业领袖、学者及一些名人联合发表声明,呼吁减少人工智能可能引发的全球毁灭风险。在这份由 Center for AI Safety 发布的简短声明中,专家们提出,人工智能引发的灭绝威胁应成为全球首要关注的议题,“减轻 AI 引发的灭绝风险,应与其他社会规模风险,如大流行病和核战争等,并列为全球优先事项。”

这份声明的签署者包括多位行业领袖人物,如 OpenAI 的 CEO Sam Altman、被誉为“人工智能教父”的 Geoffrey Hinton、来自 Google DeepMind 和 Anthropic 的高级执行官和研究员、Microsoft 首席技术官 Kevin Scott 和网络安全和密码学先驱 Bruce Schneier 等人。

声明强调了对无节制人工智能技术的广泛担忧。尽管 AI 专家们表示,现在离开发出科幻小说中的那种 AI 还有很长的路要走,现今的尖端聊天机器人大多是根据训练数据中的模式进行复制,并不能自主思考,然而,对 AI 行业的炒作和投资潮已经引发了监管呼声,以免在开发 AI 早期就出现重大失误。

在当今最热的聊天机器人 ChatGPT 横空出世后,越来越多的立法者、倡导团体和科技行业内部人士都开始对新一批 AI 聊天机器人传播错误消息和取代人类工作的可能性提出警告。Hinton 此前就曾对媒体表示,他在“突然”意识到“这些东西比我们更聪明”后,就决定离开他在 Google 的岗位,并对这项技术“吹哨”。

而 Center for AI Safety 主任 Dan Hendrycks 指出,周二的声明并不排除社会应解决其他类型的 AI 风险,如算法偏见或误导消息。Hendrycks 将该声明比作原子科学家“对他们创造的技术发出警告”。他在推特上写道:“社会可以同时管理多种风险。这不是‘非此即彼’,而是‘既……又……’。从风险管理的角度看,只关注当前的危害是鲁莽的,忽视它们也同样是鲁莽的。”

责任编辑:  
来源:  CNN
点赞 (0)
脸书分享
微信分享
0条评论