AI教父Geoffrey Hinton“吹哨”警告：AI正变得比人类更聪明，或将学会操纵人类

有着人工智能教父之称的 Geoffrey Hinton 周二（5 月 2 日）在接受媒体采访时表达了对人工智能发展的担忧。Hinton 此前在谷歌工作了十年，担任 AI 研究领头人，他的先驱性研究对于当今许多产品背后的 AI 系统都产生了重要影响。本周一，Hinton 宣布离职以便能更坦诚地谈论他对 AI 的担忧。

Hinton 认为，随着 AI 技术越来越聪明，人类可能失去对其的控制。他指出，AI 的快速发展已经超出了他和其他人的预期。他说道：“我只是一个突然意识到这些东西比我们更聪明的科学家，我想要吹哨，说我们应该认真考虑如何阻止这些东西控制我们。”Hinton 警告称，AI 技术可能导致许多人“不再能分辨真实”，并消除大量工作岗位。而更聪明的 AI 系统可能将学会操纵人类，绕过人类设置的限制。

Hinton 并非唯一一个对 AI 表示担忧的科技领袖。今年 3 月，一些科技界人士签署了一封信，呼吁 AI 实验室停止研究最强大的 AI 系统至少六个月，原因是这些系统对社会和人类构成“深刻的风险”。这封信是由马斯克支持的非营利机构 Future of Life Institute 发布的。就在信件发布两周前，OpenAI 刚刚发布了更加强大的 GPT-4。苹果联合创始人 Steve Wozniak 也签署了这封信，表示对 AI 传播虚假消息的潜力表示担忧。然而，Hinton 称，他本人没有签署该请愿书，因为“我们无法阻止这一进程”。尽管如此，他承认自己目前还没有明确的解决方案。