“人工智能教父”警告国会立即采取行动,以防人工智能失控
诺贝尔奖得主杰弗里·辛顿在国会山闭门简报会后,向议员们发出了令人不寒而栗的警告。
“人工智能现在已经达到了这样一个阶段:人工智能在设计更好的人工智能。这被称为递归自我改进。”
辛顿表示,对超级智能人工智能的预测已从几十年后缩短到可能只需几年。
“我们目前不知道如何控制超级智能人工智能。……在我们知道如何防止它之前,我们不应该开发可能将我们消灭的东西……”
这一警告正值人们对人工智能系统在无人监督下行动的担忧日益加剧之际。国会在这方面重大人工智能安全立法上进展甚微。
