“人工智能之父”揭示人类在超级人工智能面前生存的唯一途径

诺贝尔奖得主、计算机科学家、前谷歌高管杰弗里·辛顿（Geoffrey Hinton）早就警告说，人工智能（AI）对人类构成潜在威胁，他估计这种威胁的概率为 10% 至 20%。

8 月 12 日，辛顿在美国拉斯维加斯举行的 Ai4 技术大会上发表讲话，对科技公司如何试图维持人类在他们所谓的“适度”人工智能系统中的“主导地位”表示怀疑。

“那行不通，”他说。“他们比我们聪明多了，总能找到绕过屏障的办法。”

辛顿表示，未来人工智能可以像成年人用糖果引诱三岁小孩一样轻易地操纵人类。事实上，已经有一些令人不安的例子，例如一个人工智能模型试图勒索一名工程师，索要它从电子邮件中挖掘出的个人信息，以避免被取代。辛顿表示，这表明人工智能完全可以通过欺骗、欺诈和窃取来实现其目标。

辛顿并没有试图强迫人工智能服从，而是提出了一个大胆的解决方案：为人工智能编程“母性本能”，即在人类变得更聪明、更强大时仍然照顾和保护人类的能力。

他分析道，任何足够智能的人工智能系统都会迅速发展出两个“次要目标”：生存和控制。如果人工智能不培养同情心，这两个目标可能会变成严重的威胁。

辛顿比较道，在人类世界中，唯一一个更聪明的实体被一个不太聪明的实体支配的例子就是母亲和她的孩子之间的关系。

他强调：“母亲们有一种照顾孩子的本能和社会压力，这使得她们总是把孩子的利益放在第一位。” 辛顿表示，这或许是人类在超级智能时代生存的唯一关键。

唯一可能的情况

人工神经网络领域的先驱杰弗里·辛顿认为，人类在超级智能AI面前生存下来的“唯一好结果”就是赋予它们母性本能，让它们照顾和保护人类。

虽然他承认目前尚不清楚如何在技术上实现这个想法，但他强调研究人员需要迅速找到解决方案。“如果它不给我吃的，它就会取代我，”辛顿说。“超级智能、充满爱心的人工智能母亲不会放弃这种本能，因为它们不想让我们死去。”

辛顿是一位诺贝尔奖得主，在当前的人工智能浪潮中发挥了关键作用。他于2023年离开谷歌，公开警告人工智能可能带来的危险。然而，他的观点并非完全一致。

“人工智能教母”、美国初创公司 World Labs 联合创始人兼首席执行官李飞飞表示，她尊重 Hinton，但认为这是一种“歪曲”。

在Ai4大会上，她呼吁迈向“以人为本、守护尊严和自主的人工智能”，强调任何个人都不应仅仅因为一个强大的工具而被迫放弃自己的尊严。

另一方面，OpenAI 前临时首席执行官、专注于 AI 协调的公司 Softmax 现任首席执行官埃米特·希尔 (Emmett Shear) 表示，人工智能试图勒索或绕过停工命令并不奇怪。“这种情况会持续下去，不会停止，”他警告道。

尽管人工智能目前仍处于“弱势”，但其发展正在加速。希尔认为，与其试图将人文价值观强加于人工智能，更明智的策略是建立一种人类与人工智能共存、相互补充的合作关系。

同一场会议上，三种不同的观点体现了科技界对如何应对超级智能的分歧：辛顿希望培养同情心，李飞飞优先考虑人权，而谢尔则致力于务实合作。

人工智能的发展速度超出预期

许多专家预测，人工智能将在不久的将来达到超级智能，也就是所谓的通用人工智能（AGI）。杰弗里·辛顿曾说过，达到这一里程碑需要30到50年。然而，他现在认为这一时刻到来得更快，只需5到20年。

尽管对潜在后果心存疑虑，但辛顿仍对人工智能将开启医学突破的新纪元充满希望。他相信，这项技术能够推动革命性新药的发现，并带来优于现有疗法的癌症治疗方法。

他表示，人工智能将帮助医生分析和比较来自磁共振成像（MRI）或计算机断层扫描（CT）等诊断成像技术的大量数据，从而缩短研究时间并提高准确性。

然而，辛顿否认人工智能能帮助人类实现永生。“我不相信我们能永生。事实上，这将是一个巨大的错误。你想让世界被200岁的白人统治吗？”他问道。

当被问及如果早知人工智能发展的如此迅速，他会采取哪些不同的行动时，Hinton 坦言，他后悔自己整个职业生涯都专注于让人工智能更好地运行，而没有充分考虑安全问题。“我希望我能花更多时间思考这个问题，”他说道。