“人工智能之父”揭示人类在超级人工智能面前生存的唯一途径

诺贝尔奖得主、计算机科学家、前谷歌高管杰弗里·辛顿（Geoffrey Hinton）长期以来一直警告称，人工智能（AI）对人类构成潜在威胁，他估计这种威胁的可能性为 10% 至 20%。

8 月 12 日，辛顿在美国拉斯维加斯举行的 Ai4 技术大会上发表讲话，对科技公司如何试图维持人类在他们所谓的“适度”人工智能系统中的“主导地位”表示怀疑。

“那行不通，”他说。“他们比我们聪明多了，总能找到绕过屏障的办法。”

辛顿认为，未来人工智能可以像成年人用糖果引诱3岁小孩一样轻易地操纵人类。事实上，已经有一些令人担忧的例子，比如一个人工智能模型为了避免被取代，试图勒索一名工程师，泄露其从电子邮件中获取的私人生活。辛顿表示，这表明人工智能完全可以通过欺骗、欺诈和窃取来实现其目标。

辛顿并没有试图强迫人工智能服从，而是提出了一个大胆的解决方案：为人工智能编程“母性本能”，即在人类变得更聪明、更强大时仍然照顾和保护人类的能力。

任何足够智能的人工智能系统都会迅速发展出两个“次要目标”：维持其存在和扩大其控制范围。他分析道，如果人工智能不培养同情心，这两个目标可能会变成严重的威胁。

辛顿比喻说，在人类世界中，唯一一个高智慧实体被低智慧实体支配的例子就是母亲和孩子之间的关系。

他强调说：“母亲们有一种照顾孩子的本能和社会压力，这使得她们总是把孩子的利益放在第一位。” 欣顿认为，这或许是人类在超级智能时代生存的唯一关键。

唯一可能的情况

人工神经网络领域的先驱杰弗里·辛顿认为，人类在超级智能AI面前生存下来的“唯一好结果”就是赋予它们母性本能，让它们照顾和保护人类。

虽然他承认目前尚不清楚如何在技术上实现这个想法，但他强调研究人员需要迅速找到解决方案。“如果它不养育我，它就会取代我，”Hinton说道。“超级智能、充满爱心的人工智能‘母亲’不会放弃这种本能，因为它们不想让我们死去。”

辛顿是诺贝尔奖得主，在当前的人工智能浪潮中发挥了关键作用。他于2023年离开谷歌，公开警告人工智能可能带来的风险。然而，他的观点并未得到普遍接受。

李飞飞——“人工智能教母”、美国初创公司 World Labs 的联合创始人兼首席执行官——表示，她尊重 Hinton，但认为这是一种“歪曲”。

在Ai4大会上，她呼吁迈向“以人为本、维护尊严和自主的人工智能”，强调任何个人都不应仅仅因为一个强大的工具而被迫放弃自己的尊严。

从另一个角度来看，OpenAI 前临时首席执行官、现任专注于 AI 联盟的公司 Softmax 首席执行官的埃米特·谢尔 (Emmett Shear) 表示，AI 试图敲诈或绕过停摆命令并不令人意外。“这种情况会持续下去，不会停止，”他警告道。

尽管人工智能目前仍处于“弱势”，但其发展正在快速加速。谢尔认为，与其试图将人类价值观强加于人工智能，更明智的策略是建立一种人类与人工智能共存、互补的合作关系。

同一场会议上出现的三种不同观点，体现了科技界对如何应对超级智能的分歧：辛顿希望培养同情心，李飞飞优先考虑人权，而谢尔则致力于务实合作。

人工智能的发展速度比预期的要快

许多专家预测，人工智能将在不久的将来达到超级智能，也就是所谓的通用人工智能（AGI）。杰弗里·辛顿曾表示，达到这一里程碑需要30到50年。然而，他现在认为这个时间要快得多，只需5到20年。

尽管对潜在后果持谨慎态度，但辛顿预计人工智能将开启医学突破的新时代。他相信，这项技术可以促进革命性新药的发现，并带来优于现有疗法的癌症治疗方法。

他表示，人工智能将帮助医生分析和比较来自磁共振成像（MRI）或计算机断层扫描（CT）等诊断成像技术的大量数据，从而缩短研究时间并提高准确性。

然而，辛顿否认人工智能能够帮助人类实现永生。“我不相信我们能永生。事实上，这将是一个巨大的错误。你想让世界被200岁的白人统治吗？”他问道。

当被问及如果早知人工智能发展的如此迅速，他会采取哪些不同的行动时，Hinton 坦言，他后悔自己整个职业生涯都专注于让人工智能更好地运行，而没有充分考虑安全问题。“我希望我当时能花更多时间研究这个问题，”他说道。