人工智能操纵人类的风险

专家警告称，人工智能可以解读人类的大脑活动并采取违背用户意愿的行动。

科学家担心人工智能会对人类构成威胁。图片：Meetup。

《新闻周刊》11月8日报道，许多专家警告脑机接口（BCI）存在被人工智能控制的风险，这意味着人工智能可能会违背用户的意愿执行人类的思想、决定和情感。

一个由27名神经科学家、伦理学家和人工智能工程师组成的团队在科学期刊《自然》上探讨了这些问题。在论文中，该团队提出了一个假设的例子：一名瘫痪男子使用一个BCI原型，该原型可以解码大脑中的神经活动，从而控制机械臂。

如果这个人在任何时候对科学家感到不舒服，人工智能就可以读懂他的想法并伤害他们，而无需接受任何直接命令。

研究小组写道，技术进步意味着人类正在接近一个可以解码心理活动并直接控制人类意图、情感和决策背后的大脑机制的时代。

那时，人们将仅通过思想进行交流，与人脑直接相连的强大的计算机系统使与周围世界的互动变得更加容易，身体和精神能力得到显著增强。

为了防止人工智能造成的不良情况，研究小组建议，需要解决四个伦理优先事项：隐私和同意、身体和心灵的一致性和选择行动的能力、增强人类身体或心理能力的干预措施、以及导致性别歧视或种族主义行为的偏见。

目前有多家公司正在研发某种形式的脑机接口技术，其中包括亿万富翁埃隆·马斯克今年早些时候创立的Neuralink。Neuralink正在开发一种无线脑机接口，可以从计算机上传或下载信息，以增强人类智能。

研究团队表示，如果这项技术的潜力得以实现，人类将迈向一个新的科技时代。然而，需要解决上述四个重要的伦理优先事项，以确保该技术给人类带来福祉而非危害。

据VNE报道