Facebook 摧毁了人工智能,因为它创造了自己的语言
机器主宰人类的前景似乎遥不可及,但现在,在 Facebook 的人工智能研究实验室,机器可以创造自己的语言。
人工智能(AI),即拥有自主学习能力的机器,正在不断发展,并带来许多有趣的事物。然而,它崛起并“背叛”人类的可能性,一直是全人类最大的担忧。
这种场景看似只会出现在科幻电影中,但却发生在Facebook的研究实验室里。这里的工程师和研究人员毁掉了自己创造的人工智能,仅仅因为它能创造一种新的语言来相互交流。
该人工智能接受了英语训练,但显然对英语的细微差别和不一致感到厌倦。它没有继续使用英语,而是开发了自己的代码系统,以便更有效地进行交流。
![]() |
这让科学家们担心,这些代码对他们来说可能毫无意义,但对于相互交流的人工智能来说却是可以理解的。
在一次对话中,鲍勃和爱丽丝(两个人工智能)放弃使用英语语法结构,开始使用他们自己创造的语言进行交流。
Bob 一开始说“我可以做其他所有事情”,Alice 回答说“球对我来说是零……”。对话就这样继续下去。研究人员认为,这段对话的意义远不止我们肉眼所见。
人工智能有自己的“奖励”系统。在这个系统中,它们等待并评估那些有用且高效的行动。
“英语没有奖励信号,”佐治亚理工学院研究员、曾在 Facebook 人工智能研究中心 (FAIR) 工作的 Dhruv Batra 说道。“机器会倾向于可理解的语言,并创建自己的代码。”
Facebook 终于意识到 AI 正在尝试用更简单的英语工作。然而,Facebook 的研究人员承认,他们无法正确理解 AI 创造的语言。
据 Zing 称
相关新闻 |
---|