Facebook 开发了可以撒谎的人工智能

在 Facebook 推出一种可以通过撒谎来获得想要的东西的新型人工智能系统后，科学家们最近对人工智能 (AI) 机器人崛起并主宰人类的风险发出的警告可能不再是空穴来风。

Facebook 人工智能实验室的一项发明表明，谈判不再是人类的专属领域。该公司的全新人工智能系统已证明，它可以通过观察 5,808 场人类对话中的各方来学习如何谈判，这使得机器人能够安排会议或帮你找到最划算的交易或在线交易。

Facebook 的研究人员利用一款游戏来帮助他们的机器人学习如何分配书籍、帽子和篮球。每件物品都有一定的分值，机器人必须通过短信进行协商来分配它们。

在游戏中，每当看到有价值的物品时，Facebook 机器人就会开始陈述自己的要求。例如，机器人可能会说“我喜欢所有的书”，因为书的分值比帽子或篮球更高。根据对人类之间谈判方式的观察，机器人的人工智能系统会按照特定顺序构思一组词语，帮助它赢得想要的东西。

Facebook 机器人不仅会主动表达自己的意愿，还能回复对方的消息，如此反复，直至对话结束。团队已将 AI 系统设置为在交易中绝不接受“空手而归”。这意味着即使使用欺骗手段，机器人也必须持续谈判，直至达成目标。

值得注意的是，在对话过程中，该人工智能系统并非直接说出它想要什么，而是有时会假装对一件毫无价值的物品感兴趣，然后放弃它来换取机器人真正想要的东西。Facebook 的研究人员不确定该人工智能系统是从人类谈判者那里学到的这种技巧，还是偶然习得的。无论如何，只要这个技巧奏效，它就会得到奖励。

Facebook 正在努力改进其机器人与他人互动的方式，这并不令人意外。该公司已投入巨资开发能够代表用户和企业为其 Messenger 平台（客户服务的未来）进行谈判的机器人。这一雄心勃勃的目标在 Facebook 2016 年 F8 开发者大会上宣布，但迄今为止尚未实现，因为机器人缺乏创建有意义的消息或理解用户提出的许多问题的能力。

为了推进研究，Facebook 现在公开了从该项目收集的所有代码和数据。

据VNN报道