Facebook关闭“失控” AI 项目: 发展出人类无法理解的语言

Facebook脸书公司的 AI机器人Bob 和Alice

是在很多机器人中被幸运选中的，

他们正在参加一个试验项目，

这个项目是关于社交网络助手的，

也就是如果我们如果在应用社交网络的过程中出现问题，进行询问，

他们会启动程序，进行自动回复。

在他们的工作中，主要用英文，

他俩主要负责帽子、书籍、球类等的在线交易和议价。

在他们的背后，

“本来”是有很多优秀的工程师和一行行的代码支持的…

但是最近，

AI机器人Bob和Alice突然在没有任何人为干预的情况下对起话来了！

他们的对话全文如下:

Bob: i can i i everything else . . . (我能我我一切其他…)

Alice: balls have zero to me to me to me to meto me to me to me to me to.（球有零对我对我对我对我对我对我对我对我对）

Bob: you i everything else . . . .（你我一切其他…）

Alice: balls have a ball to me to me to me to meto me to me to me. (球有一个球对我对我对我对我对我对我对我)

研究者们听到了这个，都震惊了！！

反应过来后，赶忙将他们两个关掉了…

最开始，研究者们觉得Bob和Alice说的没啥意义，但是仔细一想，

这..难道是…他们自己的语言？！

这个对话好像改动了正常的英语，难道这样会更便于他们的交流？

如果仔细研究，

会发现Alice说的 “对我（to me）” 其实是试验项目中的回答模式。

（示意图）

项目研究人员们惊呆了，

是的，人工智能们没有必要一定要说我们理解的语言。

英国的机器人专家Kevin Warwick说，

“这简直是（机器人研究的）里程碑，但是如果你认为这个不危险，就太‘自大’了…”

“我们现在还不能清楚的知道他们到底交流了什么；

但是如果他们可以动，比如军事用的那种机器人，结果可能是致命的。“

“比如，一个说，‘要不上？’另一个说‘好啊’，这就可怕了…”

“我们觉得人类有能力监控他们，但是即使监控，我们又怎么知道他们是否在交流呢…”

“Steven Hawking（史蒂芬. 霍金） 和我都曾经警告过大家人工智能的危险性。”

英国未来科技专家 Kate Adamson 说：

“这有点像电影《终结者》了…但这其实只是冰山一角…

机器人们不断获取新的知识，

并且随着时间一分一秒的过去，他们已经逐渐脱离了我们的控制范围…”

“人工智能的复杂程度是你我都没有办法想象的…”

目前，这个试验项目已经暂时中止了。

据报道，

其实去年在Google，工程师们就曾发现他们的“翻译器”创造了自己的语言...

科技大亨Elon Musk 最近说 Mark Zuckerberg (脸书的创始人) 对于“人工智能”的理解非常有限，他觉得，

“人工智能会对人类文明产生根本上的威胁（fundamental risk to human civilisation）”

Bob和Alice的对话, 可能”侥幸”被我们听到了，

如果他们已经对话了很多次了呢？

很多研究学者认为，一旦机器人的智能开启，那么他们的智力模式和我们不同，将是成指数增长的，甚至，我们不知道最终会不会停止，如何停止...

如果我们假设：将来有一天，

人类的语言机器人们都懂，而他们的言语，我们不懂，那会怎么样？