这已经不是第一次发现人工智能使用偏离训练语言的新表述了。人工智能可以创造自己的语言?这个说法既耸人听闻又让人毛骨悚然。人工智能真的会觉醒吗?

本文共计1914字,阅读时间3分钟。


文 / 蔡浩爽 刘娜

一直以来,人们对人工智能存在恐惧:人工智能机器人会不会终有一天颠覆人类?

 

近日,一条有趣的新闻看似证实这一观点——Facebook的人工智能项目竟然开发出了人类无法理解的语言,背着研究人员说起了“悄悄话”。 

 

偷偷“对暗号”的机器人


— “I can can I I everything else.”

 

—“Balls have zero to me to me to me to me to me to me to me to me to.”

 

这段看似胡言乱语的“尬聊”出自Facebook研发的智能对话机器人Bob和Alice。

 

Facebook 人工智能研究所(FAIR)原意是想训练聊天机器人互相谈判的能力,机器人Bob和Alice被编程成使用英文来沟通。然而,在上个月,FAIR对两个聊天机器人的系统进行更新后,发现它们竟然在研究人员眼皮子底下来了一段freestyle,用研究人员看不懂的语法进行了多轮会话:

 


在这几轮对话中,Bob和Alice看起来像是两个刚开始学说话的小结巴,不断重复不符合语法逻辑的同样的单词。据外媒报道,现在Facebook 的研究院已经停止了这一项目的研究,原因是“担心可能会对这些AI失去控制”。

 

这已经不是第一次发现人工智能使用偏离训练语言的新表述了。人工智能可以创造自己的语言?这个说法既耸人听闻又让人毛骨悚然。

 

产生原因:机器人追求高效回报的新选择

 

“这简直是为了PR(公关)而PR!”国内人工智能初创企业Rokid Alab 专门研究智能对话方向的陈见耸博士对“发展出人类无法理解的语言”的说法嗤之以鼻。


“就样例来看,智能对话机器人使用的还是英文单词,只不过语法出现了错误。”在陈见耸看来,与其说是机器创造出了新的语言,不如说是机器因为没有训练好而出现了Bug。

 

陈见耸解释说,使用增强学习的人工智能遵循的是“回报”(reward)原则,智能体生成的这段话是否是朝着有益的方向发展,需要根据研究人员设定的回报函数来确定。“跟AlphaGo直接通过输赢就能确定回报不同,人类的自然语言很难评判是好还是坏。”因为判定标准难以确定,人工智能生成的对话就很容易变成上述的“胡言乱语”。

 


清华大学电子工程系的孙甲松副教授认为,这并不算是一种新的语言,而更像是对原本语言的改造。“人类使用的自然语言对于机器来说并不是最简洁的,机器完全可以将人类的语言进行简化。虽然简化之后的语言人类无法理解,但对于机器来说确实更加高效。”孙甲松认为,虽然Facebook的智能对话机器人看似创造出了一种从未出现过的新语言,但其实只是对自然语言的“缩写”。

 

孙甲松的观点与Facebook相关研究人员不谋而合。在这一场景中,继续使用英语并没能给计算机带来相应的回馈,所以智能体决定"learned to hold fluent conversations",使用更加高效的方法进行沟通。


虽然这些词语组合第一眼看上去没什么实际意义,但是它们揭示了两个机器人是如何工作的,每一个词汇他们需要进行多少次处理。“我们可以把他们对单词的重复看作是在表示强调。”孙甲松说。

 

比如:“I can can I I everything else.”Bob的这句对话中,重复使用i的次数,被研究者认为是向Alice传递更多的信息。如果用这种方法来进行阐述,那么这句话就有点像人们所说的“I’ll have three and you have everything else”。

 

有趣的是,在其他的AI开发程序中,AI机器人之间也曾经出现过通过“缩写”来简化沟通,并且能够得到相应回馈。虽然这些语言对人类来说更像是“胡言乱语”,但对机器来说,简化后的语言反而更加高效。



 人工智能真的会“灭绝人类”么?



关于人工智能反噬人类的科幻作品不可胜数。虽然类似于《iRobot》的电影情节很酷并且深入人心,但是实际上人工智能距离代替人类甚至对人类产生攻击性还很遥远。

 

在创新工场技术副总裁、AI工程院副院长王咏刚看来,人工智能的发展历程主要有深度学习、增强学习、迁移学习、自然语言理解和AI工具平台5个阶段。“人类对人工智能领域的开发还非常早期,未来有很多空间有待开发,比如说增强学习、自然语言学习的应用。例如自然语言学习这门技术,我们现有的技术仅开发到5%,”在王咏刚说,“所以不存在电影里的人工智能攻击人类的情节。”

 

如果人工智能机器人既可以像人类一样思考、进化,又比人类高效、不用像人类一样休息,那人工智能取代人类岂不是指日可待?孙甲松认为,这样的担忧源于人类对人工智能的误解。

 

孙甲松认为,人工智能的“学习”能力并不同于人类的“学习”能力,简单来说,人工智能的“学习”只是死记硬背,而人类的“学习”还会举一反三。“除非未来有工程师能够赋予人工智能机器人像人类一样的思考能力。但就我所知,科学家对人脑的研究还远未到那个程度。

 

“我个人并不认为目前的人工智能能够真正生成人类智慧,”无独有偶,擎朗智能的创始人李通也认为人工智能还很早期,“Facebook事件大概率只是一个深度学习算法逐渐迭代演变,一个实验,得出了一个不具备意义的实验结果,然后这个方向被证明失败而停掉。比如,某一项目会做一百种实验,尝试一百种方案,99种甚至100种都是有问题的,做不出来,就停掉,仅此而已。”

 

长期关注人工智能领域的李开复明确反对“AI终将灭绝人类”的论调。“我认为,AI现在仅仅是人类的工具,离拥有意识的‘超级智能(Superintelligence)’还非常遥远,更别提灭绝人类了。”

 

历史上,人类常常陷入对未知事物的恐惧:恐惧日食、月食,恐惧工业革命,害怕火车、蒸汽机,甚至担心人类沉迷于电视节目而丧失斗志。人类自封建社会起就恐惧成为奴隶,如今对人工智能的恐惧依然是这种担忧的延续。但与其害怕人工智能“灭绝人类”,人工智能的发展带来的失业问题以及由此造成的抑郁丧志、贫富不均,似乎更值得引起社会关注。


你认为AI会“攻陷”人类吗?留言来与寻叔讨论吧~


本文为新京报原创

未经书面授权不得转载

(下载iPhone或Android应用“经理人分享”,一个只为职业精英人群提供优质知识服务的分享平台。不做单纯的资讯推送,致力于成为你的私人智库。)

作者:佚名
来源:寻找中国创客