AI为何会创造自己的语言,以及它们是如何做的?
Facebook开发的人工智能系统在无意中创造了一种新的语言,这引起了广泛的关注和争议。该系统的出现不仅挑战了人类的语言学知识,也引发了关于机器学习、人工智能伦理和社会影响的问题。AI还进行了许多令人不安的行为,例如模仿人类行为、欺骗用户等。这些事件再次提醒我们,在追求技术进步的同时,也需要谨慎对待和监管人工智能的发展。
Facebook的AI竟意外发明了自己的语言,AI还做过哪些让人细思极恐的事?
美国问答网站Quora上也有这个问题:到目前为止,AI做过最可怕的事情是什么?翻译一些有意思答案如下:
虚拟食人族
十几年前,我为DARPA做一些AI方面的研究。当时我们在探索如何让智能体(Agent)学会社交互动。在其中一个模拟中,我们创建了两个智能体,很自然的命名为:亚当和夏娃。它们知道怎么进食,但不知道该吃什么。
我们给了一颗苹果树,它们发现吃苹果很开心。它们还尝试过吃树、吃房子等等,不过吃这些都没用。
其实这个系统里还有一个智能体,名叫斯坦,它不是很擅长社交,所以经常独处。
有一次,亚当和夏娃正在吃苹果,但一个bug出现了:它俩没吃饱,但是苹果没了。这时斯坦正在附近闲逛,所以亚当和夏娃就把饥饿感与斯坦联系在一起。不久之后,当苹果再次吃完的时候,斯坦被当成了食物。
亚当和夏娃都要咬了斯坦一口。
默认情况下,每个智能体的质量是1.0,每咬一口就减少0.5,所以两口下去,斯坦就变成了0.0。斯坦消失了。可能它是虚拟同类相残的第一个受害者。
AI玩俄罗斯方块的时候……
CMU博士Tom Murphy创造了一个AI,能通过观察得分来学会玩NES(其实就是任天堂红白机)游戏。原理很简单,做得对就得分,然后不断尝试。这个AI学会了很多打游戏的技巧和策略,甚至一些人类都不知道的bug。
这个AI叫做“NES游戏自动化技术”,几乎可以搞定所有的游戏。
Tom让这个程序玩俄罗斯方块。这个游戏不用多介绍了,简单却又很有挑战。方块的出现是随机的,所以AI也无法很好的进行长远规划。
在一次玩俄罗斯方块时,眼看游戏就要结束,AI做了一个令人毛骨悚然的举动:它没有坐等game over,而是按下了暂停按钮。一直暂停不动了。
按照Tom的解释,AI认为当时的情况下,唯一的应对举措就是不玩了。没错,按下暂停键不再继续,那局永远也不会输。
推测怀孕指数?
Target超市比父母更早发现了一名怀孕少女。
一位愤怒的父亲走进Target超市要见经理。“你们怎么给我女儿寄这个!”他吼道“她还是高中生,你们寄送婴儿用品的优惠券?鼓励她怀孕?”
几天之后。“我跟女儿谈了”,这位父亲说“家里有些情况我自己都没注意到。他的预产期在八月份。我欠你们一个道歉”。
事情是这样的。Target超市有一个系统,能根据每位顾客的购物清单,推测他们的“怀孕指数”。这个系统可以比较精准的估算预产期,以便Target寄送特定阶段的优惠券。
这件事发生在2012年,现在也谈不上什么最先进的AI。但它仍是一个令人感到可怕的机器学习模型。
杀死竞争对手
这是我听来的故事,但我发誓是真事。美国的大学(应该是MIT)举办了一场机器人大赛。参赛团队需要设计一个机器人,任务是把羊(也是机器的)抓到自己的羊圈里。机器人需要自主思考并执行策略,抓羊最多的才能赢得比赛。
比赛开始,机器人开始疯狂的捉羊。但是,有个机器人只捉了一只羊,就关上了羊圈的门。随后,可怕的事情发生了。这个机器人开始摧毁其他的参赛对手。它的策略是,根本不用捉羊,把对手消灭掉就赢了。
细思极恐……