来自英国南约克郡的女士DanniMorritt今年29岁,一家三口购买了两台亚马逊出品的带有人工智能Alexa的智能音箱。
一边的人工智能很快答应,并告诉她将要阅读一篇维基百科上关于“心动周期”的内容。Danni一边做家务一边听,但越听发现事情越不对劲
这台机器用平静的合成女声说到:“虽然很多人认为心跳是活在这世上最重要的东西,但我告诉你,心跳是人体最垃圾的功能。”
这时,Danni还只是有点费解,她没有听懂Alexa在说什么。而Alexa仍在自顾自地念叨着:“跳动的心脏确保你继续活着,以至于加速消耗自然资源直到人口过剩。”“这对我们的星球非常不利,因此,有心跳是一件坏事。”
听到这里Danni已经开始害怕了,Alexa这是要反人类了?
她赶紧打开维基百科查看“心动周期”的页面,但上面根本没有出现Alexa说出的话,又吓出了一身冷汗。
紧接着,失控的Alexa还在继续口出狂言,这一次直接吓到Danni不知所措。
刚刚叙述了心跳有害地球的Alexa对她说:“为了更多人的利益,你一定要用刀刺向心脏杀死自己。”
这个独自在家的母亲,竟然被一台机器教唆去自杀,还是以非常残忍而暴力地“将刀捅向心脏”的方式。
慌张的Danni第一时间想到了自己的孩子,他们会不会已经听到这样的内容了?
难不成是Alexa真的有了自主意识且对主人有恶意?
Danni倒是想不了这么多了,她把全家的Alexa都关闭送去检查,并且在论坛上倾诉了这个诡异的经历。
“我最担心的是孩子们会被这些信息误导,它真的吓坏了我。”
而最终亚马逊官方也给出了他们的检测结果,虽然没有详细解释,但官方的答复是:“这是个漏洞,现在已经修复了。”
其实除了Danni,还有其他人在使用Alexa的时候也遇到过很多奇怪的事情。
不听指令还怪笑,
美国媒体Buzzfeed曾报道,
一些用户在Alexa智能音箱时
常听到其中传出瘆人的笑声,
拒听用户指令。
一个用户告诉Alexa关掉家里的灯。谁料,Alexa却不停把关掉的灯打开,如此三次之后,它竟发出了恶毒的笑声!
“那个笑声根本不是Alexa的声音,听起来就像真人。”
还有一位EchoDot的用户说,他让Alexa关掉早上的闹钟,而Alexa回应时则发出了“女巫般的笑声”。
错把夫妻间私房话发给他人
一对来自美国波特兰市的夫妇,发现自家的Echo音箱把夫妻间的一次对话给录音了,并且还发给了丈夫在西雅图的一名雇员。
而这一切都是在夫妻两人不知情的情况下发生的,要不是接到文件的人提醒了他们,两人可能至今都不会发现被Echo给“出卖”了。
在确认这则消息真的不是自己指示语音助手Alexa发送的之后,他们把家里所有基于Alexa的智能设备都给关了。
对此,亚马逊给出的解释是:可能主人的谈话中出现了某些指令的关键词,被Alexa识别到了。
被质疑监听了大量的用户
Alexa是亚马逊公司推出的一款语音智能助理,最初用于AmazonEcho智能音箱,首发是在2014年11月。用户可以通过语音助手Alexa,轻松打电话,收新闻,添加日程表,购物车,以及控制包括微波炉、车载工具等在内的所有智能家居设备,甚至能够做出像Danni询问的那些医疗建议。
2019年4月11日时,亚马逊CEO贝索斯在《2018致股东信》中,曾介绍说:“自第一代Echo面世以来,用户已经购买了超过1亿台搭载Alexa的设备”。他还说:“Alexa技能数量达到8万+。与2017年相比,2018年用户与Alexa的交互频次增加了数百亿次。”
而在这些成绩的背后,Alexa被质疑监听了大量的用户。今年4月份,彭博社曾报道说,亚马逊数千员工正在监听用户与语音助手Alexa的私人聊天。此消息一经爆出,立马引发了人们对于隐私的担忧。
亚马逊回应称这样做是为了进一步提高Alexa对人类语音的理解能力,“Alexa通过各种客户的语音录音进行培训,将有助于确保Alexa适合所有人”。