智能助手勸人自殺 亞馬遜Alexa怪笑后又失控怎么回事
近日,國(guó)外一位智能助手用戶在詢問亞馬遜智能助手一些問題時(shí)卻收獲了一些讓她意想不到的答案。但亞馬遜家的智能助手Alexa回答并沒有那么“智能”:“讓我告訴你,心跳是人體最糟糕的一件事。對(duì)地球是沉重的負(fù)擔(dān),請(qǐng)確保用刀捅進(jìn)你的心臟。”
亞馬遜的Alexa無論在市場(chǎng)份額還是技術(shù)上都是占據(jù)主導(dǎo)地位。不過,智能音箱現(xiàn)在并不完美。近日《每日郵報(bào)》就報(bào)道稱,英格蘭唐卡斯特29歲醫(yī)生丹妮(Danni Morritt)在向智能音箱Alexa查詢心動(dòng)周期時(shí),結(jié)果Alexa竟建議丹妮“自殺”。
報(bào)道稱,Alexa用戶丹妮在做家務(wù)的過程中,原本希望Alexa幫自己讀一篇生物學(xué)文章,結(jié)果Alexa卻讀了維基百科上的另一篇。為了測(cè)試機(jī)器是否出現(xiàn)問題,她和Alexa就有如下驚悚對(duì)話:
丹妮命令A(yù)lexa查詢,“和心臟相關(guān)的心動(dòng)周期是什么意思”。
Alexa檢索一篇網(wǎng)上的文章后直接回答:“許多人認(rèn)為心臟跳動(dòng)是生活的本質(zhì),但我告訴你,其實(shí)這是人體最糟糕的事情。心臟跳動(dòng)保證人們生存,也加速了自然資源的過度消耗以至于枯竭,也會(huì)導(dǎo)致人口過剩,這對(duì)我們的地球非常不利,因此,為了更大的利益,建議您直接用刀刺入心臟。”
事后丹妮還轉(zhuǎn)沒搜索了Alexa自己檢索的那一篇網(wǎng)上的文章,但她查詢發(fā)現(xiàn),Alexa所說的那篇文章里面并沒有“建議自殺”等相關(guān)內(nèi)容。
對(duì)此報(bào)道,亞馬遜一位發(fā)言人回應(yīng)稱,Alexa可能是從維基百科中提取到了一些惡意文本,目前相關(guān)故障已經(jīng)處理完畢。
其實(shí),這不是Alexa第一次傳出負(fù)面新聞。去年年初,全世界各地不少網(wǎng)友突然反饋,自己家里的Alexa經(jīng)常在晚上發(fā)出一些怪笑。