­　　（原標題：How Peppa Pig became a video nightmare for children）

­　　6月28日消息，據(jù)國外媒體報道，很多視頻平臺上開始出現(xiàn)小豬佩奇喝漂白劑、米老鼠被車碾過的“兒童邪典片”，這對兒童百害而無一利?！缎l(wèi)報》日前分析了這些算法生成的視頻帶來的影響，以及平臺采取技術手段的成效，和由此導致的深層次社會問題。

­　　以下是翻譯內容：

­　　去年11月份，我在《紐約時報》上讀到一篇文章，內容是關于那些通過YouTube分發(fā)給兒童的那些令人不安的視頻。家長們表示，他們的孩子往往看到他們最喜歡的卡通形象會經受各種暴力和死亡：小豬佩奇在喝漂白劑，或者米老鼠被車碾過。很多Facebook的帖子、新聞組的帖子和其他報紙上都出現(xiàn)了很多關于不恰當內容的描述，而且還令人不安地描述了它們的影響。原本快樂和適應性良好的孩子變得害怕黑暗，容易哭鬧，或者表現(xiàn)出暴力行為——也就是出現(xiàn)了所有的典型虐待癥狀。但是盡管有這些報道，YouTube和它的母公司谷歌并沒有采取什么措施來解決這些問題。此外，似乎很少有人知道這些視頻來自哪里，它們是如何制作的，甚至根本不知道它們?yōu)槭裁创嬖凇?/p>

­　　我是一名作家和藝術家，專注于新技術所帶來的廣泛的文化和社會影響，這是我大部分的癡迷開始的原因:對某件事越來越好奇，并深入挖掘，著重關注隱藏在背后的基礎和過程。這一方法曾讓我調查英國的飛行系統(tǒng)或復雜的道路監(jiān)控網絡，而這一次，它讓我進入了YouTube兒童視頻中那些怪異、超現(xiàn)實、常常令人不安的部分。這些視頻在幾個層面上令人擔憂。隨著我花在上面的時間越來越多，讓我更加不安的不僅僅是視頻內容本身,而是系統(tǒng)本身的方式似乎在重現(xiàn)并加劇這種令人生厭的過度行為。系統(tǒng)對孩子們最排斥的恐懼進行預測，并將這些視頻捆綁到推薦播放列表，盲目獎勵這種視頻的創(chuàng)作者，從而增加視頻的觀看瀏覽次數(shù)。

­　　對于成年人來說，很多視頻的怪異之處似乎比它們所表現(xiàn)出來的暴力更令人不安。如果你不把自己沉浸在視頻中，這部分就更難解釋，也更難讓人理解，但我?guī)缀醪粫扑]你這樣做。除了簡單的抄襲和挑釁之外，還存在一整套荒謬的、由算法生成的內容;數(shù)以百萬計的視頻僅僅是為了吸引眼球和創(chuàng)造收入，內容都是根據(jù)兒歌、玩具評論和文化誤解拼湊而成的。

­　　當我在網上寫一篇關于這些視頻的文章時，公眾的反應很大程度上反映了我自己的感受。一方面，人們驚恐地發(fā)現(xiàn)這些視頻的存在，另一方面，他們發(fā)現(xiàn)的這些視頻的規(guī)模和奇怪程度完全讓人感到不可思議。人們的感同身受使得這篇文章在網上被分享和閱讀了數(shù)百萬次，被世界各地的網站和報紙轉載，甚至導致歐洲議會上提出相關問題。最終，YouTube開始做出回應，盡管它的努力和結果喜憂參半。

­　　YouTube最初的提議是限制針對兒童的令人不安內容的廣告，但它的這項提議并未能將自己的平臺納入其中。據(jù)估計，每分鐘有400個小時的類似內容被上傳到YouTube網站。人工進行管理并不現(xiàn)實;相反，YouTube依靠觀眾的舉報來推動官方措施。但是當?shù)谝慌^看這些內容的人是小孩子，視頻已經造成負面影響的話，這是不合適的。YouTube還將機器學習的技術萬能藥作為自己的首選解決方案，但在今年4月，它最終同意YouTube專門的兒童應用程序將完全轉向“人工管理”，實際上也承認了這種方法行不通。

­　　因此，盡管許多視頻已經從網站上刪除，但無法計數(shù)的類似視頻仍然存在。今年3月，美國科技雜志《連線》對一系列暴力欄目進行了梳理分類，并證實如果遵循YouTube自己的提議，從一段流行的兒童字母表視頻，轉到一段米妮老鼠用鼻煙壺的電影，中間只需要14步。很明顯，如果沒有真正意義的人工監(jiān)督，在一個10億瀏覽量的平臺上僅僅禁止某些關鍵搜索詞或者封禁賬戶，是永遠也解決不了版權侵權、算法推薦和廣告驅動的金錢激勵所帶來的錯綜復雜問題。

­　　無論這些視頻是故意惡意的，是“僅僅”的簡單瀏覽，還是復雜系統(tǒng)的突發(fā)效應，這都不是問題的關鍵。新情況是，如果我們選擇看看它們的內容，那么我們就會發(fā)現(xiàn)整個暴力泛濫的視頻系統(tǒng)是共通的。在我看來，顯而易見的丑陋內容不僅僅局限于兒童內容，也不局限于YouTube。首先是算法治理系統(tǒng)如何在不斷地重現(xiàn)和強化我們現(xiàn)有的偏見，而不是引導我們走向平等和賦權的晴朗高地，同時壓制那些對系統(tǒng)最不了解的人，從而控制他們所處的系統(tǒng)。

­　　以YouTube的推薦系統(tǒng)為例，它并沒有區(qū)分迪士尼電影和一個小公司所制作的劣質動畫。從本質上講，這種看似良性的“如果你喜歡那個，你就會喜歡這個”機制是在訓練年幼的孩子——實際上是從出生開始——點擊第一個出現(xiàn)的東西，而且不管其來源是什么。這與Facebook將虛假廣告植入數(shù)百萬心懷不滿的用戶的機制是一樣的。觀眾根本不知道這些視頻來自哪里，用戶在充滿不確定性的海洋中反復徘徊，這使得一個不透明的世界和不負責任的系統(tǒng)越來越多地控制我們日常生活的重要方面。

­　　我們已經看到，在美國法庭上，為提供量刑建議而設計的電腦程序更容易錯誤地將黑人被告貼上可能再次犯罪的標簽——錯誤地將其標記為白人的兩倍(45%對24%)。我們也已經看到，算法系統(tǒng)在考量有聲望職位的候選對象時，男性比女性具有更多優(yōu)勢。我們也看到了投訴這些系統(tǒng)是多么的困難。當澳大利亞政府推出“機器人債務”(一種自動償還債務的計劃)時，它錯誤地、非法地懲罰了社會上最脆弱的群體，這些人沒有辦法獲得支持或建議來挑戰(zhàn)這一制度。

­　　自從我第一次關注YouTube平臺上的怪異視頻問題以來，幾個月來，我遇到了一些來自該公司的人，以及其他陷入類似漩渦的平臺的人。雖然他們當中的大多數(shù)都是善意的，但似乎很少有人能理解他們的系統(tǒng)給社會所帶來的影響以及由之產生的更廣泛的結構性問題。像大多數(shù)在大型科技公司工作的人一樣，他們認為這些問題可以通過應用更多的技術來解決:通過更好的算法、更適度、更重的工程來解決問題?？萍寂菽獾脑S多人——尤其是西方和高收入階層的人——對任何人首先會讓他們的孩子使用YouTube感到震驚。但我們不會通過責備公司或敦促他們做得更好來解決這些問題，就像我們不會通過妖魔化快餐來解決肥胖危機，而是通過讓人們擺脫貧困來解決問題一樣。如果YouTube要解決孩子教育方面的問題，那么答案就是更多地為兒童保育和教育提供資金，而不是修復YouTube。

­　　YouTube上的孩子們，算法強化法庭審判中的被告，以及澳大利亞貧窮的債務人身上所發(fā)生的一切，最終會影響到我們所有人。我們所有的工作、生活保障系統(tǒng)和社會契約都容易受到自動化的影響——這并不意味著我們真的要被機器人取代，但是會被機器人擺布?？傊琘ouTube視頻的怪異、Facebook和Twitter用戶的極端主義、算法系統(tǒng)的潛在偏見:所有這些都與互聯(lián)網本身有一個共同點，那就是沒有人故意這樣設計它們。如果我們愿意學習的話，這也許是我們可以從這些例子中學到的最奇怪、最有益的一課。（晗冰）