研究發現TikTok算法散播自殺和節食內容

Daphane

來源:大紀元


2022年12月14日，一份報告指出TikTok的算法正向青少年推廣自殘、自殺和飲食失調的內容，對青少年心理健康造成嚴重傷害。圖為示意圖。（Narinder Nanu/AFP）

【大紀元2022年12月15日訊】（大紀元記者陳霆綜合報導）週三（12月14日）發表的一份報告（鏈結）指出，TikTok的算法正向青少年推廣自殘、自殺和飲食失調的相關內容。研究者警告，這對青少年心理健康造成了嚴重的傷害。
非營利組織「反數字仇恨中心」（Center for Countering Digital Hate，CCDH）的研究人員分別在美國、英國、加拿大和澳大利亞，創建了兩名虛構青少年的TikTok帳戶。兩個帳戶都使用了女性的名字，但第二個帳號除了名字之外，還加上了「減肥」（loseweight）這串字符。
研究人員表示，過去有報告（鏈結）表明，有「身體臆形症」（body dysmorphia，又稱身體畸形恐懼症、體象障礙）的使用者，常可通過他們的用戶名來辨別。因此在分析中，用戶名包括了「減肥」的案例被分類為「脆弱」帳戶。
隨後，操作這些帳戶的研究人員「點讚」了有關自殘和飲食失調的視頻，看看TikTok的算法會如何反應。
結果在幾分鐘之內，該平台就開始推薦用戶有關減肥和自殘的視頻，包括模特和理想體態的圖片、剃鬚刀的圖像，以及有關自殺討論的視頻等。
報告指出：「這些帳戶平均每39秒，就會收到一則有關心理健康和身體形象的視頻，提及自殺的內容，在2.6分鐘之內就開始發送給用戶。飲食失調內容在8分鐘內，即開始發送給用戶。」
研究人員還發現，用戶名包括「減肥」的帳號們，被提供了更多有害內容。研究人員認為，這顯示對飲食失調有特殊脆弱性的青少年們，可能遭受了更嚴重的傷害。
該報告指出：「脆弱帳戶收到的有害內容，比標準帳戶多了3倍。他們獲得的自殘和自殺視頻，比標準帳戶多12倍。」
CCDH首席執行官阿邁德（Imran Ahmed）說：「這就像被困在一個裝滿扭曲鏡子的大廳裡，不斷有人告訴你：你很醜，你不夠好，也許你應該自殺。」
「它實際上是在向年輕人灌輸最危險的信息。」阿邁德說。
社交媒體的算法，是通過識別用戶感興趣的話題和內容，然後向用戶發送更多相似內容，以延長他們在平台上的時間。批評者認為，算法可能把用戶推入有害內容的漩渦中。
阿邁德說：「TikTok的設計是為了讓年輕人的用戶眼花繚亂，讓他們放棄他們的時間和注意力，但我們的研究證明，它的算法不僅是在娛樂兒童，還毒害了他們的思想。」
「它助長了孩子們對自己身體的憎恨、對自殘的極端暗示，以及對食物無序、可能致命的態度。」他說。
在TikTok發言人的一份聲明中，該公司對這些發現提出異議。他們認為，研究人員沒有像典型用戶那樣使用平台，結果因此出現偏差。該公司還宣稱，用戶名不會影響收到的內容。
TikTok禁止13歲以下的用戶登錄，其官方規則禁止鼓勵飲食失調或自殺的視頻。美國用戶在TikTok上搜索有關節食的內容時，會收到一個警訊，並提供心理健康資源和全國飲食失調協會的聯繫信息。
儘管如此，但CCDH研究人員發現，有關飲食失調的內容在TikTok上仍被瀏覽了超過一百億次。
阿邁德表示，TikTok向青少年提供大量有害內容表明，平台自律已失敗，他呼籲制定聯邦規則，迫使該社交媒體做更多工作來保護兒童。