新西蘭槍擊案後,美國會要求發生極端事件必須“秒刪”視頻

上週,新西蘭遭遇歷史上最爲黑暗的一天。

新西蘭槍擊案後,美國會要求發生極端事件必須“秒刪”視頻
3月15日,極端思想的槍手衝進克萊斯特徹奇兩家清真寺射殺,造成50多人遇難,並導致多人受傷。

新西蘭清真寺槍擊案震驚了全球。隨後,新西蘭總理Jacinda Ardern對槍擊事件作做出了一系列的講話,其中之一就是發出疑問——槍手爲什麼能夠在Facebook和其他社交媒體平臺上直播殺戮過程。

據國內媒體報道,槍手的直播視頻看起來是用安裝在頭盔上的攝像機拍攝的,在Facebook發現並刪除之前,槍手已經直播了17分鐘的血腥×××。

也正是這17分鐘的直播沒有把好關,令視頻、圖像傳播範圍極廣,在Twitter、Youtube、Instagram以及其他社交平臺、即時通訊應用上廣泛傳播。這也使得外界質疑“Facebook”把關能力到底行不行,並指責這些社交媒體動作過於遲緩,沒有采取足夠措施阻攔用戶上傳相關文件。

新西蘭總理Jacinda Ardern指出,社交媒體應該負起把關的最大責任。隨後的言論顯示,她開始認同澳大利亞總理Scott Morrison的看法——即現有針對社交媒體的法律還不夠嚴厲。

Facebook表示,在事發後的24小時內,共刪除150萬段網民轉發的相關影片,其中120萬段在上傳前被攔截。Facebook發言人還指出:“凡是讚揚、支持此次恐襲和襲擊者的內容,一經發現,都被立刻刪除。”Twitter則表示,他們有一個專門小組來應對這種嚴重、緊急的情況。谷歌、YouTube則在聲明中表示,不良內容在他們的平臺上無所立足,只要發現有,就會立即刪除。”

對應的平臺給出了答覆,並採取了措施。有些人認爲,事情應該就這麼結束了,然而並沒有。

本週二,美國衆議院國土安全委員會主席Bennie G. Thompson給Facebook、Youtube等公司技術高管寫了一封信,要求在3月27日就新西蘭槍手在社交平臺直播行兇過程作出迴應,敦促他們更快速刪除恐怖主義視頻,並簡要介紹他們的迴應和計劃,以防止類似事件在未來發生。收到這些信的高管包括,Facebook CEO Mark Elliot Zuckerberg,YouTube CEO Susan Wojcicki、Twitter CEO Jack Dorsey,以及微軟 CEO Satya Nadella。

Bennie G. Thompson表示,這些公司必須優先投入資源和注意力,應對這些有毒和暴力的意識形態。“如果你不願意這樣做,國會將考慮制定相關政策,確保恐怖內容不會在你們的平臺上傳,國會也會研究其他國家的做法先例。”

Bennie G. Thompson強調:“你必須做得更好。”

實際上,恐怖內容在社交平臺上得到直播並非首次發生。2017年,泰國的一名父親在Facebook直播了殺害女兒的視頻,當時Facebook花了一天多的時間才清除掉視頻。也是在同一年,美國俄亥俄州的Cleveland市,一名男子直播槍擊他人。

如果無法在第一時間有效遏制暴恐內容在社交平臺上傳播,就會成爲恐怖分子的幫兇,危害巨大。它能製造仇恨、偏見,讓極端主義不斷蔓延。其次,破壞社會穩定,讓人效仿使用暴力去解決問題。更重要的是,暴恐內容在社交媒體上傳播對未成年人傷害最嚴重,讓他們出現很多不正常的心理和行爲表現,害怕周圍的一切人和事物,恐懼日常的社會交流。

爲了打擊恐怖主義,中國早在2015年12月27日就發佈了《×××反恐怖主義法》,後又於2018年4月27日進行了修改發佈。

阻止恐怖主義在互聯網空間蔓延,《×××反恐怖主義法》也對互聯網服務提供者進行了規範:

1.未依照規定爲公安機關、國家安全機關依法進行防範、調查恐怖活動提供技術接口和解密等技術支持和協助的;
2.未按照主管部門的要求,停止傳輸、刪除含有恐怖主義、極端主義內容的信息,保存相關記錄,關閉相關網站或者關停相關服務的;
3.未落實網絡安全、信息內容監督制度和安全技術防範措施,造成含有恐怖主義、極端主義內容的信息傳播,情節嚴重的。
有以上情形的,將處以罰款,情節嚴重的直接負責人和其他直接責任人員將處以拘留。

《×××反恐怖主義法》九十三條,又補充規定:違反本法規定,情節嚴重的,由主管部門責令停止從事相關業務、提供相關服務或者責令停產停業;造成嚴重後果的,吊銷有關證照或者撤銷登記。

從這來看,發生極端事件做到“秒刪”視頻,以及建立信息內容監督制度不僅僅是Facebook、Twitter、Youtube等平臺的責任,國內的內容平臺也是必須做到的。

那如何快速構建符合業務需求的內容安全體系?網易易盾內容安全專家提出4條建議:

1.做好事前防禦: 聯動用戶賬戶註冊保護和登錄保護的反作弊手段,從源頭髮現並攔截有害信息發佈者;

2.加強實人認證:針對用戶分級管理,加強實人認證,提高有害信息發佈者的門檻,內容發佈全流程可管理、可追溯;

3.應用智能手段:有些不良信息發佈者也有一定概率是正常用戶,這時就要及時更新或引進第三方的文本、圖片、音視頻等內容智能檢測技術,欲善內容安全其事,先利智能技術之器;

4.建立規範體系:產品內容安全涉及技術、政策、運營、審覈等多團隊,產品長期發展需及時建立相應的內容安全管理機制、應急處理機制。

在最後,網易易盾內容安全專家還指出,中小企業應該專注於主賽道——業務的快速發展和創新,不要浪費機會成本。像一些持續投入的非核心業務,儘量交給第三方專業的內容安全服務,比如說網易易盾。

本文素材援用自:

[1]美國會要求四大社交網絡:發生極端事件必須秒刪視頻,騰訊科技;

[2]Facebook等科技公司高管被國會要求就新西蘭槍手直播案作出迴應,CnBeta;

[3]臉書、推特、谷歌等正全力刪除新西蘭恐襲視頻及其他有害內容;澎湃新聞;

點擊免費試用網易易盾內容安全服務。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章