2019年，不良違規內容氾濫已成爲全球互聯網生態治理難題，社會聚焦、監管行動使得內容安全也成爲互聯網企業發展生命線，受到管理層的重點關注。
這一年，內容安全事件頻繁爆雷，據不完全統計，就有超過一千家互聯網產品服務因此受到各種監管處罰，嚴重者下架時間一個月，對業務造成極大影響。事件爆發的互聯網產品不限於社區電商、圖片版權、企業服務、網絡文學、直播音視頻、影視、出海、教育、網絡文學等類別。
網易易盾一直關注和記錄內容安全領域，每週一次對事件和相關大事進行整理（風控週報可在網易易盾公衆號菜單欄點擊“幫助中心-2019風控週報”查看2019全年的業務風控週報，也可百度搜索“持續更新ing！記錄2019年那些內容安全事件”，即可查看），在2019年遠去，迎來2020年之際，對全年大事記進行盤點，希望獲得行業的共同關注，更好地打造生態環境。
以下爲盤點：
1.小紅書被下架整改兩個多月
事件：2019年7月30日前後，有網友反映，被譽爲“種草神器”的小紅書被在安卓應用商店下架。幾天後，小紅書也從App Store中消失。後來，小紅書發表一份聲明稱：“已對站內內容啓動全面排查、整改，深入自查自糾，並積極配合有關部門。”
在外人看來，小紅書由於快速增長，平臺中出現了各種亂象。有人爆出，小紅書上的種草內容，並非來自真實用戶的親身體驗，而是根據商家需求“定製”的，包括9萬的菸草筆記、保健品、黑醫美推廣等。
經過整改後，10月14日前後，小紅書上架各大安卓應用市場，開始恢復下載。
補充說明：一款App/社區不是隻做好涉黃涉爆等方面就萬事無憂了，野蠻成長的時代已經徹底畫上句號。社區風氣和氛圍也要兼顧，是否有軟色情、虛假廣告、大量的營銷內容等現象都要進行維護，承擔好企業的主體責任。
2.視覺中國先後被要求整改兩次
事件：2019年4月，視覺中國網站被天津市網信辦以涉嫌傳播違法有害信息爲由，責令立即關停，全面徹底整改，這是第一次整改。
第二次整改，是在2019年12月。視覺中國發布公告稱，公司負責人被網信辦指導有關地方網信辦約談。“監管部門指出，視覺中國網站違反國家互聯網有關法律法規和管理要求，應立即停止違法違規行爲，全面徹底整改。”公司網站自即日起開展自查整改，整改期間網站暫停服務，網站恢復的具體時間公司將另行公告。
補充說明：第一次整改，視覺中國股價從28元跌至16.56元，市值蒸發近80億元。第二次整改，截止到2020年1月3日當天，視覺中國的官網仍無法打開，空白頁面只剩一句提示：“落實有關管理要求，視覺中國網站自即時起全面開展自查整改，整改期間網站暫停服務。”從這點來看，企業規範好自己業務和服務十分重要，否則代價不會小。
3.釘釘社區因違規內容 社區暫停更新一個月
事件：釘釘社區發聲明稱，由於出現違規內容，根據有關管理部門整改要求，將於2019年5月11日00:00起暫停更新一個月，期間對違規信息進行清理，同時對產品管理進行功能升級。
補充說明：內容安全問題已經成爲一種泛安全，並不因爲是To B的工具，就能避免。只要涉及註冊，暱稱、頭像圖片、簽名內容等都會成爲平臺的內容安全隱患，如果有內容模塊，那麼面臨的內容安全隱患更大，更加不可控。內容安全問題，不可小覷。
4.吱呀、Soul、語玩、一說FM等多款音頻App遭下架
事件：6月28日，網信辦會同有關部門，針對網絡音頻亂象啓動專項整治行動。根據羣衆舉辦線索，經覈查取證，首批依法依規對吱呀、Soul、語玩、一說FM等26款傳播歷史虛無主義、淫穢色情內容的違法違規音頻平臺分別採取了約談、下架、關停服務等階梯處罰。
補充說明：這次網絡音頻行業的監管，除了查處一批色情淫穢、低俗信息管理不當的平臺外，也對一些宣揚“二次元文化”、“亞文化”，以及宣揚歷史虛無主義，傳播驚悚恐怖、神仙鬼怪、殭屍、冥婚等怪力亂神的網絡小說，散佈封建迷信思想的平臺進行了治理。
5.晉江文學城遭查處，起點中文網部分欄目停更
事件：2019年5月23日，根據北京市“掃黃打非”辦公室發佈的消息，北京市“掃黃打非”辦公室等部門聯合行動，依法查處晉江文學城網站涉嫌違法行爲。經查，晉江文學城《不知悔改的男人》《妖孽養成日記》等作品涉嫌傳播淫穢色情內容，對公衆特別是未成年人的身心健康有毒害。晉江文學城即日起，立即關停所涉問題突出的古代純愛頻道下的東方架空欄目，及衍生純愛頻道下的東方幻想欄目。
閱文集團旗下起點中文網對用戶發佈違法違規信息未盡到管理義務，傳播導向錯誤、低俗色情小說等問題約談運營企業負責人，責令其立即自查自糾，全面深入整改。整改期間，起點中文網問題突出的“都市”頻道“異術超能”欄目、“女生網”頻道“N次元”欄目暫停更新7天，時間從5月21日15時至5月28日15時。
而在7月份，國家新聞出版署又約談了咪咕閱讀、天翼閱讀、紅袖添香網、起點中文網、追書神器、愛奇藝文學等12家企業，對近期發現的網絡文學內容低俗問題提出批評，責令全面整改，要求相關單位立即下架存在問題的網絡小說，停辦徵文活動，清理低俗宣傳推介內容。
補充說明：爲了流量和收入，不少網文作者絲毫不顧及底線，除了低俗、色情外，內容上出現各種魔幻色彩，而平臺方卻沒有及時地介入，因此2019年監管部門對網絡文學進行了較大規模的規範。知乎專欄作者“剎迦”在《網文整改並沒有那麼不堪》一文談及監管時說到:"有些人認爲網文整改會給網文創作帶來災難，會導致網絡小說消失，但我認爲這根本就是危言聳聽，也很沒常識，恰恰相反，網文需要整改，再不整改反而可能會毀了網文的發展。"從筆者角度來看，一切都應該有序發展，無序會把自身拖入深淵。
6.登載不合規定地圖，《親愛的，熱愛的》被罰十萬
事件：2019年10月，上海市規劃和自然資源局官網顯示，電視劇出品方上海劇酷文化傳播有限公司未經測繪地理信息主管部門審覈，在劇中擅自登載不符合國家規定地圖的行爲，被責令改正並罰款人民幣十萬元整，處罰日期爲2019年8月12日。
補充說明：《親愛的，熱愛的》應該不是故意登載不合規定的地圖，而是細節沒有把握住。這是一種新類型的內容安全事件，值得所有人提高警醒，因此對外的內容、產品，把好導向關、內容關、質量關、傳播關、人員關，建立審覈制度，加強相關技術和各種流程的安全管控是非常必要的。
7.抖音海外版TikTok2019年接連遭印度、孟加拉國、美國等國家下架或審查
事件：2019年，對於抖音海外版TikTok而言是個多事之秋。2月，孟加拉國以打擊互聯網色情爲由禁掉了TikTok。4月，印度Madras高等法院以“鼓勵色情，對兒童有害”爲理由，要求當地中央政府對TikTok應用下達禁令，限制媒體通過電視轉播使用該程序上的視頻。
而在美國，TikTok也受到多次審查。爲此，TikTok宣佈，將在美國引入第三方機構，讓他們爲平臺的內容管理政策提供諮詢服務和建議。TikTok美國總經理瓦內薩·帕帕斯(Vanessa Pappas)表示，此舉旨在提高內容審覈政策及社區保護措施的透明度。
補充說明：實際上，2019年有不少中國公司出海，這些出海的企業在國外均面臨着各種內容安全問題。理解當地文化，與當地執法機構深入溝通，制定一國一策的內容審覈政策，或許將是在海外做強做大的關鍵點。
8.互動作業、納米盒等20多個學習類APP被“掃黃打非”部門查處
事件：2019年1月7日，中央電視臺《新聞聯播》報道稱，全國“掃黃打非”部門查處案件1.2萬起，對於羣衆舉報的移動學習APP中涉嫌侵權、盜版、色情、低俗內容等問題，展開了專項行動，查處了互動作業、納米盒等20多個學習類APP。
5月14日國家網信辦公佈，2019年1月至4月，國家網信辦會同有關部門開展教育類移動應用程序專項整治，查實“作業狗”“口袋老師”等20餘款程序傳播淫穢色情等違法違規信息，存在過度商業營銷和娛樂化等不良行爲。國家網信辦已清理下架上述程序，關停違法違規情況嚴重的應用服務，約談部分程序運營方，督促刪除內容低俗及與學習無關的文章5.5萬餘篇，關停420餘個專欄以及320多個違規賬號。
補充說明：2019年應該算是教育類App專項整治的一年，從1月到12月，各種監管動作始終未放鬆。爲此，有專家建議，應當考慮建立學習教育App黑名單，唯有如此，才能更好預防和治理隱藏在未成年人身邊的不良內容，減少他們被侵害的風險。
9.施華洛世奇、Versace（範思哲）等涉嫌損害國家主權與領土完整
事件：2019年，有不少網友發現，包括施華洛世奇、Versace（範思哲）、蔻馳、紀梵希在內的品牌，他們在官網或售賣的產品上，把不該表述爲“國家”的中國城市、地區，表述爲國家，涉嫌損害中國的國家主權與領土完整。
補充說明：任何個國家的公民都有主權意識和對應的風俗習慣，中國企業出海需要遵守當地的法律法規，尊重主權和風俗習慣，對應的海外企業入華也需要尊重，並把好各個環節，避免不當的現象發生。
10.哈囉順風車現大量涉黃信息，變色情廣告平臺
事件：2019年6月份，有網友發現，哈囉順風車存在虛假色情訂單，在“附近乘客”一欄有兩位五星乘客，利用行程做廣告，“出發地”一欄被填入信息“今晚老公不在家，你帶我去哪都行”，而“目的地”一欄則填入了微信號。後來，哈囉出行官方表示普通用戶無法擅自更改地址定位信息，本次事件系平臺遭到了惡意攻擊。
補充說明：2019年，自媒體人半佛仙人揭露了一種新的攻擊形式——內容攻擊。半佛仙人指出，所謂內容攻擊就是利用對方APP中可以展示內容的地方（例如評論區等），進行黃恐暴內容的飽和錄入，然後引發對方APP被大量投訴，然後被下架。內容攻擊競爭對手會用，打亂對方的產品迭代發佈計劃，給自己爭取有利的競爭窗口；黑灰產也會使用此手段，通過信息發佈獲得相關的利益。由此來看，做好業務風控非常重要，哪怕沒有多少內容權限，不法分子也可以通過業務安全上的缺口，給平臺方帶來內容安全風險。
2019年，內容安全領域也有一些法律法規發佈，易盾將應該引起重視的法律、政策法規和相關重要措施附錄如下：
《網絡信息內容生態治理規定》發佈
內容：來自微信公衆號網信辦消息，《網絡信息內容生態治理規定》已經國家互聯網信息辦公室室務會議審議通過，現予公佈，自2020年3月1日起施行。
據悉，《規定》明確了正能量信息、違法信息和不良信息的具體範圍。鼓勵網絡信息內容生產者製作、複製、發佈含有正能量內容的信息。明確網絡信息內容生產者應當遵守法律法規，遵循公序良俗，不得損害國家利益、公共利益和他人合法權益，不得製作、複製、發佈違法信息；應當採取措施，防範和抵制製作、複製、發佈不良信息。
國家網信辦等三部委發佈《網絡音視頻信息服務管理規定》
內容：國家互聯網信息辦公室、文化和旅遊部、國家廣播電視總局聯合印發了《網絡音視頻信息服務管理規定》（以下簡稱“《規定》”），自2020年1月1日起施行。《規定》明確，網絡音視頻信息服務提供者應當依法取得法律、行政法規規定的相關資質；應當建立健全用戶註冊、信息發佈審覈、信息安全管理等制度。任何組織和個人不得利用網絡音視頻信息服務以及相關信息技術從事法律法規禁止的活動，侵害他人合法權益。
網信辦等三部門聯合發佈新規，不得隨意發佈AI造假視頻
內容：2019年12月份前後，國家互聯網信息辦公室、文化和旅遊部、國家廣播電視總局聯合印發了《網絡音視頻信息服務管理規定》，其主要內容是：利用基於深度學習、虛擬現實等新技術新應用製作、發佈、傳播非真實音視頻信息的，應當以顯著方式予以標識，不得利用其製作、發佈、傳播虛假新聞信息;網絡音視頻信息服務提供者應當部署應用違法違規音視頻以及非真實音視頻鑑別技術，應當建立健全闢謠機制。
《兒童個人信息網絡保護規定》發佈
內容：10月1日，由國家互聯網信息辦公室發佈的《兒童個人信息網絡保護規定》正式實施。據專家介紹，這是我國第一部專門針對兒童網絡保護的立法，明確了任何組織和個人不得製作、發佈、傳播侵害兒童個人信息安全的信息，確定了兒童個人信息網絡保護的具體原則，以及網信部門和其他有關部門的監管職責。該規定填補了互聯網時代兒童個人信息保護的法律空白。
國內53家主要網絡直播和視頻平臺上線“青少年模式”
內容：2019年10月，國家網信辦繼續深入推進青少年網絡防沉迷工作，統籌指導六間房、花椒直播等24家網絡直播平臺，搜狐視頻、百度視頻等9家網絡視頻平臺統一上線“青少年模式”。截至目前，國內共有53家平臺上線“青少年模式”，網絡防沉迷工作基本覆蓋國內主要網絡直播和視頻平臺。