內容的審查或審核是社交網絡最複雜的方面之一。 在 Facebook 和 Twitter 這樣的大平台上，最初的結果會被認為是電話公司或郵政郵件，既方便又便宜。 在這種情況下，您的任務只是將用戶生成的內容從一個站點移動到另一個站點，而不是進行干預。 事實上，未經司法授權的干預，就電話和郵件而言，是對權利的侵犯。 在社交網絡上，內容也是由用戶生成的，但它不是私人消息。 這就帶來了一個困境：社交網絡是否必須保證言論自由不受限制？
用戶（也可以在匿名保護下進行）還是應該充當互聯網的守護天使？
根據本增刊公佈的數據，全球有4.620萬人使用網絡發表意見，其中一些信息可能被認為具有冒犯性或對其他人有害。 Facebook 創始人兼所有者馬克·扎克伯格長期以來一直表示，內容審核是他的首要任務之一。 2019年，他承諾將收入的5%（約3.700億美元）分配給這項任務。 2020 年的一篇文章證實，“像 Facebook 這樣的平台必須在言論自由和安全之間進行‘權衡’”，而且很少有單一的“正確”答案。
事實上，這種困境是每個人與生俱來的。 一方面，他們希望能夠在沒有任何過濾的情況下表達自己的觀點，但另一方面，他們希望刪除他們認為不適當或有害的內容。 民意調查顯示，人們對被認為有害的內容存在廣泛的容忍度。 Morningconsult 2019 年進行的一項調查顯示，80% 的受訪者否認刪除種族、宗教或性別性質的仇恨信息，73% 的人選擇刪除顯示暴力犯罪的視頻，66% 的人反對刪除色情圖片。內容。
這種異質性使得審查制度具有廣泛的任意性。 賓夕法尼亞大學沃頓商學院的三名研究人員去年 XNUMX 月發表了題為“收入模式和技術的影響”的研究報告，最新研究表明，社交網絡的調節策略取決於其收入模式。內容審核策略”。
該研究指出，與通過訂閱獲得收入的社交網絡相比，通過廣告收入資助的社交網絡更有可能對內容進行審核，而訂閱收入已經構成了過濾器。 但當平台採取行動時，那些靠廣告資助的平台會比那些付費的平台採取更溫和的方式，因為他們的利益在於留住盡可能多的人，讓他們向廣告商展示。 在這種情況下，內容的審查或審核也是產品的一項法治，並實現雙重功能：擴大用戶群或讓更多人訂閱，提高其有用性和滿意度（消除市長的煩惱）房子。
作者說，這種雙重功能“植根於社交網絡的本質，用戶既喜歡閱讀又喜歡發帖，但也對他們認為有害的內容敏感。 對於關心用戶福祉的社會規劃者（政府或代表社會制定規則的機構）來說，審核是刪除負面貢獻帖子的工具。 從這個角度來看，我們表明營利性平台比社交策劃者更有可能使用這種二元性和適度的內容。 換句話說，由於社會規劃者的利益，平台有更多的動力進行調節”。
但是，更多的激勵並不總是意味著正確的激勵。 通過審查內容，廣告支持的平台將不如社交策劃者嚴格，而基於訂閱的平台將更加嚴格。 總體而言，當局辯稱，政府對社交網絡的監管還有空間，如果合理的話，應該根據每個平台的收入模式進行區分。
審核內容的方式還取決於其執行的技術複雜程度。 在計算機和人工智能的幫助下，海角的內容審核工作量已大幅提高。 由於其不完善，平台可以審查無害的內容並接納不適當的內容。 因此，無法判斷一個平台的內容審核政策是否存在或多或少的兩極分化。 該研究的結果讓人懷疑這些平台是否能夠自行彌補技術缺陷。
Facebook 是最關心其內容影響力的平台。 在他的高管們還不知道某些信息造成的損害之前，扎克伯格就承諾僱傭 10.000 名管理員，並隨後將其賬單的 5% 用於這項任務。 最大的問題是，人工智能目前還不足以有保障地開發這種功能，而且調節成本非常高。
