Cenzura oziroma moderiranje vsebine je eden najbolj zapletenih vidikov družbenih omrežij. Na velikih platformah, kot sta Facebook in Twitter, bodo rezultati sprva udobni in poceni, če pomislimo, da bodo podobni telefonskim podjetjem ali poštnim storitvam. Vaša naloga bo v tem primeru preprosto premakniti vsebino, ki jo ustvarijo uporabniki, z enega mesta na drugo in se ne vpletati. Dejansko je poseg brez sodnega dovoljenja, v primeru telefona in pošte, kršitev pravic. V družbenih omrežjih vsebino generira tudi uporabnik, vendar ne gre za zasebno sporočilo. To je sprožilo dilemo: ali morajo družbena omrežja zagotavljati neomejeno svobodo izražanja
uporabniki (ki lahko tudi ostanejo anonimni) ali naj delujejo kot angeli varuhi interneta?
Po podatkih, objavljenih v tej prilogi, je na svetu 4.620 milijonov ljudi, ki uporabljajo omrežja za objavo svojih mnenj in nekatera od teh sporočil se lahko štejejo za žaljiva ali škodljiva za druge ljudi. Mark Zuckerberg, ustanovitelj in lastnik Facebooka, že dolgo pravi, da je moderiranje vsebin ena njegovih prioritet. Leta 2019 je obljubil, da bo za to nalogo namenil 5 % svojega dohodka (približno 3.700 milijarde dolarjev). Članek iz leta 2020 je potrdil, da "morajo platforme, kot je Facebook, narediti kompromise ... med svobodo izražanja in varnostjo" in da le redko obstaja en sam "pravi" odgovor.
Dilema se pravzaprav rojeva pri vsakem posamezniku. Ti po eni strani želijo izraziti svoje mnenje brez kakršnega koli filtra, po drugi strani pa želijo odstraniti vsebino, ki se zdi neprimerna ali škodljiva. Raziskave kažejo, da obstaja širok spekter strpnosti do vsebin, ki so ocenjene kot škodljive. Raziskava Morningconsulta, opravljena leta 2019, je pokazala, da je 80 % vprašanih zanikalo odpravo sovražnih sporočil rasne, verske ali spolne narave, 73 % jih je bilo zavezanih zatiranju videoposnetkov, ki prikazujejo nasilna kazniva dejanja, 66 % pa je bilo v nasprotju s slikami spolne vsebine.
Ta heterogenost omogoča široko polje samovoljne cenzure. Najnovejše študije kažejo, da je strategija moderiranja družbenega omrežja pogojena z njegovim modelom prihodkov, menijo trije raziskovalci s poslovne šole Wharton na Univerzi v Pennsylvaniji, ki so decembra objavili študijo z naslovom »Posledice modela prihodkov in tehnologija za vsebino«. Strategije moderiranja".
Delo je poudarilo, da je bolj verjetno, da družbena omrežja, ki so financirana s prihodki od oglaševanja, težijo k zmerjanju vsebin kot tista, ki prejemajo dohodek z naročnino, kjer je plačilo že filter. Ko pa platforme delujejo, se tiste, ki so financirane z oglaševanjem, zmerjajo na manj agresiven način kot plačane, saj je njihov interes zadržati največje število ljudi, da bi jih izpostavili oglaševalcem. V tem primeru je cenzura oziroma moderiranje vsebine prav tako pravilo za izdelek in ima dvojno funkcijo: razširi bazo uporabnikov ali pridobi več, da se jih naroči, s čimer se poveča njegova uporabnost in zadovoljstvo (odstrani tisto, kar te moti). županova hiša).
Ta dvojna vloga, pravijo avtorji, "je zakoreninjena v naravi družbenih medijev, kjer uporabniki uživajo tako v branju kot objavljanju, vendar so tudi občutljivi na vsebino, za katero menijo, da je škodljiva. Za družbenega načrtovalca (vlado ali telo, ki postavlja pravila v imenu družbe), ki skrbi za dobrobit uporabnikov, je zmernost orodje za odpravo negativnih prispevkov. S tega vidika pokažemo, da je večja verjetnost, da bodo profitne platforme uporabljale to dvojnost in zmerno vsebino kot socialni načrtovalec. Z drugimi besedami, platforme imajo več spodbude za zmernost v interesu socialnih načrtovalcev.
Toda več spodbud ne pomeni vedno pravih spodbud. S cenzuriranjem vsebine bo platforma, podprta z oglasi, manj stroga od družbenega načrtovalca, medtem ko bo platforma, ki temelji na naročnini, bolj stroga. Na splošno se oblasti zagovarjajo, da obstaja prostor za vladno regulacijo družbenih omrežij, in če je to upravičeno, bi jo morali razlikovati po modelu prihodkov, ki ga ima vsaka platforma.
Način moderiranja vsebine je odvisen tudi od tehnične prefinjenosti, s katero je to narejeno. S pomočjo računalnikov in umetne inteligence je bil na rtu dvignjen precejšen obseg moderiranja vsebin. Platforma lahko zaradi svojih nepopolnosti cenzurira neškodljivo vsebino in dovoli neprimerno vsebino. Zato ni mogoče presojati, ali je platforma v svoji politiki moderiranja vsebine bolj ali manj polarizirana. Ugotovitve študije vzbujajo dvom o tem, ali bodo platforme lahko same odpravile tehnološke pomanjkljivosti.
Facebook je platforma, ki najbolj skrbi za vpliv svoje vsebine. Zuckerberg je obljubil, da bo zaposlil 10.000 moderatorjev, nato pa tej nalogi namenil 5 % svojega prometa, preden je bil starejši, kot so njegovi vodstveni delavci vedeli, kakšno škodo povzročajo nekatera sporočila. Velik problem je v tem, da se je umetna inteligenca zaenkrat izkazala kot nezadostna za razvoj te funkcije z garancijami in je cena zmernosti izjemno visoka.
