Censur eller moderering af indhold er et af de mest komplekse aspekter af sociale netværk. På store platforme som Facebook og Twitter vil resultaterne i første omgang være praktiske og billige at tro, at de vil være som telefonselskaber eller post. Din mission vil i dette tilfælde simpelthen være at flytte brugergenereret indhold fra et websted til et andet og ikke blive involveret. Faktisk er indgreb uden retslig tilladelse, i tilfælde af telefonselskaber og post, en krænkelse af rettigheder. På sociale netværk genereres indholdet også af brugeren, men det er ikke en privat besked. Dette udgjorde et dilemma: skal sociale netværk garantere den ubegrænsede ytringsfrihed
brugere (som også kan fortsætte beskyttet af anonymitet), eller skal de fungere som skytsengle på internettet?
Ifølge data offentliggjort af dette tillæg er der 4.620 milliarder mennesker i verden, der bruger netværk til at offentliggøre deres meninger, og nogle af disse beskeder kan betragtes som stødende eller skadelige for andre mennesker. Mark Zuckerberg, grundlægger og ejer af Facebook, har længe sagt, at moderation af indhold er en af hans prioriteter. I 2019 lovede det at allokere 5% af sin indkomst (ca. $3.700 milliarder) til denne opgave. En artikel fra 2020 bekræftede, at "platforme som Facebook er nødt til at foretage afvejninger ... mellem ytringsfrihed og sikkerhed", og at der sjældent er et enkelt "korrekt" svar.
Dilemmaet er faktisk født med hver enkelt. Disse ønsker på den ene side at kunne udtrykke deres meninger uden filter, men på den anden side ønsker de, at indhold, som de anser for upassende eller skadeligt, skal undertrykkes. Afstemninger viser, at der er et bredt spektrum af tolerance over for indhold, der vurderes som skadeligt. En Morningconsult-undersøgelse udført i 2019 viste, at 80 % af de konsulterede nægtede at fjerne hadbeskeder af racemæssig, religiøs eller kønsmæssig karakter, 73 % støttede sletning af videoer, der viste voldelige forbrydelser, og 66 % var enige. viste modstand mod billeder af seksuelt indhold.
Denne heterogenitet tillader et bredt felt af vilkårlighed for censur. De seneste undersøgelser indikerer, at moderationsstrategien for et socialt netværk er betinget af dets indtægtsmodel, ifølge tre forskere fra Wharton business school ved University of Pennsylvania, som offentliggjorde en undersøgelse i december med titlen 'Implications of the Revenue and Marketing Model'. Teknologi til strategier for indholdsmoderering«.
Arbejdet pegede på, at det er mere sandsynligt, at sociale netværk, der er finansieret med annonceindtægter, har en tendens til at moderere indhold, end dem, der får deres indtægt via abonnement, hvor betaling allerede udgør et filter. Men når platformene handler, modereres de, der er finansieret af reklamer, på en mindre aggressiv måde end de betalte, fordi deres interesse ligger i at fastholde det største antal mennesker for at eksponere dem for annoncører. I dette tilfælde er censur eller indholdsmoderering også en retsregel, der udgør produktet og udfylder en dobbelt funktion: at udvide brugerbasen eller få flere af dem til at abonnere, øge deres anvendelighed og tilfredshed (eliminere det, der generer dem). borgmesterens hus).
Denne dobbelte funktion, siger forfatterne, "er forankret i karakteren af sociale netværk, hvor brugere nyder både at læse og udgive, men også er følsomme over for indhold, som de anser for skadeligt. For en social planlægger (en regering eller et organ, der fastsætter regler på vegne af samfundet), som bekymrer sig om brugernes velbefindende, er mådehold et værktøj til at fjerne negative bidrag fra beskeder. Fra dette synspunkt viser vi, at for-profit platforme er mere tilbøjelige til at bruge denne dobbelthed og moderate indhold end social planlæggeren. Med andre ord har platforme flere incitamenter til mådehold på grund af socialplanlæggernes interesse."
Men flere incitamenter betyder ikke altid korrekte incitamenter. Ved censurering af indhold vil en annonceunderstøttet platform være mindre streng end en social planner, mens en abonnementsbaseret platform vil være strengere. Generelt forsvarer myndighederne, at der er plads til regeringsregulering af sociale netværk, og når det er berettiget, bør det differentieres efter den indtægtsmodel, som hver platform har.
Måden indholdet modereres på afhænger også af den tekniske sofistikering, som det udføres med. En betydelig mængde indholdsmoderering er steget på Cape ved hjælp af computere og kunstig intelligens. På grund af dens ufuldkommenheder kan en platform censurere harmløst indhold og indrømme upassende indhold. Derfor kan man ikke bedømme, om en platform er mere eller mindre polariserende ud fra sin indholdsmodereringspolitik. Undersøgelsens resultater sår tvivl om, hvorvidt platforme vil være i stand til at afhjælpe teknologiske mangler på egen hånd.
Facebook er den platform, der er mest bekymret over virkningen af sit indhold. Før hans ledere vidste skaden forårsaget af visse beskeder, lovede Zuckerberg at ansætte 10.000 moderatorer og derefter dedikere 5 % af sin indtægt til denne opgave. Det store problem er, at kunstig intelligens i øjeblikket har vist sig utilstrækkelig til at udvikle denne funktion med garantier, og omkostningerne ved moderation er meget høje.
