Мазмұнды цензура немесе модерациялау әлеуметтік желілердің ең күрделі аспектілерінің бірі болып табылады. Facebook және Twitter сияқты үлкен платформаларда нәтижелер бастапқыда телефон компаниялары немесе пошта қызметі сияқты болады деп ойлауға ыңғайлы және арзан болады. Бұл жағдайда сіздің міндетіңіз жай ғана пайдаланушы жасаған мазмұнды бір сайттан екіншісіне жылжыту және араласпау болады. Шын мәнінде, телефон және пошта жағдайында сот рұқсатынсыз араласу құқықтардың бұзылуы болып табылады. Әлеуметтік желілерде мазмұнды да пайдаланушы жасайды, бірақ ол жеке хабарлама емес. Бұл дилемманы тудырды: әлеуметтік желілер өз пікірін білдіру еркіндігіне кепілдік беруі керек пе?
пайдаланушылар (олар да жасырын қалуы мүмкін) немесе олар Интернеттің қорғаушы періштелері ретінде әрекет ету керек пе?
Осы қосымшада жарияланған деректерге сәйкес, әлемде өз пікірлерін жариялау үшін желілерді пайдаланатын 4.620 2019 миллион адам бар және бұл хабарламалардың кейбірі басқа адамдарға қорлайтын немесе зиянды деп саналуы мүмкін. Facebook-тің негізін қалаушы және иесі Марк Цукерберг көптен бері мазмұнды модерациялау оның басымдылықтарының бірі екенін айтты. 5 жылы ол кірісінің 3.700 пайызын (шамамен 2020 миллиард доллар) осы тапсырмаға бөлуге уәде берді. XNUMX жылғы мақалада «Facebook сияқты платформалар сөз бостандығы мен қауіпсіздік арасында келіссөздер жүргізуі керек» және бір ғана «дұрыс» жауап сирек болатынын растады.
Дилемма, шын мәнінде, әр адамда туады. Бұлар, бір жағынан, ешқандай сүзгісіз өз пікірлерін білдіргісі келсе, екінші жағынан, орынсыз немесе зиянды болып көрінетін мазмұнның жойылғанын қалайды. Сауалнамалар зиянды деп танылған мазмұнға төзімділіктің кең спектрі бар екенін көрсетеді. 2019 жылы Morningconsult сауалнамасы жүргізілген сауалнамаға жүгінгендердің 80%-ы нәсілдік, діни немесе гендерлік сипаттағы өшпенділік туралы хабарламаларды жоюдан бас тартқанын, 73%-ы зорлық-зомбылық қылмыстары көрсетілген бейнероликтердің жолын кескенін және 66%-ы олардың суреттеріне қайшы келетінін көрсетті. жыныстық мазмұн.
Бұл гетерогенділік ерікті цензураның кең өрісіне мүмкіндік береді. Желтоқсан айында «Мазмұнға арналған табыс моделінің салдары мен технологиясы» атты зерттеуін жариялаған Пенсильвания университетінің Уортон бизнес мектебінің үш зерттеушісінің айтуынша, соңғы зерттеулер әлеуметтік желінің модерациялау стратегиясы оның кіріс үлгісімен шартталғанын көрсетеді. Модерация стратегиялары».
Жұмыста жарнамадан түсетін кіріспен қаржыландырылатын әлеуметтік желілерде төлем сүзгі болып табылатын жазылу арқылы кіріс алатындарға қарағанда мазмұнды модернизациялау ықтималдығы жоғары екендігі атап өтілді. Бірақ платформалар әрекет еткенде, жарнамамен қаржыландырылатындар ақылыларға қарағанда аз агрессивті түрде қалыпты, өйткені олардың мүдделері оларды жарнама берушілерге көрсету үшін адамдардың ең көп санын ұстап тұру болып табылады. Бұл жағдайда цензура немесе мазмұнды модерациялау да өнім үшін заң нормасы болып табылады және қосарлы функцияны орындайды: пайдаланушы базасын кеңейту немесе жазылу үшін олардың көп бөлігін алу, оның пайдалылығы мен қанағаттанушылығын арттыру (сізді алаңдататын нәрсені жою). әкімнің үйі).
Бұл қосарлы рөл, дейді авторлар, «пайдаланушылар оқуды да, жариялауды да ұнататын, бірақ сонымен бірге олар зиянды деп санайтын мазмұнға сезімтал әлеуметтік медианың табиғатында жатыр. Пайдаланушылардың әл-ауқатын ойлайтын әлеуметтік жоспарлаушы (үкімет немесе қоғам атынан ережелерді белгілейтін орган) үшін модерация теріс үлес хабарламаларын жою құралы болып табылады. Осы тұрғыдан алғанда, біз коммерциялық платформалардың әлеуметтік жоспарлаушыға қарағанда бұл екі жақтылық пен қалыпты мазмұнды пайдалану ықтималдығын көрсетеміз. Басқаша айтқанда, платформалар әлеуметтік жоспарлаушылардың мүддесі үшін модерацияға көбірек ынталандырады ».
Бірақ көбірек ынталандыру әрқашан дұрыс ынталандыруды білдірмейді. Мазмұнды цензуралау арқылы жарнамаға қолдау көрсетілетін платформа әлеуметтік жоспарлаушыға қарағанда қатаңырақ болады, ал жазылымға негізделген платформа қатаңырақ болады. Жалпы алғанда, билік әлеуметтік желілерді мемлекеттік реттеуге мүмкіндік бар екенін және бұл негізделген кезде оны әр платформаның кіріс үлгісімен саралау керек деп қорғайды.
Мазмұнды модерациялау жолы оның жасалатын техникалық күрделілігіне де байланысты. Компьютерлер мен жасанды интеллект көмегімен мазмұнды модерациялаудың айтарлықтай көлемі көтерілді. Өзінің кемшіліктеріне байланысты платформа зиянсыз мазмұнды цензуралап, орынсыз мазмұнға рұқсат бере алады. Сондықтан, платформа мазмұнды модерациялау саясатында аз немесе көп поляризацияланғанын анықтау мүмкін емес. Зерттеу нәтижелері платформалардың технологиялық кемшіліктерді өз бетімен түзете алатындығына күмән келтіреді.
Facebook - оның мазмұнының әсері туралы ең көп алаңдайтын платформа. Оның басшылары белгілі бір хабарламалардың зиянын білмей тұрып, Цукерберг 10.000 5 модераторды жалдап, содан кейін айналымының XNUMX% осы тапсырмаға арнауға уәде берді. Үлкен мәселе жасанды интеллект әзірше бұл функцияны кепілдікпен дамыту үшін жеткіліксіз екенін көрсетті және модерация құны өте жоғары.
