Mi történik a Facebooknál? - A január 7-i Zuckerberg-bejelentés elemzése
A Meta vezetője olyan intézkedéseket jelentett be, amelyek nagyon régóta állnak viták kereszttüzében. Ebben a blogbejegyzésben igyekszem bemutatni ezeknek a bejelentéseknek a kontextusát és ezen belül elsősorban a politikai és technológiai hátterét. A blogbejegyzésben végigmegyek Zuckerberg szövegén, és – stílusosan – kommentek formájában próbálok kontextust és magyarázatot hozzáfűzni a szöveghez.
A bejelentés
Zuckerberg az öt pontba foglalt intézkedéscsomagot azzal vezeti fel, hogy szeretne „visszatérni a gyökerekhez”, hiszen eredetileg azért alapította a Facebookot, hogy „hangot adjon az embereknek”.
Ez még akkor is hatalmas tódítás, ha tekintetbe vesszük, hogy a nagy techcégek igencsak hajlamosak az ilyen, önmagukat egy nemes célt követő szervezetnek, és nem alapvetően a profitszerzésre optimalizált vállalkozásnak beállítani. A Facebook ugyanis a kezdetekkor főleg a leselkedésről – a mások profiljainak böngészéséről –, és a kapcsolatépítésről, később pedig hirdetések eladásáról szólt. Az, hogy a Facebook a szólás egyik legfontosabb terepévé vált, tulajdonképpen inkább „nem várt mellékhatás”, de biztos, hogy nem elsődleges cél.
Ez a nemes cél azonban egyre jobban elveszett, mondja Zuckerberg. A kormányzatok és a „hagyományos média” arra kényszerítették a Facebookot, hogy egyre többet cenzúrázzon, sokszor politikai megfontolásokból.
Ez a mondat rengeteg kérdést felvet és egészen komplex problémahalmaz / történet rejlik mögötte, amit igyekszem röviden összefoglalni.
Egyfelől az a kérdés, hogy mi a „politika”, másfelől hogy ezen belül milyen kategóriákra gondolhat Zuckerberg. A helyzet ugyanis az, hogy a nyilvánvalóan jogszerű és pozitív tartalmak (kiscicás videó) és a nyilvánvalóan jogellenesek (gyermekpornográfia) közt van egy hatalmas szürke zóna, amelyet a szakirodalom elnevezett jogszerű, de taszító (angolul jobban hangzik: „lawful but awful”) tartalomnak. Ezeket a tartalmakat a Facebook vagy eltávolítja, vagy a terjedésüket lassítja („shadowbanneli”). Ha megnézzük a Facebook eltávolítási statisztikáit (a világszintűek itt, a lekérdezhető európaiak pedig itt találhatók), akkor itt tizenkét féle kategóriát találunk, amelyek közül csak három egyértelműen jogellenes, a többinek vagy csak bizonyos esetei, vagy csak bizonyos országokban (gyűlöletbeszéd) azok, és vannak egyáltalán nem jogellenes (csak felkavaró) tartalmak is, mint a pornográfia, az erőszak ábrázolása, a bullying vagy a kéretlen reklám (spam). Nyilván egy néhány perces bejelentésben nem lehet minden részletre kitérni, de azt sugallani, hogy a „szürke zóna” moderálása a „kormányzatok” és a „hagyományos média” miatt történik, enyhén szólva is csúsztatás. A szürke zóna legtöbb elemét a Facebook a legkorábbi időktől elsősorban a gazdasági érdekeit előtérbe helyezve saját elhatározásból moderálta.
A nagyon általános megfogalmazás ellenére elég valószínű, hogy Zuckerberg egy konkrét ügyre (is) gondolhatott a mondat megfogalmazásakor. Még tavaly augusztusban volt hír, hogy egy levélben azt írta, hogy „megbánta,” hogy engedett a kormányzati nyomásnak és „cenzúrázta” (ez nem tudjuk, mekkora arányban volt teljes törlés és terjedéslassítás) a Covid-19-cel kapcsolatos „dezinformációnak” minősülő posztokat. A megbánásnak lehet köze ahhoz is, hogy még 2022-ben több déli állam beperelte a Biden-kormányzatot, hogy nyomást gyakorol a közösségi médiafelületekre. Ebből lett a Murthy v Missouri ügy, amely megjárta a Legfelsőbb Bíróságot is, amely 6:3 arányban úgy döntött, hogy nem alkotmánysértő, ha a kormányzat kapcsolatba lép a közösségi médiacégekkel és esetleg javasol nekik valamit.
A Facebook a „nyomás” miatt kénytelen volt egyre komplexebb rendszereket építeni, amelyek százalékosan ugyan keveset hibáztak, de még 1%-nyi hiba is milliókat érint.
Ez a kijelentés részben igaz, részben azonban ismét csak van benne némi ferdítés, illetve felelősséghárítás. Az tökéletesen igaz, hogy a Facebookon olyan gigantikus mennyiségű tartalom keletkezik (naponta kb. 1 milliárd poszt), hogy ennek egy töredék százaléka is a sokmilliós nagyságrendben mozog. Az azonban biztosan nem igaz, hogy a komplex rendszerek építése, sőt általában a zavaró tartalmak moderálása a hagyományos sajtó és a kormányzat nyomására történt volna. A zavaró tartalmak moderálása már a Facebook kezdeteitől jelen van, de a 2010-es évek közepéig nagyobbrészt bejelentésre törölték a posztokat, általában emberi moderátorok. A rendszereket (tartalomfelismerő mesterséges intelligenciákat) a Facebook azért kezdte el építeni, mert az (ismét hangsúlyozva, nagyobbrészt önként vállalt) „kézi” tartalommoderálás a mennyiségek miatt tarthatatlanná vált. Milliárdos nagyságrendben nem lehet kézzel moderálni. És mivel a tartalmak szerteágazóak (tartalmilag, kulturálisan, területileg stb.), az egyes rendszereknek hihetetlenül kifinomultaknak kell lenniük, hogy képesek legyenek felismerni pl. az iróniát vagy a nem explicit gyűlölködést, mondjuk, egy mémben.
A közelmúltbeli választások azonban kulturális fordulópontot jelentek – mondja ezután Zuckerberg –, amely a szabad véleménynyilvánítás felé mutat.
A közösségi médiában a szólásszabadság és a „biztonságos online tér” csak egymás rovására érvényesíthető. Minél biztonságosabb akar egy közösségi médiaszolgáltatás lenni, annál jobban fogja csorbítani a szólásszabadságot. Ugyanakkor természetesen hatalmas véleménykülönbségek vannak azzal kapcsolatban, hogy hol kell megtalálni az egyensúlyt. Az USA-ban politikai oldalak vállalták fel a két oldal képviseletét. A republikánusok a szólásszabadság, míg a demokraták a biztonságos online tér mellett tették le a garast. Ráadásul – ahogy már ez a politikában csak lenni szokott – mindkét oldal érzelmileg is mozgósító erejű címkéket ragasztott a másikra. A republikánusok „woke” jelzővel illették a demokratákat, azzal vádolva őket, hogy elszakadtak a józan észtől, és fontos társadalmi kérdések megvitatását akadályozzák meg (mint pl. a bevándorlás és a genderkérdés), valamiféle homályos politikai korrektség jegyében, addig a demokraták a demokráciára és a társadalomra veszélyes gyűlöletbeszéd és dezinformáció pártolásával vádolták az ellenoldalt. Trump és a republikánusok győzelmével úgy tűnik, hogy a szólásszabadság hívei elsöprő többségbe kerültek. Zuckerberg valószínűleg ezt nevezi „fordulópontnak” (tipping point).
Az öt intézkedés
Először is kirúgjuk a tényellenőrzőket és a „community notes”-szal (kb. közösségi megjegyzés) helyettesítjük őket, mondja Zuckerberg. A hagyományos média Trump megválasztása után 2016-ban arról panaszkodott, hogy a dezinformációnak mekkora szerepe volt a választás során. Mi jóhiszeműen a tényellenőrzőket láttuk a megoldásnak, de kiderült, hogy ők politikailag elfogultak.
Először néhány szót a tényellenőrzőkről. A tényellenőrzés mint „újságírói mozgalom” állítólag még Ronald Reagan elnökségére vezethető vissza, de az internet demokratizálta a műfajt, majd a közösségi média 2016 környékén kitört válsága után a Meta (akkor még Facebook) is ebben látta a dezinformáció elleni küzdelemben a megoldást. Ekkor egy külső tényellenőrzőkből álló hálózatra kezdett el támaszkodni, amelynek jelenleg több száz tagja van a világban, vegyesen cégek, hagyományos médiaszerkesztőségek és civil szervezetek, melyeknek akkreditáltatniuk kell magukat. A Meta leírása szerint az álhíreket vagy a mesterséges intelligencia azonosítja (általában viselkedési és terjedési paraméterek alapján), vagy bejelentik őket. Ezután kerül ki a tényellenőrző szervezethez, amely többféle minősítéssel láthatja el („Hamis” „Módosított” „Részben hamis” stb.). A különböző címkék alapján a Facebook algoritmusa általában kisebb vagy nagyobb mértékben lassítani kezdi a hír terjedését (tehát az esetek többségében nem törli!), illetve figyelmeztetéssel látja el.
Nem tudjuk pontosan, mik voltak azok a konkrét esetek, amelyek „kiverték a biztosítékot” a republikánus oldalon, de elég valószínű, hogy ezek a Donald Trump egyes megszólalásaihoz köthető tényellenőrzések (pl. ez) lehettek. De voltak más, felháborodást keltő esetek is a jobboldalon pl. a keresztény-konzervatív szatirikus Babylon Bee híreit a tényellenőrző Snopes oldal gyakran címkézte azzal, hogy hihető álhírként közli a szatírákat.
Ami pedig a Community Notes rendszert illeti, ez az X innovációja. Lényege, hogy bármelyik felhasználó bejelentkezhet ún. közreműködőnek. A közreműködők megjegyzéseket írhatnak a bejegyzésekhez, és minősíthetik mások megjegyzéseit. Ha egy megjegyzést a közösség hasznosnak ítél, akkor az megjelenik a nyilvános felületen is. A kód, amely kiengedi a megjegyzést, úgy van megírva, hogy eltérő beállítódású emberek egyaránt hasznosnak kell ítéljék a megjegyzést. A rendszer, úgy tűnik, működőképes, egy közelmúltbeli empirikus tanulmány kifejezetten pozitívként értékeli. A korábban a Birdwatch nevet viselő szerkesztőszoftver teljesen transzparens, részletes leírása és kódja a GitHubon is megtalálható.
Összességében azt mondhatjuk, hogy a Zuckerberg-interjúnak tulajdonképpen az a legkevésbé vitatható része – a tényellenőrzők „elzavarása” és egy relatíve jól működő közösségi ellenőrzési rendszer „üzembe helyezése” –, amely a legnagyobb figyelmet keltette és felháborodást kiváltotta.
Másodszor egyszerűsítjük a tartalommoderálási irányelveinket és megszabadulunk egy sor olyan korlátozástól, például a bevándorlással és a genderrel kapcsolatban, amelyek „elszakadtak a mainstream diskurzustól” („out of touch with mainstream discourse” – én legalábbis így értem: elszakadtak a hétköznapi felfogástól) – mondja Zuckerberg. Ezek az inkluzívnak indult mozgalmak ugyanis egyre inkább arra szolgáltak, hogy elhallgattassák az embereket.
Ahogy azt fentebb említettem, ezeknél a témáknál ismét a szürke zónában találjuk magunkat, és úgy tűnik, hogy a republikánus oldal számára e két kiemelkedően fontos téma esetén az a bizonyos egyensúlykeresés a szólásszabadság irányába fog elmozdulni. Az persze egy jó kérdés, hogy hogyan fognak ehhez viszonyulni az egyébként jó amerikai hazafi felhasználók milliói, akik szerencsétlenségükre bevándorló háttérrel rendelkeznek vagy történetesen melegek, de ez, ahogy szokták mondani, legyen az ő bajuk. (Csak ironizálok természetesen, de nagyon kíváncsian várom a társadalmi fogadtatását.)
Harmadszor, mondja Zuckerberg (és ez a megjegyzése erősen kapcsolódik az előzőhöz), a közösségi szabályok kikényszerítésén akarnak változtatni. A moderációs szoftvereket úgy állítják majd be, hogy csak az illegális tartalmakat szűrje ki, a kisebb szabálysértéseket pedig csak akkor, ha jelentették őket. Zuckerberg itt utal arra a dilemmára, amelyet fentebb jeleztem, hogy ez egy „trade-off” helyzet: ha erősek a szűrők, akkor sok „jó cuccot” is kiszűrnek – azaz „cenzúráznak”, most az lesz a probléma, hogy sok „bad stuff” is látszani fog.
Itt ismét egy leegyszerűsítéssel állunk szemben, és a közeljövő fogja eldönteni, hogy ez hogyan működik. Az illegális és nem illegális tartalom közti különbségtétel – néhány valóban egyértelmű esetet leszámítva – eleve nehéz olykor. A gyűlöletkeltő, uszító beszéd az USA-ban sokkal inkább megengedett, mint Európában. Mit jelent a gyűlöletkeltő szervezet? És így tovább. Ezenfelül van egy sor nagyon káros, de nem illegális tartalom. A bullying, a pornó, az önsértés, az erőszak mutatása nem illegális.
Akkor ezek is csak bejelentésre fognak lekerülni? Adott esetben hosszú percekig vagy órákig nézhetjük majd, ahogy valaki közvetíti az öngyilkosságát? Nem hiszem. Ismét hangsúlyozom, egy ilyen rövid nyilatkozatban nem lehet minden nüanszot kifejteni, de az, hogy minden, ami nem illegális, azzal csak bejelentésre fognak foglalkozni, szinte biztos, hogy nem igaz. Azt gondolom, itt a gyűlöletbeszéd és a dezinformáció lesznek főleg a középpontban (az említett 12 kategóriából). Ugyanakkor a dezinformációt a Facebook eddig sem tiltotta le tipikusan, csak a terjedését lassította. Arról pedig nincsen hír, hogy mi lesz ezzel a lassítással, a „shadow banninggel”. Egyáltalán, ez a lassítás is „cenzúrának” minősül?
Negyedszer, visszahozzuk a közéleti tartalmakat („Civic content”) – mondja Zuckerberg. Egy ideig azt mondtuk, hogy mivel ez az embereket stresszeli, nem ajánljuk többé, de most úgy tűnik, egy „új korszakban vagyunk”, és az emberek megint szeretnék látni ezeket a tartalmakat.
Nos, a videónak ez a része már valóban igen furcsa. Még nincs egy éve sem, hogy a Meta bejelentette, hogy nem ajánlja többé az ajánlóalgoritmusokkal vezérelt felületein (Newsfeed, Reels stb.) a politikai tartalmakat, csak ha valaki kifejezetten feliratkozott a politikai csatornákra. Lehetséges, hogy a választás elmúltával, a lecsökkent felelősség hatására döntött így a Meta, de valószínűbb, hogy emögött is egy kérés van. Nagy kérdés, hogy ha ezt Trump kérte, adott esetben nem fog-e épp őrá visszaütni. Senki nem garantálja, hogy a republikánus oldalt fogják az algoritmusok preferálni.
Ötödik pontban a moderációs csapat Texas államba költözéséről beszél Zuckerberg. A moderációnak a legdélebbi, legkonzervatívabb államba költöztetése nyilván inkább szimbolikus gesztus. Sokkal fontosabb az azonban – tulajdonképpen nekünk, európaiaknak a legfontosabb –, amit Zuckerberg a videóüzenet végén, mintegy mellékesen mond el. Előbb arról beszél, hogy Trump elnökkel együtt fognak dolgozni, hogy visszaszorítsák azokat a kormányzatokat, amelyek az amerikai vállalatokat „üldözik, hogy többet cenzúrázzanak” (going after American companies to censor more”). Amerika védi a legjobban a szólásszabadságot, de Európának egyre több olyan szabálya van, amely „intézményesíti a cenzúrát”, és bonyolulttá teszi, hogy bármi innovatívat lehessen ott létrehozni. (Ezután más földrészeket is ostoroz, de ennek itt nincsen jelentősége.) Ez ellen a nemzetközi trend ellen – mondja – csak az amerikai kormányzat támogatásával tudunk tenni. Ezért volt olyan nehéz az elmúlt négy évben, amikor maga az amerikai kormányzat is a cenzúrát erőltette („has pushed for censorship”). Ezzel felbátorította a külföldi kormányzatokat is.
Bár a fentebbi öt intézkedések bevezetését – így a tényellenőrzők kiiktatását is – a Meta csak az USA-ban tervezi, a nyilatkozatnak ez a része számunkra európaiak számára is elég aggasztó, főleg azért, mert nem nagyon lehet tudni, itt mire gondol Zuckerberg – és talán Trump. Mi ellen fognak harcolni? A frissen elfogadott DSA nagyrészt eljárási és transzparenciarendelkezéseken (panaszkezelési rendszer, indokolási kötelezettség, átláthatósági jelentések stb.) keresztül próbálja megzabolázni a platformokat, amely semmiképpen sem minősíthető cenzúrának, azonban az óriásplatformoknak van egy sor olyan kötelezettsége, például a rendszerszintű kockázatok elemzése és az ezek elleni küzdelem, amelyben az emberi jogokra és a demokráciára leselkedő veszélyeket is fel kell mérni, és itt már bejöhetnek szólásszabadság-kérdések. Ezzel kapcsolatban további fejlemény, hogy az Európai Bizottság csaknem azonnal reagált egy sajtótájékoztatón Zuckerberg bejelentéseire, és határozottan cáfolta, hogy cenzúrára kényszerítenék a Metát vagy bármelyik platformot. A nem illegális, „szürke zónás” („potentially harmful”) tartalmak esetén – hangsúlyozta a Bizottság szóvivője, a DSA csak kockázatcsökkentési intézkedéseket vár el. Egyébként egy ezzel (a kockázatcsökkentéssel) kapcsolatos csörtének már szemtanúi lehettünk, amikor Elon Musk és Thierry Breton keveredtek az Izrael–Hamasz konfliktus kapcsán felvirágzott hamis videók és dezinformáció kapcsán feszült levelezésbe. Borítékolható, hogy ezek a konfliktusok súlyosbodnak majd. A Meta eddig nagyjából együttműködő volt Európában, ezután kétséges, hogyan viselkedik majd. Ha a dezinformációt problémának tartjuk, akkor azt hiszem, elkezdhetünk aggódni. És nagy kérdés ezen belül is, hogy az orosz dezinformációs kampányok is élvezni fogják-e a szólásszabadságnak ezt a hirtelen megnövekedett védelmi szintjét.
szerző: Ződi Zsolt tudományos főmunkatárs, NKE Információs Társadalom Kutatóintézet
