Në një përpjekje të dukshme për të siguruar që veprimet e tij të shëmtuara të “bëhen virale”, një terrorist që vrau të paktën 49 persona në sulmet ndaj dy xhamive në Christchurch të Zelandës së Re, të premten filmoi dhe publikoi sulmet Live online.
Kështu, sipas mediave ai bëri që Facebook, YouTube dhe kompani të tjera të mediave sociale të përpiqen të bllokojnë dhe fshijnë pamjet, edhe pse kopjet e tyre vazhdojnë të përhapen si një virus.
Transmetimi origjinal në Facebook Live përfundimisht është larguar, por jo më parë se 17 minutat ku gjithçka është parë Live, më pas riprodhuar dhe shkarkuar nga përdoruesit.
Kopjet e këtyre pamjeve u përhapën shpejt në platforma të tjera, si YouTube, Twitter, Instagram dhe Reddit, dhe përsëri në Facebook.
Edhe pse platformat funksionuan për të larguar disa kopje, versionet e tjera u ri-ngarkuan diku tjetër.
Dhe ky episod i tmerrshëm ka vënë në pah edhe një gjë: përpjekjet e kompanive të mediave sociale për të policuar përmbajtjen e dhunshme të vendosur në platformat e tyre.
Siç shkruan Time, Facebook, YouTube dhe kompanitë e tjera të mediave sociale kanë dy mënyra kryesore për të kontrolluar përmbajtjen e ngarkuar në platformat e tyre.
Së pari, kanë teknologji të njohjes së përmbajtjes, e cila përdor Inteligjencën Artificiale për të krahasuar pamjet e sapo ngarkuara me materiale të paligjshme të njohura.
Gjithashtu, siç thuhet tutje, kompanitë e mediave sociale shtojnë teknologjinë e tyre të Inteligjencës Artificiale me mijëra moderatorë të cilët kontrollojnë videot dhe përmbajtjet e tjera.
Megjithatë, kompanitë e mediave sociale shpesh nuk arrijnë të njohin përmbajtjen e dhunshme përpara se të përhapet në mënyrë virale, duke i lejuar përdoruesit të përfitojnë nga arritja e paprecedentë dhe e menjëhershme e ofruar nga platformat e njëjta.
Ndërsa YouTube, Facebook as Twitter nuk u përgjigjën pyetjeve nga TIME rreth asaj se sa kopje të videove të Christchurch kishin marrë, policia e Zelandës së Re tha se ata ishin të vetëdijshëm se videoja po qarkullonte në mediat sociale dhe u kërkoi njerëzve që të mos e shpërndajnë atë.
“Ka pamjet jashtëzakonisht shqetësuese në lidhje me incidentin që po qarkullon në internet në Christchurch”, tha policia në Twitter. “Ne do të nxisnim me forcë që pamjet të mos shpërndahen”.
Ndërkohë Facebook ka thënë se videoja origjinale e sulmit u hoq vetëm pasi u alarmuan për ekzistencën e saj nga policia e Zelandës së Re, duke treguar se një algoritëm nuk e kishte vënë re videon.
“Ne shpejt larguam të dy llogaritë e Facebook dhe Instagram të sulmuesit, si dhe videon”, tha një zëdhënës i Facebook. “Ne po fshijmë çdo mbështetje për krimin dhe sulmuesin apo sulmuesit, sa më shpejt që t’i identifikojmë ato”.
Madje, ekspertët thonë se videoja e Christchurch nxjerr në pah një gabim fatal në qasjen e kompanive të medias sociale në moderimin e përmbajtjes.
“Është shumë e vështirë për të parandaluar një video të dhunshme të sapo regjistruar, e ngarkuar për herë të parë”, thotë Peng Dong, bashkë-themeluesi i kompanisë për njohjen e përmbajtjes ACRCloud, për TIME.
Mënyra se si funksionon teknologjia e njohjes së përmbajtjes, shpjegon ai, bazohet në një model “gjurmë gishtash”.
Kompanitë e mediave sociale që kërkojnë të parandalojnë ngarkimin e një videoje së pari duhet së pari të ngarkojnë një kopje të asaj videoje në një bazë të dhënash, duke lejuar që ngarkimet e reja të krahasohen me ato pamje.
Kompanitë e mediave sociale gjithashtu po eksperimentojnë me të mësuarit për të zbuluar pamjet e dhunshme herën e parë të ngarkesës, thonë ekspertët, por algoritmet nuk janë mjaft të avancuara ende për të marrë në mënyrë të besueshme pamjet e tilla.
Mund të imagjinohet lehtë një situatë, ku një algoritëm ngatërron pamjet e një video-loje me pamje të dhunshme të jetës reale, për shembull, thotë Tony Lemieux, profesor i studimeve globale dhe komunikimit në Universitetin Shtetëror të Gjeorgjisë.
Disa vrasje dhe akte të tjera të tmerrshme janë transmetuar në Facebook Live më herët. Por masakra e Christchurch në Zelandë të Re, duket se ka qenë hera e parë që një vrasës masiv në mënyrë specifike zgjodhi të transmetonte Live vrasjen e dhjetëra vetave dhe duket se e ka bërë këtë në një përpjekje për të siguruar se veprimi i tij do të përhapet në internet, duke përmbajtur edhe mesazhin brenda.
Gjithsesi, ndërmarrjet e mediave sociale si Facebook dhe YouTube, tashmë do të vendosen në një situatë për të mbrojtur praktikat e moderimit të përmbajtjes – dhe të shpjegojnë pse një vrasës masiv ishte kaq lehtë në gjendje të manipulonte sistemet e tyre për të shpërndarë veprimin e tij të tmerrshëm në të gjithë botën për pak minuta. /tg
