Bekræftelse af #BigTech-løfter

Mønstret i Silicon Valley er for velkendt. Bevæg dig hurtigt, bryd tingene, undskyld, lov at gøre det bedre og gentag. Efter næsten to årtier med dette mønster er vi udmattede, skriver Dr. Hany Farid.

Vi er udmattede af spektakulære fejl i at beskytte brugernes privatliv, hvilket giver annoncører mulighed for ulovligt at målrette bolig- og jobannoncer baseret på race og alder, promoverer falske nyheder designet til at tilskynde til vold og forstyrre valg, og tillader terrorgrupper at fortsætte med at radikalisere og rekruttere online. Vi er udmattede af undskyldningerne og løfterne om at gøre det bedre.

Politikere og annoncører har været mere og mere højlydte i deres frustration over sociale medievirksomheders mangel på aggressivt at adressere alt fra radikaliserende, terrorrelateret materiale til seksuelt eksplicit indhold rettet mod børn. Som svar meddelte YouTube i sidste uge, at de havde fjernet over 8 millioner videoer i de foregående tre måneder, hvoraf størstedelen var spam eller voksenindhold. I alt 6.7 millioner af det slettede indhold blev automatisk identificeret af maskiner, hvoraf 76% blev fjernet, før de modtog en enkelt visning.

YouTube rapporterer også, at mere end halvdelen af ​​de voldelige ekstremisme-videoer blev fjernet med færre end 10 visninger. Vi får dog ikke at vide, hvor mange af disse videoer, der blev fjernet, og vi ved selvfølgelig ikke, hvor mange videoer, der er online, efter at de er blevet savnet af YouTubes algoritmer eller menneskelige moderatorer.

På overfladen lyder disse tal lovende, men et nærmere kig tegner et andet billede. I løbet af en periode på syv uger mellem 8. marts og 26. april i år brugte vi vores egen teknologi til at identificere tilstedeværelsen på YouTubes platform af kun 256 tidligere identificerede ISIS-genererede terrorrelaterede videoer. Her er, hvad vi lærte:

1. Ikke mindre end 942 ISIS-videoer blev uploadet til YouTube.

2. Disse 942 videoer fik i alt 134,644 visninger.

3. Selvom 74 % af videoerne forblev på YouTube i mindre end to timer, inden for dette tidsvindue, opnåede disse videoer i gennemsnit 12 visninger hver med et maksimalt visningstal på 252.

4. For videoer, der var tilgængelige i mere end to timer, var det gennemsnitlige antal visninger over et 48-timers vindue 515 med et maksimalt visningstal på 9,589 (vi holdt op med at spore visninger efter et 48-timers vindue).

5. Disse 942 videoer blev uploadet af 157 forskellige YouTube-konti, hvoraf nogle uploadede så mange som 70 videoer, før kanalen enten blev fjernet af YouTube-administratorer eller slettet af brugeren.

6. Cirka 91 % af de videoer, vi fandt, blev uploadet mere end én gang og forblev online i det mindste længe nok til, at vi kunne finde dem.

For blot at give et specifikt eksempel - en video med titlen Jagt dem O' Monoteist, der oprindeligt blev udgivet af ISIS' somaliske affiliate den 25. december 2017, tilskynder til skydevåben- og køretøjsangreb i vestlige lande, herunder Paris og London. Denne video blev uploadet til YouTube den 10. marts 2018, var tilgængelig i 29 timer og modtog 405 visninger, før den blev fjernet. Denne video blev genuploadet den 11. marts af en anden konto og var tilgængelig i 39 timer og fik 113 visninger, før den igen blev fjernet. Denne video blev derefter igen uploadet og slettet mindst seks gange mere i løbet af syv ugers vinduet og modtog tilsammen yderligere 875 visninger.

Nogle få mønstre er opstået fra vores analyse. På trods af påstande om, at den bruger automatiske værktøjer til at finde og fjerne terrorrelateret indhold, ser vi, at det samme indhold gentagne gange bliver uploadet til YouTube, ofte fra den samme konto. Dette indhold forbliver online overalt fra timer til dage og bliver set hundredvis til tusindvis af gange. Når det er fjernet, bliver det samme indhold derefter blot gen-uploadet, hvilket betyder, at det effektivt er tilgængeligt hele tiden. Hvis en lille non-profit organisation som Counter Extremism Project med begrænsede økonomiske ressourcer og computerressourcer kan finde indhold på disse platforme, ser vi ingen grund til, at platformene ikke selv kan gøre det samme.

Den nederste linje er, at for meget terrorrelateret indhold finder vej online, det bliver online for længe, ​​og det fortsætter med at dukke op igen, selvom det til sidst bliver fjernet.

Selvom vi har set nogle fremskridt sammenlignet med et par år siden, er der stadig betydelige huller i udviklingen og implementeringen af ​​teknologi til hurtigt og præcist at finde og fjerne terrorrelateret indhold. Ud over at forbedre eksisterende teknologier skal industrien gøre mere for at udvikle og implementere ny teknologi for at kæmpe med et landskab i konstant forandring - og dette skal gå ud over vage løfter om at bruge AI om fem til ti år fra nu til at løse de problemer, vi er. står overfor i dag.

Politikere, annoncører og offentligheden skal fortsætte med at presse teknologivirksomheder til at tage mere ansvar for den direkte og målbare skade, der kommer fra misbrugene på deres platforme. Hvis disse teknologivirksomheder ikke reagerer mere effektivt, bør politiske beslutningstagere overveje bøder (som tyskerne har), og annoncører bør overveje at tilbageholde annoncekroner (som Unilever har truet med at gøre).

Dr. Hany Farid er Albert Bradley 1915 Third Century Professor og formand for datalogi ved Dartmouth College og seniorrådgiver for Counter Extremism Project.

Del denne artikel: