EU yder £1.8 millioner i finansiering til oprettelse af en ny app, der skal mindske internetvisning af indhold med seksuelt misbrug af børn

Det vil blive sat på prøve på frivillige, der har fået hjælp på grund af deres tiltrækning af ulovlige billeder for at sikre, at de ikke er i stand til at give efter for deres trang.

Når det er installeret på en enhed, såsom en telefon, vil programmet genkende og forhindre visning af stødende billeder og videoer.

Det menes, at det vil hjælpe med at reducere den "stigende efterspørgsel" efter fotografier af børnemishandling.

Organisationer fra EU og Storbritannien er gået sammen om Protech-projektet.

Projektets Salus-app, som bruger kunstig intelligens til at identificere potentielt pornografisk information og forhindre brugere i at se dem, er designet til at fungere i realtid.

Internet Watch Foundation, en organisation, der arbejder på at finde, markere og fjerne børnemisbrugsmateriale, vil hjælpe med at træne AI-teknologien udviklet af det britiske firma SafeToNet.

Tom Farrell fra SafeToNet, som arbejdede i 19 år inden for retshåndhævelse, fortalte BBC, at appen ikke var beregnet til at være et værktøj til at rapportere brugere til politiet: "Folk, der frivilligt søger at stoppe sig selv med at se materiale om seksuelt misbrug af børn, ville helt klart ville ikke bruge sådan en løsning, hvis de tror, ​​at det ville rapportere dem til retshåndhævelsen."

reklame

'Praktisk hjælp'

Frivillige, der downloader appen, vil blive rekrutteret via organisationer, der arbejder med enkeltpersoner, der søger hjælp, fordi de er tiltrukket af billeder af online misbrug af børn.

En sådan organisation er den britiske velgørenhed Lucy Faithfull Foundation, som driver en hjælpelinje for dem, der frygter, at de kan downloade ulovlige billeder og ønsker at stoppe. Det inkluderer et betydeligt antal mennesker, der indrømmer at være pædofile, hvoraf nogle allerede er blevet dømt.

Fondens Donald Findlater sagde, at værktøjer som den nye app kunne hjælpe enkeltpersoner med at kontrollere deres adfærd og tilføjede: "det er en praktisk hjælp til folk, der genkender en sårbarhed i sig selv".

Medlemmer af Protech-projektet håber, at det kan dæmme op for den "voksende efterspørgsel efter materiale om seksuelt misbrug af børn online".

Et nyt højdepunkt på 30,925 lovovertrædelser, der involverede besiddelse og deling af uanstændige billeder af børn, blev begået i år 2021/2022, ifølge NSPCC.

Sidste år a indberette af Police Foundation-tænketanken sagde, at mængden af ​​online-forbrydelser af seksuelt misbrug af børn havde "simpelthen overvældet de retshåndhævende myndigheders evne internationalt til at reagere".

Projektmedlemmer, der talte med BBC, foreslog, at politiarbejde alene ikke ville forhindre folk i at downloade billeder.

Hr. Farrell hævder, at Storbritannien har anholdt flere personer for besiddelse af materiale om seksuelt misbrug af børn end noget andet land i verden siden 2014, og i processen har identificeret nogle meget alvorlige lovovertrædere.

Men millioner af mennesker ser stadig billeder

"Så anholdelse bliver ikke løsningen. Vi tror, ​​vi kan arbejde på forebyggelsessiden og reducere efterspørgslen og reducere tilgængeligheden."

'Pilotfase'

Mange detaljer om betjeningen af ​​appen mangler stadig at blive udarbejdet. Ingen AI er perfekt, og der skal findes en balance mellem overblokering - hvilket ville gøre legitim brug af en enhed vanskelig - og underblokering - som ikke kan opdage mange misbrugsbilleder.

Hr. Farrell siger, at appen vil blive testet i en "pilotfase" i fem lande - Tyskland, Holland, Belgien, Irland og Storbritannien med mindst 180 brugere over en 11-måneders periode.

Og eksperter, der ikke er involveret i projektet, mener, at ideen lover.

Professor Belinda Winder fra Nottingham Trent University sagde, at det var en velkommen udvikling, der kunne støtte mennesker, der "ønsker at blive hjulpet til at modstå deres usunde drifter, og som vil drage fordel af dette sikkerhedsnet".

Som med alle nye teknologiske værktøjer, ville djævelen være i detaljerne, og prof Winder havde spørgsmål om, hvordan det ville fungere i praksis, men sagde: "Det er et positivt skridt i den rigtige retning."

Del denne artikel: