#Artificial Intelligence - EU-lovgivning bør sætte sikre grænser for højrisikoapplikationer, siger #EESC

Biometrisk genkendelse til sporing, overvågning og detektering af følelser burde ikke have nogen plads i Europas menneskecentrerede tilgang til kunstig intelligens (AI), siger Det Europæiske Økonomiske og Sociale Udvalg (EØSU) i sin svar på Europa-Kommissionens hvidbog om kunstig intelligens, vedtaget af EØSU's plenarmøde i juli.

Europa-Kommissionen har foreslået, at en AI-applikation skal betragtes som højrisiko, hvis den involverer både en højrisikosektor (sundhedspleje, transport, energi og dele af den offentlige sektor) og højrisikobrug, med nogle få undtagelser, f. skal stadig defineres. Kun hvis disse to betingelser er opfyldt, foreslår Kommissionen, bør vi tale om højrisiko AI, som ville falde ind under specifikke regler og styringsstrukturer.

EØSU mener, at denne definition risikerer at skabe potentielt farlige smuthuller. Facebooks politiske annoncering er et godt eksempel, siger udvalget.

"Reklamer er en lavrisikosektor, og Facebooks nyhedsaggregeringsfunktion kan betragtes som en lavrisikobrug. Men," argumenterer meningsordfører Catelijne Muller, "har vi under valgkampe set, at spredningen på Facebook af falske nyheder og deepfakes genererede ved hjælp af kunstig intelligens kan have mange negative effekter og påvirke, hvordan folk stemmer, med indblanding selv fra lande uden for Europa."

Skal der være dispensationer herfra, og hvor mange skal der være? I stedet for at opstille en liste over undtagelser mener EØSU, at det ville være bedre at udarbejde en liste over fælles karakteristika, der kan betragtes som højrisiko, uanset sektoren.

Mange ansøgninger har en stærk indvirkning på de grundlæggende rettigheder, understreger Muller, ikke bare på folks privatliv, men også på deres ret til at demonstrere eller for eksempel tilslutte sig en fagforening.

Den mørke side af biometrisk genkendelse

reklame

Ansigts- og biometrisk genkendelse er et nøgleområde, hvor AI berører grundlæggende rettigheder. Dens brug kan være tilladt til personlig identifikationsformål - og er faktisk reguleret af den generelle databeskyttelsesforordning.

Men den udbredte brug af AI-drevet biometrisk genkendelse til overvågning eller til at spore, vurdere eller kategorisere menneskelig adfærd eller følelser bør forbydes. Så meget desto mere, da der overhovedet ikke er nogen videnskabelig dokumentation for, at vi kan skelne en persons følelser ud fra deres biometri, understreger Muller.

COVID-19 sporings- og sporingsapps

EØSU advarer også mod en ukontrolleret bølge af sporings- og sporingsteknologi, der finder vej ind i vores samfund meget hurtigere og med meget mindre kontrol end før, i et forsøg på at bekæmpe coronavirus-udbruddet.

"AI-teknikker og -tilgange til at bekæmpe pandemien bør være lige så robuste, effektive, gennemsigtige og forklarelige som enhver anden AI-teknik i enhver anden situation," siger EØSU-ordføreren. "De bør værne om menneskerettigheder, etiske principper og lovgivning. De bør også være frivillige, for uanset om vi kan lide det eller ej, vil mange teknikker, der blev introduceret under krisen, blive permanente."

EØSU håber, at Kommissionen vil tage dets input med sig, som den har gjort med de henstillinger, EØSU har fremsat siden sin banebrydende mening om kunstig intelligens i 2017, som først forfægtede en "human in command" tilgang til AI i Europa.

Baggrund

 Hvidbog om kunstig intelligens, som er en del af en bred pakke af foranstaltninger vedrørende AI, der er annonceret i Europa-Kommissionens meddelelse Shaping Europe's digitale fremtid, fremsætter:

• Foranstaltninger til at strømline forskning, fremme samarbejde mellem medlemslande og øge investeringerne i kunstig intelligens og;
• politiske muligheder for en fremtidig EU-lovramme for kunstig intelligens med et stærkt fokus på højrisikoapplikationer.

I februar 2020 lancerede Kommissionen en offentlig høring om hvidbogen, der løb indtil den 14. juni og udstedte over 1 200 svar på spørgeskemaerne og omkring 700 skriftlige indlæg. Kommissionen behandler i øjeblikket dette input og vil snart offentliggøre en rapport.

Shaping Europe's digitale fremtid skitserer de tiltag, som Europa-Kommissionen planlægger at tage for at sikre et Europa, der er egnet til den digitale tidsalder, en af ​​Ursula von der Leyens topprioriteter i hendes tid som formand for Europas direktion. Den er baseret på tre hovedsøjler:

• Teknologi, der virker for folket;
• en retfærdig og konkurrencedygtig digital økonomi, og;
• et åbent, demokratisk og bæredygtigt samfund.

EØSU har givet sine råd vedr "Udformning af Europas digitale fremtid" i en , også vedtaget på EØSU's plenarmøde i juli, med en central anbefaling:

"Alene hastigheden af ​​den digitale transformation betyder, at vi ikke ved, hvilke nye udviklinger der vil komme i næste måned. Vi skal derfor være fleksible og tilpasningsdygtige. Dette kræver konstant dialog mellem alle involverede parter. EØSU, som organiseret civilsamfunds stemme. samfundet, bør være en del af det, og vi beder Kommissionen om at etablere en sådan permanent dialog,« sagde udtalelsesordfører Ulrich Samm.

Del denne artikel: