Kunstig intelligens: trusler og muligheder

Europas vækst og velstand er tæt forbundet med, hvordan det vil gøre brug af data og forbundne teknologier. AI kan gøre en stor forskel for vores liv og samfundet – på godt og ondt – og Europa-Parlamentet har etableret en udvalg at undersøge effekten af ​​teknologien. Nedenfor er nogle vigtige muligheder og trusler forbundet med fremtidige AI-applikationer.

Læs mere om, hvad kunstig intelligens er, og hvordan den bruges.

Fordele ved AI

EU-lande er allerede stærke inden for digital industri og business-to-business applikationer. Med en digital infrastruktur af høj kvalitet og en lovgivningsmæssig ramme, der beskytter privatlivets fred og ytringsfrihed, kunne EU gøre det blive global leder inden for dataøkonomien og dens applikationer.

Fordele ved AI for mennesker

AI kunne hjælpe folk med forbedret sundhedspleje, sikrere biler og andre transportsystemer, skræddersyede, billigere og længerevarende produkter og tjenester. Det kan også lette adgangen til information, uddannelse og træning. Behovet for fjernundervisning blev vigtigere på grund af COVID-19-pandemi. AI kan også gøre arbejdspladsen mere sikker, da robotter kan bruges til farlige dele af job og åbne nye jobpositioner, når AI-drevne industrier vokser og ændrer sig.

Muligheder for kunstig intelligens for virksomheder

For virksomheder kan kunstig intelligens muliggøre udviklingen af ​​en ny generation af produkter og tjenester, herunder i sektorer, hvor europæiske virksomheder allerede har stærke positioner: grøn og cirkulær økonomi, maskiner, landbrug, sundhedspleje, mode, turisme. Det kan øge salget, forbedre maskinvedligeholdelsen, øge produktionen og kvaliteten, forbedre kundeservicen samt spare energi.

AI-muligheder i offentlige tjenester

AI, der bruges i offentlige tjenester, kan reducere omkostningerne og tilbyde nye muligheder inden for offentlig transport, uddannelse, energi og affaldshåndtering og kan også forbedre produkternes bæredygtighed. På denne måde kunne AI bidrage til at nå målene for EU's grønne aftale.

Styrke demokratiet

Demokrati kunne styrkes ved at bruge databaseret kontrol og forhindre desinformation og cyberangreb og sikre adgang til kvalitetsoplysninger. AI kunne også understøtte mangfoldighed og åbenhed, for eksempel ved at mindske muligheden for fordomme ved ansættelsesbeslutninger og i stedet bruge analytiske data.

AI, sikkerhed og sikkerhed

AI forventes at blive brugt mere i kriminalitetsforebyggelse og strafferetssystemet, da massive datasæt kan behandles hurtigere, risikoen for fangeflyvning vurderes mere præcist, kriminalitet eller endda terrorangreb forudsiges og forhindres. Det bruges allerede af onlineplatforme til at opdage og reagere på ulovlig og upassende onlineadfærd.

I militære anliggender kan AI bruges til forsvars- og angrebsstrategier inden for hacking og phishing eller til at målrette nøglesystemer i cyberkrigsførelse, mens den vigtigste fordel ved autonome våbensystemer er potentialet til at indgå i væbnet konflikt med reduceret risiko for fysisk skade.

Trusler og udfordringer ved AI

Den stigende afhængighed af AI-systemer udgør også potentielle risici.

Underudnyttelse og overforbrug af AI

Underbrug af kunstig intelligens betragtes som en stor trussel: forpassede muligheder for EU kan betyde dårlig implementering af store programmer, såsom EU's grønne aftale, miste konkurrencefordele over for andre dele af verden, økonomisk stagnation og dårligere muligheder for mennesker. Underbrug kan stamme fra offentlighedens og erhvervslivets mistillid til AI, dårlig infrastruktur, mangel på initiativ, lave investeringer eller, eftersom AI's maskinlæring er afhængig af data, fra fragmenterede digitale markeder.

Overforbrug kan også være problematisk: investering i AI-applikationer, der viser sig ikke at være nyttige, eller anvendelse af AI på opgaver, som det ikke er egnet til, for eksempel ved at bruge det til at forklare komplekse samfundsmæssige problemer.

Ansvar: Hvem er ansvarlig for skader forårsaget af AI?

En vigtig udfordring er at afgøre, hvem der er ansvarlig for skader forårsaget af en AI-betjent enhed eller service: i en ulykke, der involverer en selvkørende bil. Bør skaden dækkes af ejeren, bilproducenten eller programmøren?

Hvis producenten var absolut fri for ansvarlighed, var der muligvis ikke noget incitament til at levere et godt produkt eller en tjeneste, og det kunne skade folks tillid til teknologien; men regler kan også være for strenge og kvæle innovation.

Trusler mod AI mod grundlæggende rettigheder og demokrati

De resultater, som AI producerer, afhænger af, hvordan den er designet, og hvilke data den bruger. Både design og data kan være bevidst eller utilsigtet forudindtaget. F.eks. Er nogle vigtige aspekter af et problem muligvis ikke programmeret i algoritmen eller programmeret til at reflektere og replikere strukturelle forstyrrelser. I adcition kunne brugen af ​​tal til at repræsentere kompleks social virkelighed få AI til at virke faktisk og præcis, når den ikke er det. Dette kaldes undertiden matematikvask.

Hvis det ikke gøres ordentligt, kan AI føre til beslutninger, der er påvirket af data om etnicitet, køn, alder, når de ansætter eller fyrer, tilbyder lån eller endda i straffesager.

AI kan i alvorlig grad påvirke retten til privatliv og databeskyttelse. Det kan f.eks. Bruges i ansigtsgenkendelsesudstyr eller til online sporing og profilering af enkeltpersoner. Derudover muliggør AI sammenlægning af informationer, som en person har givet til nye data, hvilket kan føre til resultater, som personen ikke ville forvente.

Det kan også udgøre en trussel mod demokratiet; AI er allerede blevet beskyldt for at skabe online ekkokamre baseret på en persons tidligere onlineadfærd, der kun viser indhold, som en person gerne vil have, i stedet for at skabe et miljø for pluralistisk, lige så tilgængelig og inkluderende offentlig debat. Det kan endda bruges til at skabe ekstremt realistisk falsk video, lyd og billeder, kendt som deepfakes, som kan udgøre økonomiske risici, skade omdømme og udfordre beslutningstagning. Alt dette kan føre til adskillelse og polarisering i den offentlige sfære og manipulere valg.

AI kunne også spille en rolle i at skade forsamlings- og protestfriheden, da det kunne spore og profilere enkeltpersoner, der er knyttet til visse overbevisninger eller handlinger.

AI-indvirkning på job

Brug af AI på arbejdspladsen forventes at resultere i fjernelse af et stort antal job. Selvom AI også forventes at skabe og skabe bedre job, vil uddannelse og uddannelse have en afgørende rolle i forebyggelsen af ​​langtidsledighed og sikre en kvalificeret arbejdsstyrke.

Samling af information kan også føre til konkurrenceforvridning, da virksomheder med mere information kan få en fordel og effektivt eliminere konkurrenter.

Sikkerheds- og sikkerhedsrisici

AI-applikationer, der er i fysisk kontakt med mennesker eller integreret i den menneskelige krop, kan udgøre sikkerhedsrisici, da de kan være dårligt designet, misbrugt eller hacket. Dårligt reguleret brug af AI i våben kan føre til tab af menneskelig kontrol over farlige våben.

Gennemsigtighedsudfordringer

Ubalancer i adgangen til information kunne udnyttes. For eksempel, baseret på en persons onlineadfærd eller andre data og uden deres viden, kan en onlineleverandør bruge AI til at forudsige, at nogen er villig til at betale, eller en politisk kampagne kan tilpasse deres budskab. Et andet gennemsigtighedsproblem er, at det nogle gange kan være uklart for folk, om de interagerer med AI eller en person.