"Raketen som ska leda oss in i framtiden"

Fyra nivåer av acceptabel risk men förbud mot användning av biometrisk övervakning. Det är beskedet i EU-kommissionens lagförslag om artificiell intelligens (AI). – Det här är resultatet av tre års arbete, säger EU:s digitaliseringskommissionär Margrethe Vestager.

EU:s digitaliseringskommissionär Margrethe Vestager presenterade lagförslaget kring AI i Bryssel under onsdagen.
Marcus Alexandersson/TT
21.04.2021 16:06 UPPDATERAD 21.04.2021 20:10
Lagförslaget, som presenterades i Bryssel under onsdagen, har som mål att "förvandla Europa till ett globalt nav för tillförlitlig artificiell intelligens". Under presentationen upprepade Margrethe Vestager vikten av att EU nu använder regelverket för både företagens men också människornas bästa:
– Min största oro vad gäller AI är att vi inte använder den alls. Det vore synd.
Vestager var dock tydlig med att det för alla aktörer gäller att följa de tänkta reglerna och vara väldigt noga med hur man applicerar tekniken. Delar av AI-området har tidigare kritiserats för att vara dåligt på att korrekt uppfatta saker som kön och etnicitet.
– Är det så att man har ett system som exempelvis bara har data på kvinnor så använd det då bara på kvinnor, inte på män.
EU-kommissionens lagförslag lutar sig till största delen mot en indelning i fyra riskkategorier. Den potentiellt allvarligaste definieras som oacceptabel risk – dit hör AI som manipulerar mänskligt beteende för att kringgå personers fria vilja såväl som AI använd till att bedöma "social status". Den här typen av AI ska enligt lagförslaget förbjudas.
Under den allvarligaste riskkategorin finns det som bedöms som högriskområden, dit hör exempelvis ansiktsigenkänning, så kallad biometrisk igenkänning. Högriskområden föreslås lyda under strikta krav på säkerhet, integritet och möjlighet till transparens.
På bilden kommissionens ordförande Ursula von der Leyen under en belgisk techdemonstration tidigare i år.
Lagförslaget understryker att storskalig aktiv övervakning av personer, exempelvis ansiktsigenkänning via övervakningskameror, är ett högriskområde och något som bör förbjudas. Däremot kommer undantag att kunna göras för exempelvis rättsväsendet i olika fall, däribland vid misstänkt terrorbrott.

Uppförandekod

De två mildaste riskkategorierna, begränsad risk och lågrisk, föreslås inte omfattas av lika hårda krav. Begränsad risk kan exempelvis handla om en meddelanderobot på ett företags hemsida och lågrisk kan vara ett spamfilter.
För användning av AI som inte utgör högrisk eller värre föreslås också en frivillig uppförandekod.
Aktörer som upprepade gånger bryter mot de nya lagarna kan bland annat förvänta sig böter på ett par procent av den globala årsinkomsten.
Huruvida det i slutändan blir en ny riktning för lagförslaget, som ska igenom såväl EU-parlamentet och EU-rådet, eller den existerande fyrgradiga riskskalan återstår att se. Warborn hoppas dock att medlemsländerna inte reglerar för mycket och sätter käppar i hjulet för utvecklingen:

Detta är AI

Tanken med artificiell intelligens, förkortat AI, är att på konstgjord väg efterlikna hjärnans förmåga att inhämta kunskap, dra slutsatser, planera, lösa problem eller att tolka resultat.
Forskningsområdet fick sitt namn under 1950-talet och har inslag av matematik, informationsteknik, filosofi, lingvistik, psykologi, kognitionsvetenskap och hjärnforskning. Verktygen är oftast algoritmer av olika slag, där en algoritm kan beskrivas som en systematisk procedur som i ett antal steg anger hur ett visst problem ska beräknas eller analyseras.
Källa: Nationalencyklopedin

ANDRA LÄSER