AI och GDPR – vad gäller?

I efterdyningarna av Svenska Dagbladets publicering av Försäkringskassans användning av AI för att hitta VAB-fuskare uppstod enligt oss en pseudodiskussion om ifall de har rätt att överhuvudtaget analysera och använda sitt data för att leta efter bidragsfuskare. Självklart får Försäkringskassan göra det så länge de i övrigt följer reglerna i GDPR. Men de kanske inte får använda AI för det här ändamålet enligt den nya förordningen. Det återstår att se hur praxis kommer att utveckla sig.

Problemet som uppstår när man använder en AI-modell istället för en ”vanlig” prediktiv analysmodell är att man låter modellen skapa en avancerad statistisk modell baserad på underliggande data. Då tappar man till stor del kontrollen över hur AI-modellen tolkar och värderar detta data. Samt att AI-modellen hela tiden ändrar sig baserat på att den tuggar i sig mer data.

Risken för en enskild individ att bli felaktigt utpekad som bidragsfuskare kanske inte blir större med en AI-modell än med en ”människobyggd” prediktiv modell (det beror helt på om datat är representativt eller inte), men transparensen i det automatiska beslutsfattandet som GDPR kräver blir definitivt svårare att leva upp till.

Vad vill AI-förordningen skydda oss ifrån?

Det är exakt detta som AI-förordningen vill säkerställa inte ska hända – alltså att människor blir felaktigt utpekade på ett kränkande sätt av en ”robot” och den som gjort det inte kan förklara varför.

Just att använda sig av AI för att brottsprofilera personer är förbjudet enligt AI-förordningen så länge det inte ”används för att stödja mänsklig bedömning av en persons inblandning i brottslig verksamhet, som redan grundas på objektiva och verifierbara fakta med direkt anknytning till brottslig verksamhet.”

På Moderamen tycker vi att det kommer bli superspännande att följa hur praxis för tillämpning av AI-förordningen i relation till GDPR kommer att utvecklas!

Hur tänker ni? Är AI-förordningen bara ett nytt farthinder i er utvecklingsresa eller finns det fog för att inte låta Artificiell intelligens göra vadsomhelst?