AI & Juridiken – praktisk tillämpning och ny lagstiftning

AI (artificiell intelligens) slår just nu igenom med full kraft i vårt samhälle. Men vad är AI? Hur hänger AI ihop med samhällets generella digitalisering? Vad innebär det i ett rättsligt perspektiv om vi använder AI? Vilka rättsregler är tillämpliga vid utveckling och användning av AI? Hur ser de kommande rättsakterna ut på AI-området? Vilken rättspraxis finns? Och, vad behöver man tänka på som jurist, upphandlare eller utvecklare när organisationen ska börja använda AI-system?

Vi inleder utbildningen med att förklara centrala begrepp kring AI och digitalisering, som exempelvis maskininlärning, algoritmer och automatisering. Att behärska språket och förstå vad de olika koncepten betyder är det första steget, om vi ska kunna prata om dess risker och möjligheter.

Därefter går vi igenom de rättsområden och befintliga rättsregler som blir tillämpliga vid utveckling, upphandling och användning av AI. Vi berör bland annat immaterialrätt, persondataskydd, upphandlingsrätt, it-avtalsrätt samt rättsregler om sekretess, offentlighet och bevarande. Vi berör också regelverken kring automatiserade beslut inom offentlig sektor. Utbildningen behandlar också de nya rättsregler som under våren kommer behandlas nationellt och inom EU. Framför allt kommer vi att beskriva EU:s föreslagna AI-förordning, som avses att behandlas under Sveriges ordförandeskap, men vi kommer också beröra EU-direktivet om skadeståndsansvar gällande AI som avser utomobligatoriskt skadestånd.

Under eftermiddagen kommer vi gå igenom aktuell rättspraxis relaterad till AI och framför allt beskriva ett rättsfall från Göteborg där Charlotta inom ramen för sin forskning testade hur domstolarna de facto hanterar algoritmer som bevismedel. Genom att stämma Göteborgs stad för en olaglig, och felaktig, användning av en algoritm för skolplaceringar kunde hon visa att den enskilda medborgaren står rättslös i relation till den offentliga institution som tillämpat algoritmiskt beslutsfattande, då det är närmast omöjligt att bevisa innehållet av ett algoritmiskt system som man inte har tillgång till.

Vi avslutar dagen med en praktisk gruppövning där deltagarna får arbeta med ett konkret fall och överväga vilka rättsliga frågor som behöver beaktas och vilka åtgärder som behöver vidas i den aktuella situationen. Dagen avrundas med en genomgång av gruppernas slutsatser.