Att bygga in rättssäkerhet i automatiska beslut

Digitalsamtal

Hur värnar vi rättssäkerheten i ett samhälle där allt fler beslut fattas automatiskt? Kring den frågeställningen kretsar Charlotta Kronblads forskning vid Handelshögskolan i Stockholm.

– Nu forskar jag om vad som händer i gränslandet mellan juridik, teknik och organisation. Det är ett spännande möte i ett nytt forskningsområde som är med och skapar det samhälle som vi vill leva i, säger hon.

Samtalet i avsnittet tar sin utgångspunkt i ett rättsfall som Charlotta själv drivit sedan 2020, där hon försökt få ta del av den programkod som använts i beslut kring skolplaceringar i grundskolan. Men någon algoritm fick hon inte se, och inte heller var domstolen intresserad av den.

För Charlotta Kronblad blir det här ett tydligt exempel på hur bland annat bevisbördan behöver förflyttas:

– Det är orimligt att enskilda individer ska bevisa att de drabbats av felaktiga beslut på grund av en algoritm. Det är rimligare om de som har tillgång till algoritmen ska bevisa att den fattar beslut i enlighet med lagen, resonerar hon.

Vidgar vi diskussionen ytterligare ser Charlotta Kronblad ett behov av ett gemensamt språk, där jurister och programmerare bättre förstår varandra, och en teknikneutral lagstiftning som tar sikte på hur teknik används snarare än hur komplex den är.

Den 29-30 maj arrangeras Future of Democracy 2023 i Göteborg, och precis som förra våren spelar Karin Hübinette och Anders Thoresson in ett antal avsnitt av Digitalsamtal x Future of Democracy med koppling till de ämnen som kommer att diskuteras.