Hur ska AI få ökad tillit?

Utvecklingen av artificiell intelligens går fort. Men hänger de etiska frågorna med? Frågan diskuteras på ett av RISE seminarier under Almedalsveckan.

Just nu händer det mycket inom AI i Sverige. Wallenbergstiftelsen donerade nyligen en miljard till AI-grundforskning inom WASP-programmet. I Regeringens digitaliseringsstrategi pekas artificiell intelligens ut som ett prioriterat forskningsområde. På Vinnova märker man en kraftig ökning av företag som har AI-lösningar i sina ansökningar. Men oavsett om det rör sig om hur neurala nätverk ska struktureras eller hur man smart kan förbereda ett varulager inför julhandeln finns det etiska frågeställningar.

- Bland de svenska företag som använder sig av AI idag finns det få som tydligt försökt profilera sig som mer etiska och ansvarstagande, säger Jacob Dexe.

På RISE finns idag fler än 75 pågående AI-projekt och fler än 60 aktiva AI-forskare. Man har stor erfarenhet av att jobba med praktiska tillämpningar och de situationer som då uppstår. Till exempel gör RISE ett AI-system till Arbetsförmedlingen för smart matchning av arbetssökande mot arbetstillfällen. Efter en vår där användandet och lagrandet av personlig data varit i fokus med Cambridge Analytica och GDPR är medvetenheten större i samhället. Den aktör som inte har en strategi för att jobba på ett hållbart sätt med användardata riskerar bekymmer – både från EU och allmänheten.

 - Det gäller att förbereda sig för vad man vill göra med datan och hur man tillämpar AI och algoritmerna, säger Jacob Dexe.

Ett uppmärksammat exempel är ett AI-system i USA som är tänkt att ge beslutsstöd till domstolar för borgensbedömning.

- Det systemet har fått kritik för att det – vid allt annat lika – diskriminerade mot personer med afroamerikanskt ursprung.

Systemet är upplärt på stora mängder data från tidigare bedömningar som rättsväsendet gjort. De förutfattade meningar som enskilda individer haft tidigare sprids då in i algoritmerna. Misstron mot bedömningar från AI och algoritmer är ännu stor. Till exempel är många tveksamma till att åka i självkörande bilar.

- Det finns en lägre acceptans för datorstödda beslut. Vi är vana vid att människor gör fel. Men om en dator gör fel – då kan reaktionen bli större mot hela upplägget, säger Jacob Dexe.

Tilliten och den sociala acceptansen är alltså något som behöver jobbas på för aktörer. Hos RISE drivs sedan 2017 projektet ”Sjyst data!” som undersöker och testar hur ett certifieringssystem för etisk behandling av användardata skulle kunna se ut.

- Allmänhetens kännedom om de här frågorna har ökat. Målet för oss i detta projekt är att bidra till att företag ska bli bättre och tydligare vad gäller integritetsaspekter i sin utveckling av digitala tjänster. Dels genom att undersöka om en certifiering är möjlig – men också genom att ta fram rekommendationer och råd till företag om hur de designar t ex villkor och avtal på ett etiskt och förståeligt vis. Det kommer bli allt viktigare för företag att visa att man har goda intentioner i de här frågorna, säger Håkan Cavenius på RISE.

Seminarium: Schyssta algoritmer – människans bästa vän?

Tid: Tisdag 3 juli kl 10:00 till 10:45

Plats: RISE Trädgård i Almedalen, Kinbergs plats 3, Visby

Medverkande:

Darja Isaksson, digitalstrateg, tillträdande generaldirektör Vinnova

Joacim Damgard, vd Microsoft

David Mothander, IT-och Telecomföretagen

Daniel Gillblad, RISE

Pia Sandvik, RISE

Åsa Zetterberg, CDO, Regeringskansliet

Evelina Anttila, general counsel, Peltarion