Risker och möjligheter med AI för synskadade

Utvecklingen med artificiell intelligens går snabbt, vilket öppnar möjligheter för synskadade. Men det ställer också krav på att lagar och regleringar följer med för att inte personer med funktionsnedsättningar lämnas utanför.

– Vi är många synskadade som använder appar som i praktiken kan fungera som konstgjorda ögon. Det finns teknik som kan beskriva omgivningen, identifiera produkter och sammanfatta texter och webbplatser, vilket såklart underlättar för många, säger Niklas Mattsson, ordförande för Synskadades Riksförbund.

Men förbundet ser också risker med den snabba utvecklingen. AI-verktygen bygger ofta på modeller och statistik där marginaliserade grupper inte är representerade. Det kan till exempel handla om ansiktsigenkänning.

– Biometrisk identifiering såsom ansiktsigenkänning får inte hindra synskadade från att använda olika tjänster. Precis som EU:s tillgänglighetsdirektiv anger måste flera alternativ alltid finnas. I Polen testar Mastercard betalning där den som betalar identifieras genom sin iris. Den som inte har någon iris utestängs då helt om inga andra lösningar erbjuds, säger Henrik Götesson, sakkunnig inom digitalisering och IT-hjälpmedel på SRF.

AI-modeller riskerar också att diskriminera personer som avviker från normen i olika rekryteringsprocesser, det pekar bland annat Diskrimineringsombudsmannen på i en rapport från 2023. En annan risk är att AI som ”konstgjorda ögon” kan ge vilseledande information. Även om verktygen låter trovärdiga och övertygande kan det som påstås vara felaktigt.

– Det kan bli rena hallucinationer, till exempel att en vattenflaska beskrivs som en vodkaflaska, just det hände mig, säger Henrik Götesson.

Synskadades Riksförbund anser att:

• AI aldrig får bli en ersättning för den som önskar mänskligt stöd i form av exempelvis hemtjänst, syntolkning och ledsagning.
• lagstiftning kring AI ska förbjuda AI-modeller som diskriminerar synskadade och andra personer med funktionsnedsättning
• lagstiftning om AI-utveckling och annan reglering ska garantera den personliga integriteten så att data om en enskilds funktionsnedsättning inte får lagras
• AI-teknik ska omfattas av lagstiftning med EU:s tillgänglighetsdirektiv som utgångspunkt
• innovation som kan leda till AI-baserade hjälpmedel för synskadade ska uppmuntras och få stöd av staten
• organisationer som företräder synskadade ska involveras i framtagandet av AI-modeller
• AI-verktyg speciellt framtagna för synskadade inte ska censurera innehåll så att synskadade fritt kan ta del av information
• avgiftsbelagda AI-baserade verktyg speciellt framtagna för synskadade ska kunna gå att få som hjälpmedel om de uppfyller säkerhetskrav och etiska krav

Kontakt:

Niklas Mattson, förbundsordförande SRF

niklas.mattsson@srf.nu, 070-318 36 90

Henrik Götesson, sakkunnig handläggare SRF

henrik.gotesson@srf.nu, 076-539 91 49