Hur ska vi censurera AI-system? Anders Sandberg vid Institutet för framtidsstudier är veckans gäst

ChatGPT, Stable Diffusion och Midjourney är olika AI-system som bland annat skriver poesi, skapar konst och programmerar. Hur bra är systemen i dag och kommer vi i framtiden behöva censurera AI för att inte orsaka innehåll som bryter mot samhället värderingar? I veckans avsnitt av IT-säkerhetspodden berättar Anders Sandberg, forskare vid Institutet för framtidsstudier om utvecklingen inom AI och vad som kan komma framöver.

– Tillsammans med Anders sticker vi hål på bubblan kring chatbotar och tar i stället steget in i en framtidsvärld där AI används till allt, säger Erik Zalitis, en av poddens programledare.

Mattias Jadesköld och Erik Zalitis.

AI är en maskins förmåga att visa människoliknande egenskaper, såsom resonerande, inlärning, planering och kreativitet. Vissa AI-teknologier har funnits i mer än 50 år. Men utvecklingen av datorernas kraft, tillgången till enorma mängder information och nya algoritmer har lett till stora genombrott för AI.

– Det är ett spännande ämne att spekulera i. Till exempel diskuterar vi censurering av AI och hur värderingarna i vårt samhälle kommer i konflikt med AI-system om de skulle uttrycka rasistiska eller sexistiska åsikter till följd av sin indata. Hur kommer världen se ut om tio år? Kommer vi få se generell AI som är smartare än oss människor?

IT-säkerhetspodden avsnitt #197: ”AI-system om tio år” släpps söndag 12 februari, kl. 18:00.

Lyssna här:

Lyssna på IT-säkerhetspodden på Spotify
Lyssna på IT-säkerhetspodden i Podcaster-appen
Läs mer om IT-säkerhetspodden och lyssna här på alla avsnitt här

Populära avsnitt från IT-säkerhetspodden:

#179 – Torbjörn Andersson – teknisk innovation vs cyberhot
Varför är Zero trust ett buzzword? Hur ska man börja? Vilka fällor ska man undvika? Hur ska man arbeta strukturerat med risker?

#182 - Svenskarna är naiva med Mikael Westerlund
Vad har hänt sedan förra årets stora attack mot Coop? Vad har vi lärt oss? Och hur ska en liten kommun, med mycket skyddsvärd information, skydda sig mot cyberangrepp? Och varför är Black Friday rena julafton för bedragare på nätet?

#177 - Etiken på internet 1/3
Dygdetik är en av tre grenar inom moralfilosofin som IT-säkerhetspodden tittar närmare på. Hur klarar sig en strikt etiker i ett digitalt samhälle? Vad tycker en dygdetiker om någon som hackar ett system för att tjäna pengar? Är dygdetik lika med ärlighet? Och hur ärliga är vi i sociala medier?

#176 - Zero day exploits i gråzonen
Sårbarheter som upptäcks före tillverkaren kallas för zero-day exploits. Goda medborgare rapporterar sårbarheten till företaget i fråga medan elakartade typer nyttjar det i en attack. Men det finns faktiskt en gråzon också.

#181 - Beyond the hype - riktiga IAM utmaningar
Ibland är det så att IT-säkerhetsbranschen tittar lite väl långt fram och stort kring olika hot och glömmer de vardagliga utmaningarna. Det handlar dagens avsnitt om. Om masterdata samt säkerhet kring behörigheter och identiteter. Hur ska man arbeta med dessa? Hur ska man kunna säkert besvara frågan ”vem har åtkomst till vad i min organisation?”.

Syftet med IT-säkerhetspodden är att prata IT-säkerhet för en målgrupp som är intresserad av spännande ämnen inom teknik, oavsett om man arbetar med säkerhet eller IT. Vi pratar på ett lättsamt vis, förklarar och blandar humor med tekniskt snack. Ibland nördar vi ner oss rejält. Och ibland förklarar vi lite väl tydligt. IT-säkerhetspodden görs i samarbete med Nordlo av:

Mattias Jadesköld
Certifierad IT-arkitekt med fokus på IT-säkerhet som arbetar strategiskt och rådgivande med säkerhetsfrågor tillsammans med kunder i vardagen. Mattias leder Nordlos säkerhetsövervakningstjänst som utgår från en kundanpassad hotmodellering och avancerat skydd för att förhindra informationssäkerhetsincidenter.

Erik Zalitis
Certifierad IT-säkerhetsspecialist (CISSP och Ethical Hacker) som bland annat genomför djupa penetrationstester eller threat hunting av applikationer och verksamhetssystem. I vardagen arbetar Erik med att utvärdera sårbarheter, hantera high-level incidenter och förebyggande arbete såsom att utveckla skydd, intrångsdetektering och säkerhetsprocesser. 

Vill du veta mer – kontakta:
Erik Zalitis, Certifierad IT-säkerhetsspecialist Nordlo, +46(0)70 445 38 06, erik.zalitis@nordlo.com

Nordlo erbjuder IT- och digitaliseringstjänster till företag och offentlig verksamhet i Norden, på regional, nationell och internationell nivå. Med strategisk rådgivning, ett nära samarbete och med ansvarsfulla val av innovativ teknik hjälper Nordlo kunderna att driva digitaliseringen framåt. Nordlo har cirka 850 medarbetare på 46 orter i Sverige och Norge. Omsättningen uppgick år 2022 till 1,9 miljarder SEK. Läs mer på https://nordlo.com/

Taggar: