AI gör nytta men kan skada och påverka

I maj förra året uppdaterades Unescos ramverk för MIK Länk till annan webbplats. – medie- och informationskunnighet. Den klassiska cirkelöversikten, MIK-ekologin, blev då till en ”majblomma” med inte mindre än 23 kronblad. På ett av dessa finns kunnighet om artificiell intelligens, AI.

I sin sammanfattning (unesco.org) Länk till annan webbplats. av MIK-ramverket lyfter Unesco fram styrkan hos AI i kombination med MIK.

AI för med sig en massa fördelar i våra dagliga liv genom exempelvis virtuella tjänster som svarar på frågor eller appar för att hjälpa människor i nödsituationer. Samtidigt reser AI många frågor kring risker, skriver Unesco.

Risker med AI

En av riskerna med AI är att man förlitar sig på datamängder som återspeglar ett begränsat urval av människor ­– men som leder till beslut som ska tillämpas på alla.

På samma sätt kan algoritmerna vara snedvridna av snäva världsåskådningar eller kommersiella agendor, som oproportionerligt prioriterar vissa handlingar. När Microsoft 2016 lanserade Tay, Länk till annan webbplats. en chatrobot med AI som designats för att utveckla konversationskunskap genom att interagera med människor på Twitter, slutade det med att roboten måste stängas av efter ett dygn. Den artificiella ”konversationseleven” hade börjat sprida oanständiga och rasistiska tweets.

När det gäller annonsering kan företagen använda våra digitala avtryck för att kunna bombardera oss med riktad reklam.

Tänk på detta när du möter AI

Unesco föreslår att vi tänker på följande utmaningar med AI:

• Unga kvinnors röster i AI-röstassistenter kan upprätthålla stereotyper om kvinnor i traditionella roller.
• AI-driven prioritering kan gynna känslomässigt innehåll framför sakligt genom algoritmer som likställer "engagemang" med "upprördhet".
• Användningen av AI kan styra dina inköpsbeslut utan att du märker eller förstår det själv.