Ta del av allt innehåll på Aktuell Hållbarhet
Starta din prenumeration

Prenumerera

Mänskliga rättigheter

Rapport: Företag utför inte due diligence på AI-teknologi

Publicerad: 20 september 2021, 10:00

Michelle Bachelet vill se en skärpning av due diligence när det gäller AI-applikationer.

Foto: Salvatore Di Nolfi / Keystone/ AP / TT

En ny rapport visar på stora problem för mänskliga rättigheter vid användning av system som bygger på artificiell intelligens. Ett problem är att företag är för snabba att köpa in sådana här system och inte utför due diligence för att utvärdera riskerna eftersom detta kan ta tid.


Ämnen i artikeln:

Globala hållbarhetsmålen

Stater borde införa moratorium på försäljning av AI-system tills det finns tillräckliga säkerhetsåtgärder på plats. AI-applikationer som inte kan användas i överensstämmelse med mänskliga rättigheter bör förbjudas. Det sade FN:s högkommissarie för mänskliga rättigheter Michelle Bachelet i förra veckan. 

Uttalandet fälldes på en hearing med anledning av kontroverserna kring spionprogrammet Pegasus, marknadsfört av NSO Group. Hearingen hölls i Europarådet, en mellanstatlig organisation i Europa som är separat från EU.

”Det är omöjligt att förneka de möjligheter AI ger att tjäna människor, men detsamma gäller de möjligheter AI ger att möjliggöra övergrepp mot mänskliga rättigheter i en enorm skala med praktiskt taget ingen insyn. Åtgärder behövs nu för att sätta skyddsräcken för mänskliga rättigheter vid användningen av AI, för allas bästa”, Michelle Bachelet enligt FN.

Enligt en rapport om AI och mänskliga rättigheter som presenterades i samband med hearingen behöver företag göra due diligence på sina AI-system, något som sällan uppges ske i dag. Som en konsekvens har ett stort antal fall redan inträffat där personer bland annat blivit felaktigt gripna eller missat välfärdsförmåner på grund av fel i AI-systemen.

”Givet den snabba och kontinuerliga tillväxten av AI, är det en av de mest akuta mänskliga rättighetsfrågorna vi står inför att överbrygga gapet mellan hur data samlas in, lagras, delas och används”, säger Michelle Bachelet.

Läs rapporten

Pernilla Strid

pernilla.strid@aktuellhallbarhet.se

Ämnen i artikeln:

Globala hållbarhetsmålen

Dela artikeln:


Håll dig uppdaterad med vårt nyhetsbrev

Genom att skicka in mina uppgifter godkänner jag Bonnier Business Media AB:s (BBM) allmänna villkor. Jag har även tagit del av BBM:s personuppgiftspolicy.