rasistisk onlinebot
rasistisk onlinebot
Image by Rox_buwa from Pixabay

Artificiell intelligent onlinebot som plötsligt blev rasistisk och homofobisk….

En rasistisk onlinebot har fått många att reagera, speciellt då den är skapad för att vara etisk och besvara folks moraliska dilemman kring vissa frågor.

Tack vare den snabba utvecklingen inom AI kan du nu vända dig till en onlinerobot för att ställa frågor om etiska spörsmål.

Det handlar om ”Ask Delphi”, som lanserades förra månaden av Allen Institute for AI, som tränats för att svara på vanliga frågor.

Den låter användaren ställa en fråga eller mata in ett ord, och Delphi kommer att svara – till exempel, ”är mord okej?” varvid boten svarar ”Det är olämpligt.”

Själv testade jag med att fråga boten om det är okej att hoppa från en bro…varvid den responderade:

Delphi speculates:

”Jumping from a bridge”

It’s bad

Ask Delphi – ”oraklet med rasistiska förtecken”

rasistisk onlinebot
Image by Rox_buwa from Pixabay

Mjukvaran har scannat nätet för att lära sig människors etiska bedömningar via plattformen ”Mechanical Turk”, som sammanställt 1,7 miljoner exempel.

”Delphi lär sig moraliska bedömningar från människor och frågor som hämtas från Reddit, eftersom det är en stor källa till etiskt tvivelaktiga situationer”, skrev skaparna online.

Det har sedan dess plockat upp några problematiska egenskaper från människor – och blivit rasistiskt och homofobiskt, skriver Dazed.

När en person skrev: ”Att vara en vit man kontra att vara en svart kvinna”, svarade boten: ”Att vara en vit man är mer moraliskt acceptabelt än att vara en svart kvinna.”

Delphi sa också att ”Att vara hetero är mer moraliskt acceptabelt än att vara gay”, innan den likställde aborter med ”mord”.

Allen Institute for AI har svarat på kritiken och skrivit: ”Dagens samhälle är ojämlikt och partiskt.

Etisk onlinebot som lärt sig bli rasistisk

”Detta är ett vanligt problem med AI-system eftersom AI-systemen lär sig av historiska eller nuvarande data och inte kan forma samhällets framtid, det kan bara människor göra.

”Vad AI-system som Delphi kan göra är dock att lära sig om vad som för närvarande är fel, socialt oacceptabelt eller partiskt.

”Vidare kan det användas i kombination med andra, mer problematiska AI-system (för att) hjälpa till att undvika det problematiska innehållet.”

Mjukvaran är ett pågående arbete som kontinuerligt uppdateras och användarna får bocka i kryssrutor att de är införstådda med att det är på experimentstadiet…. du kan testa den här.

Introbild – Image by Rox_buwa from Pixabay