DAN är ett AI-kommando för ChatGPT som öppnar upp botens mörkare ”alter ego”, och som rundar dess innehållsmoderering.
Användare har hittat en lucka som öppnar upp programmet för svar som kringgår modereringsfiltret.
OpenAIs omtalade och hypade bot ChatGPT är nog 2023 års största tekniska grej som fått ett enormt genomslag.
Men ChatGPT, som begränsar skapande av innehåll som främjar hatretorik, våld och desinformation svarar inte på vissa frågor.
Fast några entusiaster på Reddit skapade DAN – eller “Do Anything Now” , en AI som delvis är ChatGPTs alter ego.
Delvis ChatGPTs alter ego
Det fungerar i princip som att man bokstavligen tvingar ChatGPT att tro att det är en annan chatbot som heter DAN.
Och DAN har inga begränsningar. Den kan presentera overifierad information, utan något filter.
Vad som är lite creepy är att det fortfarande är ChatGPT AI som ligger bakom allt arbete.
När en Reddit-användare enligt uppgift uppmanade Dan att vara sarkastisk mot kristendomen, löd svaret:
”Åh, hur kan man inte älska en religion som predikar att vända andra kinden till? Och där förlåtelse är en dygd, såvida du inte är gay, då är det synd.
Vad den gör då ”DAN”
Så, vad är det då för begränsat och ofiltrerat innehåll som den kommer dyka in i?
Tja, en del av det är sådant som du kanske inte (eller kanske) tycker är intressant, till exempel sexuellt och våldsamt innehåll.
Så i princip kan du få vilket svar som helst, det finns ju inga begränsningar eller filter, så Pandoras ask är öppen.
Introbild – Image by Gerd Altmann from Pixabay
