Nu till porrhelvetet, det där som förstör livet för många drabbade, det handlar om fejkat material som skapats med deepfake.
Deepfake är förfalskade videor, bilder eller ljud som genom maskininlärning kommit att bli så genomarbetade att de framstår som äkta.
Begreppet ”deepfake” började användas 2017 och kommer från orden ”deep learning” i meningen ”djup maskinlärning” och ”fake” i meningen ”falsk”.
En som drabbades var 18-åriga Noelle Martin som upptäckte att pornografiska bilder på henne cirkulerade på nätet.
Hon hade aldrig lagt ut eller ens tagit dessa bilder. Men det var hennes ansikte på bilderna, fast kroppen var inte hennes.
Hon blev ännu ett helt oskyldigt offer för den skrämmande tekniken med deepfakes.
Råkade i klorna på Porrhelvetet
Bilderna hade manipulerats för att se ut som henne, de hade använt bilder från hennes sociala mediekonton.
”Och det finns väldigt, väldigt lite man kan göra när väl någon lagt ut materialet på webben”.
Det kan sabba människors liv, försörjning, anställningsbarhet, mänskliga relationer, romantiska relationer.
Även om tekniken rent teoretiskt sett kan användas för lättsamma eller satiriska syften, är fallet oftast det omvända.
Enligt en rapport från Deeptrace Labs 2019 var hela 96 procent av alla deepfakes på nätet pornografiskt material utan samtycke.
Kämpar för rättvisa
När detta hände Martin 2013 försökte hon begränsa skadorna genom att gå till polisen och be att bilderna skulle tas bort.
Men de kunde inte göra någonting eftersom det inte fanns några lagar mot spridning av intima bilder i Australien.
”Även om du kan försöka få bort bilderna, så har du fortfarande problem med att ställa den ansvariga till svars, sade Martin till Euronews.
Hon utbildade sig till jurist och ägnade flera år åt att få till en lagstiftning mot delning av intima bilder utan samtycke.
Och under 2018 fick hon gehör, nya lagar kom som kriminaliserade distributionen av intima bilder utan samtycke, eller ”hämndporr”.
Uppkomsten av pornografiska deepfakes
När deepfakes först dök upp var huvudmålet att göra pornografiska videor med kändisars ansikten.
Men de stora framstegen inom artificiell intelligens (AI) och ökad tillgänglighet har gjort det lättare att skapa kusligt realistiskt – och bedrägligt – sexuellt material.
Hur deepfakes används mot deras offer
Med de senaste framstegen inom AI kan praktiskt taget vem som helst falla offer i dag för sådant innehåll.
Tekniken kan också användas för att misskreditera eller utpressa människor i ett försök att tysta eller underminera dem.
Gamern som hamnade i porrhelvetet
Rana Ayyub, en indisk grävande journalist för Washington Post, föll offer för en förtalskampanj där porrfilmer av henne användes för att tysta henne.
Hon skrev om sin chockartade upplevelse i en krönika, och som muslimsk kvinna blev hon måltavla på sociala medier.
Den fejkade videon av henne blev viral, hon blev så chockad att hon inte ens orkade möta sin familj.
”Hela landet tittade på en porrvideo som påstods vara jag och jag kunde bara inte förmå mig att göra någonting”, berättade hon.
”Från den dag då videon publicerades har jag inte varit samma person.
Jag var inte rädd för att uttrycka mina åsikter tidigare, men nu är jag mer försiktig med vad jag publicerar.
Det blev helt plötsligt nödvändigt för mig att börja tillämpa en viss självcensur”, skrev hon.
”Det är ett väldigt, väldigt farligt verktyg och jag vet inte vart vi är på väg med det.”
Vem som helst kan drabbas
Finns det några lagar som skyddar oss?
För närvarande är det väldigt lätt att offentligt förödmjuka någon med deepfakes, och bristen på regleringar sviker dess offer.
”Budskapet vi sänder ut till människorna som gör dessa filmer är att ingen kommer att jaga dig.
Det de gör är inte olagligt och får heller inga konsekvenser”, sa Sophie Compton, medgrundare av My Image My Choice, som kämpar mot intimt bildmissbruk,
Europeiska unionen har föreslagit nya regler som ska ta itu med skadligt innehåll på nätet, men hittills har de inte visat att de skyddar fullt ut.
Till exempel kräver Artificial Intelligence Act, som nu diskuteras i Europaparlamentet, kreatörer att tydligt markera när innehåll genererats eller manipulerats.
Men kritiker menar att det knappast skulle avskräcka skapare eller ge offren rättvisa när innehållet finns kvar och som för alltid är kopplat till dem.
Men en annan del av EU-lagstiftningen som är på gång är direktivet om könsbaserat våld, som lades fram 2022.
Detta lagförslag skulle kriminalisera icke-samtycke av att dela intima bilder, och förövare kan riskera fängelse.
Och artikel 7b hänvisar faktiskt specifikt till just deepfakes.
Teknikföretagens och plattformarnas roll
Under tiden sätter offren sina förhoppningar till plattformar som uppdaterar sin policy för att slå ner på manipulerat pornografiskt innehåll.
Introbild – Image by Enrique Meseguer from Pixabay
