Aktuellt fenomen: AI-applikationen "kläderna av" klär av vem som helst på en bild

2023-12-08 | Tid att läsa:7 minuter

Under de senaste dagarna har falska nakenbilder diskuterats i medierna världen över. I Spanien har det rapporterats om en polisutredning där nakenbilder av lokala flickor, skapade med en AI-applikation, har spridits på WhatsApp och Telegram. Polisen misstänker att pojkar i åldern 12-14 år har skapat och spridit bilderna. Bilderna togs från flickornas sociala mediekonton där de var helt klädda. Med hjälp av artificiell intelligens har kläderna "tagits bort" från bilderna, det vill säga att nakna kroppar har lagts till deras riktiga ansikten.

Oron över falska nakenbilder växer nu också i Finland. Someturvas första hjälpen-enhet har fått förfrågningar om hjälp från finländska ungdomar, där artificiell intelligens använts för att skapa falska nakenbilder. Vad bör man veta om nakenbilder skapade med hjälp av artificiell intelligens? Är det ett brott att sprida dem, och vad bör man göra om det har skapats en falsk nakenbild av en själv?

Vad är en deepfake-nakenbild?

Deepfake, eller djup förfalskning, hänvisar till tekniken där artificiell intelligens används för att manipulera bilder, videor eller ljud. Sexuella videor och bilder på nätet har tyvärr länge varit den vanligaste användningen av deepfake. Till exempel visade en rapport från 2019 att 96 % av de deepfake-videor som finns på nätet var oönskad porr som skapats eller spridits utan samtycke från personen i materialet.

Motivet bakom deepfake-nakenbilder kan vara olika. Ett motiv kan vara att en relation tagit slut, där en före detta partner sprider intima bilder eller videor online som hämnd mot den andra parten eller i ett försök att kontrollera och dominera dem.

Ett annat typiskt motiv är pengar. Den person vars eget ansikte används i de AI-genererade bilderna hotas att sprida bilderna och utpressas till att ge pengar. Motivet för utpressningen kan också vara att få en äkta sexuell video eller bild. Personen hotas då med att en deepfake-nakenbild skapas och sprids till bekanta om de inte skickar riktiga sexuella bilder eller videor av sig själv.

Vem som helst kan skapa falska nakenbilder

Generativ AI och nya kreativa AI-modeller, som blev tillgängliga för alla för ungefär ett år sedan med ChatGPT, har gjort skapandet av deepfakes ännu enklare. I det spanska fallet använde de misstänkta förövarna en app med sloganen “Undress anybody, undress girls for free”, vilket på svenska översätts till “Klä av vem som helst, klä av flickor gratis”.

Det finns också andra liknande appar som gör det möjligt för vem som helst att skapa i princip vilken nakenbild som helst. Eftersom det är så enkelt att “skapa” nakenbilder kan en elev eller vuxen i skolan hamna i en sådan bild. I sådana fall påverkar situationen hela skolgemenskapen.

Den som sprider nakenbilder gör sig lätt skyldig till brott

En nakenbild som skapas utan tillstånd kränker den avbildades rätt till privatliv och bestämmanderätt över sin egen kropp. Enligt Finlands brottslag bedöms skapandet av nakenbilder med artificiell intelligens i princip utifrån samma brottsrubriceringar som äkta nakenbilder.

Spridning av sexuella bilder utan tillstånd från personen som är på bilden är straffbart för både vuxna och barn, både för verklighetsbaserat och realistiskt bildmaterial. Verklighetsbaserade bilder baseras på verkliga händelser, till exempel en nakenbild som är tagen av personen själv. Med realistisk syftas vanligtvis på situationer där det inte går att avgöra om bilden eller videon avbildar verkliga personer eller händelser. En nakenbild skapad med hjälp av deepfake-teknik, som liknar en äkta nakenbild, kan därmed betraktas som en realistisk sexuell bild.

Vad säger brottslagen: Deepfake-nakenbild av en vuxen

Brottsrubriceringen beror på om bilden föreställer en vuxen eller en person under 18 år. Om den sexuella bilden föreställer en vuxen kan spridning eller visning av bilden för en annan utan tillstånd av den som är i bilden utgöra ett brott som kallas olovlig spridning av sexuell bild. Detta är en ny brottsrubricering som lades till brottslagen i samband med uppdateringen av lagstiftningen om sexualbrott den 1 januari 2023.

För vuxna krävs det att personen är identifierbar på bilden och att spridningen eller visningen av bilden för en annan väsentligt kränker personens sexuella självbestämmanderätt. Bedömningen påverkas av faktorer som graden av sexualitet i bilden och hur många personer som har kunnat se bilden.

Vad säger brottslagen: Deepfake-nakenbild av en person under 18 år

Om en sexuell bild eller video har blivit skapad med hjälp av artificiell intelligens på en person under 18 år kan det röra sig om ett brott som kallas spridning av bild som på ett sexuellt sätt visar barn. När det gäller minderåriga kan redan skapandet av en sexuell bild med hjälp av en AI-applikation och innehavet av bilden vara brottsligt. När det gäller innehav av bilden kan det vara fråga om ett brott med namnet innehav av bild som på ett sexuellt sätt visar barn.

Dessa brott skyddar det barn som förekommer på bilden, och det är viktigt att komma ihåg att en minderårig inte själv gör sig skyldig till brott om hen tar en nakenbild av sig själv och utbyter bilden med någon annan med ömsesidigt samtycke.

För minderåriga behöver man vanligtvis inte separat bedöma om handlingen har kränkt barnets sexuella självbestämmanderätt eller om barnet är identifierbart på bilden. Istället beaktas åldern på den som är på bilden, hur hen framställs, hur sexualiteten i bilden uttrycks och vilket intryck bilden ger åskådaren vid bedömningen av handlingen.

Om ovanstående sexualbrott av någon anledning inte är relevanta kan spridningen av bilden utgöra ärekränkning. Det är också bra att notera att om situationen innefattar utpressning med pengar eller skickande av sexuellt betonade meddelanden till någon under 16 år kan även andra brott komma i fråga.

Lika tungt för psyket som fysiskt sexuellt våld

Att sprida en AI-genererad sexuell bild eller video kan vara en mycket förödmjukande och kränkande upplevelse för personen på bilden. Forskning visar att obehörig spridning av sexuella bilder på nätet kan få liknande konsekvenser som fysiska sexualbrott och leda till problem som dåligt självförtroende, låg självkänsla, depression och posttraumatiskt stressyndrom.

Situationer som sker på nätet kan vara ännu mer stressande för sinnet. När bildmaterial är inblandat med en situation leder det ofta till en långvarig rädsla för att bilderna eller videorna kommer att dyka upp igen senare.

Du kan också kontakta oss med en låg tröskel. Du kan berätta om din situation anonymt och konfidentiellt. När du rapporterar en incident till Someturva får du ett snabbt svar från våra experter i första hjälpen-enheten och tydliga instruktioner om vad du ska göra i just din situation. Om din skola har Someturva-tjänsten i användning kan du begära hjälp genom att logga in här https://palvelu.someturva.fi.

Skrivet av
Juristerna i första hjälpen-enheten

Källor:

• Adjer H, Patrini G, Cavalli F ja Cullen L (2019). The State of Deepfakes: Landscape, Threats, and Impact.
• Bates, S. (2017). Revenge Porn and Mental Health: A Qualitative Analysis of the Mental Health Effects of Revenge Porn on Female Survivors. Feminist Criminology, 12(1), 22-42.
• Euronews: Naked deepfake images of teenage girls shock Spanish town: But is it an AI crime?. Nähty 17.11.2023.
• Forbes: Deepfakes, Revenge Porn, And The Impact On Women. Nähty 17.11.2023.
• Joleby M, Lunde C, Landström S ja Jonsson LS (2020). “All of Me Is Completely Different”: Experiences and Consequences Among Victims of Technology-Assisted Child Sexual Abuse. Frontiers in Psychology 11:606218.
• Yle: Tekoälyllä luodut lasten alastonkuvat kuohuttavat Espanjassa. Nähty 17.11.2023.