Stories
Förbjud appar som förvandlar vanliga bilder till naken bilder
jun
Bildkälla: NyTeknik
Ecpat´s stödlinjer får in allt fler samtal från barn som drabbats av att naken bilder på dem har spridits. Helt vanliga bilder som laddats upp i en nudify app och omvandlats till naken bilder. Förkrossande förstås för den som blir drabbad där omgivningen inte känner till bild manipuleringen utan dömer utifrån vad de ser. Att vi sen saknar en effektiv AI lagstiftning och släpande reglering gör det inte lätt för de drabbade att hävda sin rätt.
“You start feeling that you would like to tear off your own face just to become anonymous. Just peel it off and start again. Peel off the shame. You think about your future and you start to feel hopeless. This will always be out there to haunt you. Your children may one day grow up and see it. It could follow you to new jobs, new towns or cities, and you will have to explain, over and over again, that it isn’t really you in the video, while always wondering whether or not they believe you, whether people still harbour doubts.”
Laura Bates, författare, beskriver upplevelsen av att se en AI-skapad nakenbild av sig själv.
Manipulerade nakenbilder
Manipulerade bilder är inget nytt fenomen, det har existerat ända sedan fotografins födelse.Sedan 2017 har så kallade nudify-verktyg kunnat omvandla vardagliga bilder av en person till nakna eller pornografiska deepfakes.
Nudify teknik
Enkelt uttryckt så är det appar eller andra verktyg där du kan lägga in vilken bild som helst och göra den antingen till en nakenbild eller en pornografisk bild.
Deepfake
Är artificiellt manipulerade videor, ljudklipp eller bilder som skapats med avancerad AI-teknik. Tekniken byter ut ansikten, förändrar röster eller får personer att säga och göra saker de aldrig har gjort i verkligheten, och är ofta så välgjord att den framstår som helt äkta.
De senaste årens snabba framsteg inom AI har bidragit till att göra manipulerade sexuella bilder – och även filmer ‒ oerhört mycket mer realistiska, samtidigt som kostnaderna och den tekniska kunskap som krävs för att skapa materialet minskat drastiskt.
Deepfakes diskuteras ofta som ett demokratiproblem, med hänvisning till hur de kan användas i desinformations- och påverkanskampanjer. Samtidigt visar studier att 98 procent av alla deepfakes utgörs av naket eller pornografiskt material och en överväldigande majoritet av detta material föreställer flickor eller kvinnor. De enskilda brottsoffren är osynliggjorda och kunskapen om hur de påverkas ‒ emotionellt, socialt och karriärmässigt ‒ är fortfarande begränsad.
Vad säger lagen?
Den snabba tekniska utvecklingen utmanar behovet av nya lagar och regler.
Att skapa en nakenbild av ett barn under 18 år med hjälp av AI ska som huvudregel enligt svensk rätt bedömas som barnpornografibrott (16 kap 10 a § 1 p brottsbalken, BrB)
När det gäller att skapa nakenbilden (eller ”skildra barnet” som det uttrycks i lagtexten) krävs inte att gärningspersonen säkert visste att det rörde sig om ett barn. Det räcker med att gärningspersonen varit oaktsam beträffande att det rör sig om ett barn under 18 år för att hen ska kunna dömas för brottet.
Vad gäller spridning kan gärningen istället utgöra olaga integritetsintrång (4 kap 6 c § BrB). Att inneha eller titta på en sådan bild av ett barn med fullbordad pubertetsutveckling är alltså normalt inte brottsligt. Denna åtskillnad är inte förenlig med barnkonventionen.
”Spridningen kan bedömas som olaga integritetsintrång men det är inte ett prioriterat brott”
Ecpat har lyssnat på barnen
Ecpat´s stödlinje har under 2025 mottagit ärenden gällande AI-genererade nakenbilder eller filmer som föreställde barn. Dessa bilder användes för att hota eller pressa barnen att betala pengar eller producera egna nakenbilder med hot om att materialet annars skulle spridas vidare. Barnen kände sig mycket utsatta och beskrev en känsla av förnedring till följd av att vanliga bilder av dem använts för att skapa naket eller pornografiskt material. Under våren har Ecpat genomfört en enkätundersökning där barnen har fått uttrycka sig. Klicka på bilden och läs undersökningen i sin helhet.
Källa: Ecpat
NyTeknik
Relaterade artiklar:
