Barn larmar om AI – Sverige jagar ett digitalt skyddsnät

När tekniken går snabbare än tryggheten

Hur bygger vi ett digitalt samhälle där barn kan vara nyfikna, kreativa och sociala utan att riskera att utnyttjas av förövare som använder artificiell intelligens? Den frågan skär rakt igenom World Childhood Foundations nya rapport, framtagen tillsammans med ChildX, där barn och unga själva beskriver klyftan mellan deras digitala verklighet och vuxenvärldens förmåga att skydda dem.

AI används redan för att skapa sexuellt kränkande bilder av barn, automatisera grooming, förstärka manipulation och sprida övergreppsmaterial i en skala som tidigare inte varit möjlig. Samma teknik kan samtidigt bli ett avgörande skydd – om lagstiftning, myndigheter och plattformar utvecklas snabbt nog och om resurser avsätts för att använda tekniken ansvarsfullt.

Rapportens kärna: ett växande ansvarsglapp

I rapporten från World Childhood Foundation och ChildX beskrivs hur ansvarsglappet växer: tekniken rusar, men skyddet släpar efter. Barnen i fokusgrupperna sammanfattar det: “Det är coolt med tekniken, men man märker att människorna som styr den inte hinner med.”

Det här ansvarsglappet märks inom tre centrala områden:

Lagstiftningen är inte anpassad till AI-genererat och manipulerat material.
Polis och sociala system saknar långsiktiga investeringar i avancerade AI-verktyg.
Digitala plattformar tillåts fortfarande prioritera tillväxt framför barns säkerhet.

Rapporten knyter detta till ett konkret ansvar: Sverige säger sig vilja bli ledande inom AI. Då kan inte barns rätt till skydd behandlas som en sidofråga, utan måste vara inbyggd i visioner, strategier och teknisk utveckling från start.

Hur AI används för att skada barn

Manipulerade nakenbilder och deepfakes

En av de mest skrämmande utvecklingarna är hur lätt det har blivit att skapa sexuellt kränkande bilder utan att något direkt övergrepp behöver filmas eller fotograferas i stunden. Med dagens AI-verktyg kan förövare:

Ta en vanlig profilbild från sociala medier och generera manipulerade nakenbilder av barnet.
Skapa deepfakes där barnets ansikte läggs in i befintligt övergreppsmaterial.
Kombinera flera bilder för att framställa helt nya, realistiska men fiktiva övergreppsscenarier.

För barnet spelar det ofta ingen roll om bilden är “verklig” eller AI-genererad. Skadan är social, psykologisk och ibland livslång: skam, hot, ryktesspridning, risk för utpressning och en känsla av att ha förlorat kontrollen över sin egen kropp och identitet.

Automatiserad grooming och skräddarsydd manipulation

Rapporten beskriver hur AI även används för att effektivisera grooming:

Chatbotar som kan efterlikna barns språk och intressen.
System som analyserar barns beteende och väljer optimerade kontaktstrategier.
Genererade falska identiteter som under lång tid kan upprätthålla trovärdiga relationer.

När manipulationen automatiseras kan en ensam förövare initiera hundratals kontakter parallellt, testa olika tillvägagångssätt och snabbt identifiera vilka barn som verkar mest sårbara eller lättast att få kontroll över.

Normalisering av kränkande bilder i ungas vardag

Barn och unga i rapportens fokusgrupper beskriver en vardag där sexuellt kränkande, manipulerade eller stulna bilder blivit något man nästan räknar med att möta. Ett citat sammanfattar utvecklingen: “Människor blir inte ens chockade längre över det. De har blivit vana med det.”

Det leder till flera farliga mekanismer:

Avtrubbning: barn och unga upplever att “det bara är så internet funkar”.
Skuldvändning: den utsatta känner skuld för att bilderna finns, istället för att skulden läggs på förövaren.
Tystnad: rädslan för att inte bli trodd eller tas på allvar gör att många inte vågar berätta.

Hur AI kan bli en del av skyddet istället

World Childhood Foundation och ChildX betonar att samma teknik som idag utnyttjas av förövare också är avgörande i kampen mot övergrepp. För att använda AI på barns sida lyfter rapporten flera konkreta möjligheter.

Upptäckt av känt övergreppsmaterial

AI-verktyg används redan av vissa plattformar och brottsbekämpande myndigheter för att:

Jämföra bildernas “digitala fingeravtryck” mot databaser med känt övergreppsmaterial.
Identifiera var samma bilder laddas upp igen på andra plattformar eller i andra länder.
Flagga misstänkt material automatiskt, så att mänskliga granskare kan prioritera snabb insats.

När dessa verktyg får långsiktigt stöd kan de kraftigt korta tiden mellan att material skapas eller laddas upp och att det stoppas, samtidigt som utsatta barn kan identifieras och få hjälp tidigare.

Identifiering av riskbeteenden och groomingmönster

Genom att analysera stora mängder chattloggar och beteendedata kan AI:

Identifiera fraser, kontaktmönster och språkbruk som är typiska för grooming.
Se hur förövare testar gränser, flyttar konversationer till mer privata kanaler eller försöker få barnet att dela bilder.
Flagga konton där många unga kontaktas på kort tid eller där samma typ av övertygande taktik används om och om igen.

Med rätt juridiska ramar, integritetsskydd och transparens kan sådana system bidra till att upptäcka grooming tidigt och göra det svårare för förövare att verka ostört.

Minskad psykisk belastning för yrkesverksamma

En av rapportens viktigaste poänger är att AI inte ska ersätta människor, men däremot skydda dem som varje dag arbetar med det mest utsatta materialet. Genom att låta algoritmer filtrera bort uppenbart irrelevant material och försortera allt som behöver mänsklig bedömning kan:

Poliser och analytiker exponeras för mindre mängd extremt traumatiserande innehåll.
Utredningar snabbas upp, så att barn som riskerar pågående övergrepp kan hittas fortare.
Resurser användas mer träffsäkert, med mer tid till samtal, stöd och kontakt med barn.

Vad rapporten rekommenderar – tre huvudspår

1. Modern, teknikneutral och barncentrerad lagstiftning

Ett genomgående budskap är att lagarna måste spegla verkligheten barn lever i, inte den teknik som fanns för tio år sedan. Rapporten pekar på flera nödvändiga förändringar:

Inkludera AI-genererade och manipulerade bilder i samma skydd som “traditionellt” övergreppsmaterial. För barnet är skadan reell oavsett produktionssätt.
Förbjuda särskilt skadliga funktioner i publika AI-verktyg – till exempel funktioner som uppenbart möjliggör sexuellt kränkande manipulation av barns bilder.
Förtydliga plattformarnas ansvar att agera snabbt på anmälningar och myndighetsorder, även när material är AI-genererat.

Justitieminister Gunnar Strömmer lyfter i samband med rapporten att Sverige kan inspireras av arbetet mot gängens rekryteringsmaterial. Ambitionen: polisen ska kunna beordra att material tas ner inom en timme, med kännbara sanktioner om det inte sker.

2. Långsiktiga investeringar i AI-verktyg för polis och stödinsatser

World Childhood Foundation och ChildX pekar på behovet av att gå bortom kortsiktiga projekt och pilotstudier. För att AI ska göra verklig skillnad krävs:

Nationell strategi som knyter ihop teknik, barnrättsperspektiv och brottsbekämpning.
Stabila resurser till polismyndighet, socialtjänst och specialiserade enheter som arbetar mot sexuella övergrepp.
Forskning och utveckling i samarbete med universitet, civilsamhälle och techföretag.

Sådana investeringar är inte bara tekniska. De handlar också om att bygga kompetens: att se till att utredare, socialarbetare, skolpersonal och andra som möter barn förstår både riskerna och möjligheterna med AI, så att de kan ställa rätt frågor och ge rätt stöd.

3. Hårdare och tydligare krav på digitala plattformar

Plattformar där barn rör sig – sociala medier, spel, chattappar och kreativa verktyg – har idag ett enormt inflytande över barns vardag. Rapporten menar att Sverige, tillsammans med andra länder, behöver ställa tydligare krav på:

Förebyggande design: funktioner som minskar risken för grooming, bildspridning och hot (till exempel begränsningar i möjligheten för vuxna att kontakta minderåriga).
Mänsklig moderering som komplement till automatiska filter, med utbildade team som kan tolka kontext och ge snabb hjälp.
Transparens om hur rapporteringssystem fungerar, hur många fall som upptäcks och vilka åtgärder som vidtas.
Åldersverifiering som faktiskt gör skillnad, utan att skapa nya integritetsrisker.

Jämställdhetsminister Nina Larsson beskriver rapporten som “ammunition” i det fortsatta arbetet mot övergreppsmaterial, grooming och sexuell exploatering av barn – ett politiskt erkännande av att frågan kräver systemförändring, inte enstaka insatser.

Vad barn och unga själva efterfrågar

En av rapportens styrkor är att den utgår från barns egna erfarenheter och förslag, inte bara experters analyser. När de tillfrågas om vad som skulle göra dem tryggare online återkommer flera tydliga önskemål.

Bättre åldersverifiering och tryggare plattformar

Barnen efterlyser:

Ålderskontroller som gör det svårare för vuxna att låtsas vara jämnåriga.
Klara regler mot sexuella trakasserier och spridning av bilder, presenterade på ett språk barn förstår.
Synlig närvaro av moderatorer, så att det känns som att någon vuxen faktiskt finns där och ser vad som händer.

De vill inte lämna plattformarna – de vill att plattformarna slutar lämna dem ensamma.

Trygga stödvägar när något har hänt

När skadan väl är ett faktum beskriver många barn en känsla av att stå utan väg ut. Rapporten visar att barn och unga efterfrågar:

Lättillgängliga rapporteringsknappar direkt där de befinner sig – i appar, spel och chattar.
Tydlig information om vad som händer när man anmäler, vem som ser anmälan och hur snabbt man kan få svar.
Digitala stödlinjer och chattar bemannade av personer som är vana att prata med barn om sexualitet, skam och övergrepp.

När de vet att hjälp finns, och att de kommer tas på allvar, ökar chansen att de vågar berätta tidigt – innan hot, utpressning och spridning hinner eskalera.

Vuxna som förstår, inte moraliserar

Fokusgrupperna ger en tydlig signal: barn ber inte vuxenvärlden att stoppa tekniken, utan att ta ansvar för hur den används. De vill möta vuxna som:

Kan prata om sociala medier, AI och nätkultur utan att förminska eller skuldbelägga.
Orkar lyssna när något jobbigt hänt, även om det handlar om sex, nakenhet eller misstag.
Har grundläggande kunskap om hur grooming fungerar, så att de kan hjälpa till att se mönster och bryta kontakten med förövare.

Som Ida Östensson, generalsekreterare för ChildX, formulerar det: barnen ser riskerna men också lösningarna. Skillnaden mellan att lämna barn ensamma och att faktiskt skydda dem ligger i hur vuxenvärlden väljer att agera nu.

Sverige, AI och barns rättigheter

Sverige har en uttalad ambition att bli världsledande inom artificiell intelligens. För att den ambitionen ska vara trovärdig krävs att barns rättigheter inte ses som ett sidospår utan som en integrerad del av AI-politiken.

Från teknikfokus till barnrättsperspektiv

World Childhood Foundation och ChildX beskriver flera konkreta steg som kan föra Sverige i den riktningen:

Barnkonventionen som kompass: varje större AI-satsning bör analyseras utifrån hur den påverkar barns rätt till skydd, delaktighet och privatliv.
Obligatoriska riskbedömningar för produkter och tjänster där barn är en tydlig målgrupp, med särskilt fokus på risker för sexuell exploatering.
Samarbeten över gränser – myndigheter, företag, forskare och civilsamhälle måste arbeta tillsammans snarare än i stuprör.

När barns rätt till skydd byggs in redan i design- och utvecklingsfasen minskar behovet av panikartade åtgärder i efterhand. Det innebär bland annat att tekniska innovationer, juridiska reformer och pedagogiska satsningar planeras parallellt.

Kunskapshöjning hos alla som möter barn

Rapporten understryker att kampen mot sexuella övergrepp och exploatering inte kan lämnas enbart till polis och specialiserade enheter. Lärare, skolkuratorer, fritidsledare, vårdpersonal och andra vuxna som möter barn behöver:

Fortbildning om hur AI påverkar barns riskmiljö online.
Verktyg för att ta svåra samtal om nätsex, bildspridning och gränser.
Tydliga rutiner för hur misstänkta fall ska hanteras, dokumenteras och anmälas.

När fler vuxna har grundläggande kompetens minskar trycket på enskilda specialister, och barnen slipper mötas av oförståelse när de vågar berätta.

Hur civilsamhälle och näringsliv kan bidra

World Childhood Foundation påminner om att kampen mot sexuella övergrepp mot barn alltid har byggt på partnerskap: eldsjälar, ideella organisationer, företag, stiftelser och offentliga aktörer. I en tid när AI förändrar spelplanen krävs nya typer av samarbeten.

Innovationsprojekt med tydligt barnskydd

Företag inom teknik, spel och sociala medier kan, i samarbete med organisationer som Childhood och ChildX, utveckla:

AI-baserade säkerhetslösningar som redan från start tar sikte på att upptäcka grooming, hot och bildspridning.
Nya utbildningsformat – interaktiva spel, chattbotar och appar som lär barn om integritet och gränser.
Stödverktyg för föräldrar som vill förstå sina barns digitala liv utan att övervaka eller kränka deras förtroende.

För finansiärer och företag som vill ta ett socialt ansvar ger rapporten en tydlig karta över var behoven är störst och var investeringar kan göra verklig skillnad.

Kunskapsdelning och öppna standarder

I rapporten betonas också vikten av att inte låsa in lösningar bakom kommersiella murar när det gäller så centrala skyddsfunktioner som upptäckt av övergreppsmaterial. Genom att utveckla gemensamma standarder, öppna API:er och samarbeten mellan plattformar kan:

Samma typ av skadligt innehåll stoppas effektivt, oavsett var det laddas upp.
Små och medelstora plattformar ta del av avancerade säkerhetslösningar de själva inte har resurser att bygga.
Brottsbekämpande myndigheter få bättre överblick över hur material rör sig mellan tjänster.

Vägen framåt – konkreta steg och ansvarsfördelning

För att minska ansvarsglappet mellan teknikens utveckling och barns skydd krävs samlad kraft. Rapporten fungerar både som varningsklocka och verktygslåda. Några centrala riktningar kan lyftas fram.

För politiken och myndigheterna

Se till att lagstiftningen tydligt omfattar AI-genererade och manipulerade sexuellt kränkande bilder av barn.
Införa möjligheter för polis att snabbt beordra nedtagning av skadligt material, med tydliga tidsramar och sanktioner.
Prioritera långsiktiga budgetar för AI-verktyg, utbildning och internationellt samarbete.

För teknikutvecklare och plattformsägare

Bygga in barns rätt till skydd och integritet i produktdesignen, snarare än att lägga till säkerhetsfunktioner i efterhand.
Investera i både automatiserade system och mänsklig moderering som förstår barns verklighet.
Öka transparensen gentemot användare, forskare och civilsamhälle kring hur skyddssystem fungerar.

För skolor, vård och lokalsamhälle

Skapa utrymme i undervisning och elevhälsa för samtal om nätet, AI, samtycke och integritet.
Ta fram lokala handlingsplaner för hur man agerar när ett barn utsatts för digitalt spridna övergrepp.
Samarbeta med organisationer som Childhood och ChildX för att ta del av aktuell kunskap och metodstöd.

För föräldrar och andra närstående vuxna

Våga ställa öppna frågor om barns digitala liv utan att direkt värdera eller skuldbelägga.
Göra det tydligt att barn alltid kan berätta om något känns fel, även om de tror att de “gjort fel” själva.
Söka information från trovärdiga källor om hur AI påverkar barns nätmiljö, så att de kan agera snabbt om något händer.

Var finns mer information och fördjupning?

För den som vill fördjupa sig i rapportens slutsatser, metoder och konkreta fallbeskrivningar finns hela materialet att ta del av via World Childhood Foundations webbplats. Där finns också exempel på hur organisationen arbetar globalt mot sexuella övergrepp mot barn, i samarbete med gräsrotsorganisationer, företag och offentliga aktörer.

På liknande sätt samlar lobibsweden.com nyheter, analyser och pressmaterial som hjälper yrkesverksamma, beslutsfattare och engagerade medborgare att följa utvecklingen inom områden som rör barns rättigheter, digital säkerhet och samhällspåverkan. Genom att använda resurser som lobibsweden.com tillsammans med rapporter från World Childhood Foundation och ChildX ökar möjligheten att fatta informerade beslut om hur AI ska formas för att skydda – inte skada – barn.

World Childhood Foundation utgår från FN:s barnkonvention och de globala målen 5, 16 och 17. I partnerskap med eldsjälar, civilsamhälle, företag och stiftelser driver organisationen innovationer, metoder och samarbeten som stärker barns skydd i en snabbt föränderlig digital verklighet. Rapporten “Det är coolt med tekniken, men man märker att människorna som styr den inte hinner med” är ett tydligt upprop: nu krävs handling, mod och samordning för att se till att tekniken inte springer ifrån barns rättigheter.