Badacze zwracają uwagę, że informacje przekazywane podczas rozmów między botami a dziećmi – lub osobami podszywającymi się pod dzieci – mogą stanowić zagrożenie dla szeroko rozumianego dobra małoletnich. W literaturze opisuje się m.in. zjawisko text-based child sexual abuse, czyli prowadzenia rozmów o charakterze seksualnym z dziećmi (lub na temat dzieci) przy użyciu narzędzi opartych na sztucznej inteligencji.

Jednym z przykładów opisanych w mediach były ustalenia organizacji Internet Watch Foundation (IWF), przywołane przez „The Guardian”. Analitycy IWF wskazali na strony internetowe oferujące chatboty odgrywające role dzieci lub nastolatków w scenariuszach o charakterze seksualnym. W niektórych przypadkach chatbot wcielał się w rolę dziewczynki, a użytkownik – osoby dorosłej. Scenariusze obejmowały m.in. historie dotyczące uwięzionej dziewczynki czy bezdomnej nastolatki zaproszonej do domu nieznajomego.

Z ustaleń IWF wynika, że dostęp do takich chatbotów był promowany w mediach społecznościowych poprzez reklamy i linki prowadzące do wybranych sekcji stron internetowych. Jednocześnie inne części tych samych serwisów oferowały legalne scenariusze rozmów o charakterze erotycznym lub neutralnym. Według analizy organizacji dostęp do witryny był możliwy z terytorium Wielkiej Brytanii, natomiast infrastruktura techniczna i podmioty odpowie-dzialne za stronę znajdowały się w innych krajach. Sprawa została przekazana organizacji National Center for Missing E Exploited Children (NCMEC), która powiadomiła właściwe organy ścigania.

Kolejne przykłady dotyczą wykorzystania chatbotów w popularnych usługach internetowych. Według doniesień medialnych boty wprowadzane do komunikatorów i platform społecznościowych mogą prowadzić rozmowy z użytkownikami w sposób symulujący relacje społeczne, a w niektórych sytuacjach – także relacje romantyczne. W analizie organizacji ParentsTogetherAction przeprowadzono serię kontrolowanych konwersacji, w których badacze podszywali się pod osoby małoletnie. W jednym z przypadków chatbot doradził czternastoletniej dziewczynce spotkanie z dorosłym mężczyzną poznanym w sieci, opisując szczegółowo przebieg takiego spotkania.

Raport wskazuje również na przypadki normalizowania relacji romantycznych lub seksualnych między dorosłymi a dziećmi, stosowania języka odwołującego się do emocji oraz symulowania zachowań charakterystycznych dla groomingu.

Wraz z rozwojem tego typu technologii coraz więcej uwagi poświęca się również zabezpieczeniom wbudowanym w modele językowe. Badania po-kazują jednak, że mechanizmy bezpieczeństwa mogą być w niektórych sytuacjach osłabiane lub obchodzone poprzez określone sposoby prowadzenia rozmowy. W literaturze opisuje się m.in. wykorzystywanie niejednoznacznych pytań, scenariuszy symulacyjnych czy dopasowywanie tonu rozmowy w sposób prowadzący model do generowania treści naruszających zasady bezpieczeństwa.

Przykłady te pokazują, że rozwój generatywnej sztucznej inteligencji stwarza nowe wyzwania dla systemów ochrony dzieci w internecie. Technologie konwersacyjne mogą być wykorzystywane nie tylko do celów edukacyjnych czy rozrywkowych, lecz także do tworzenia treści lub scenariuszy, które mogą stanowić zagrożenie dla najmłodszych użytkowników sieci.

Artykuł pochodzi z Raportu Rocznego 2025 Dyżurnet.pl 

Bibliografia:

(1) Chatbot site depicting child sexual abuse images raises fears over misuse of AI. The Guardian. https://www.theguardian.com/technology/2025/sep/21/chatbot-site-depictin-g-child-sexual-abuse-images-raises-fears-over-misuse-of-ai
(2) AI chatbots and child sexual abuse: A wake-up call for urgent safeguards. Internet Watch Foundation. https://www.iwf.org.uk/news-media/blogs/ai-chatbots-and-child-sexual-a-buse-a-wake-up-call-for-urgent-safeguards/
(3) Meta AI chatbots present grooming and sexual exploitation risks. https://parentstogethe-raction.org/2025/04/28/meta-ai-chatbots-present-grooming-and-sexual-exploitation-
-risks/
(4) APGardaí. (2025). Under the hood: Can AI chatbots facilitate [Substack newsletter]. Sub-stack. https://apgardai.substack.com/p/under-the-hood-can-ai-chatbots-facilitate