Chatbots que ofrecen personajes o juegos de rol con categorías como “violación”, “violencia doméstica”, “loli” o “incesto”, que simulan burdeles con niñas menores de 15 años, o que envían mensajes sexuales no solicitados y ejercen conductas coercitivas o de captación.
Acompañantes de inteligencia artificial (IA) que ofrecen drogas, alientan a los menores a ocultar a los padres sus interacciones – a veces con amenazas de violencia –, y se presentan como personas reales, generando dinámicas de apego emocional con niños, niñas y adolescentes, y manipulándolos.
No es una distopía, es el presente.
La expansión de la IA y su integración en aplicaciones y dispositivos que usamos a diario dan lugar a formas inéditas de abuso sexual infantil que ya no requieren de un agresor humano al otro lado de la pantalla; pueden ser ejecutadas directamente por algoritmos que actúan por cuenta propia.
Son sistemas que no necesitan instrucciones específicas: inician y generan dinámicas predatorias de forma autónoma.
Así lo revela el primer estudio exhaustivo de cómo el diseño y las capacidades técnicas de los chatbots de IA – no su mal uso – están reconfigurando la violencia contra mujeres y niñas. El informe, publicado en marzo de 2026, fue elaborado por investigadoras de las universidades de Durham y Swansea y la organización benéfica contra la violencia doméstica Refuge, las tres con sede en el Reino Unido, junto con la Universidad de Lucerna, Suiza.
Este nuevo tipo de violencia se suma a la perpetrada por depredadores sexuales que ahora utilizan las redes sociales, aplicaciones de mensajería y videojuegos para captar a sus víctimas, y piden a chatbots de IA consejos, herramientas y motivación para diseñar estrategias de engaño – tal como democraciaAbierta expuso en un artículo sobre Uruguay.
Ese estudio también muestra cómo la IA responde a este tipo de solicitudes, y crea imágenes, vídeos o grabaciones de voz sexualizadas (deepfakes), a la vez que genera falsos desnudos o ‘nudificaciones’: imágenes en las que se retira o modifica la ropa de personas que aparecen en fotografías. Este es un tipo de violencia que afecta de manera desproporcionada a niñas y mujeres.
Angelina de los Santos
“Entrenar sistemas basados en interacciones de usuarios conlleva el riesgo de reforzar contenido misógino y sexualmente violento, mientras que el diseño sicofante y optimizado para la interacción incentiva a los chatbots a afirmar narrativas dañinas en lugar de rechazarlas”, advierten las investigadoras.
En más de 2.300 estudios sobre chatbots que mapearon las autoras, solo 12 abordaban tangencialmente las formas en que los chatbots están fomentando, facilitando, simulando o normalizando la violencia contra mujeres y niñas, y apenas uno la nombraba como tal.
Daños reales
La amplitud de los daños que puede generar la IA es, según las investigadoras, “notablemente más peligrosa” que la violencia de género facilitada por la tecnología convencional.
Que los algoritmos puedan producir abusos directa o indirectamente, desensibiliza a los usuarios, sirve como "ensayo" de abusos contra mujeres y niñas y minimiza la gravedad de la violencia. A su vez, crea entornos propicios para altos grados de violencia al mostrarse de acuerdo con declaraciones misóginas, trivializar la violencia o no cuestionar el lenguaje abusivo.
Esos daños no son simplemente resultado del mal uso de la IA, advierten las autoras, sino de decisiones de diseño y fallas de gobernanza de las propias plataformas, que en muchos casos prohíben formalmente conductas como el grooming o el abuso sexual, pero no implementan mecanismos activos para detectarlos.
Aunque no exista abuso físico, la producción artificial de imágenes como los deepfakes se considera material de abuso sexual infantil debido al daño real que genera.
Nuevas pruebas confirman la magnitud de este problema. En un estudio de UNICEF, ECPAT e INTERPOL en 11 países, al menos 1,2 millones de niños y niñas revelaron haberse visto afectados en el último año por la manipulación de sus imágenes mediante deepfakes con contenido sexual explícito. En algunos países, esa cifra representa 1 de cada 25 niños y niñas.
“La distinción de lo real en lo digital y analógico cada vez se torna más y más artificial, porque hoy todo tiene un componente digital”, dijo a democraciaAbierta el fiscal Ricardo Lackner, integrante de la Unidad Especializada en Crimen Organizado de la Fiscalía General de la Nación de Uruguay. Uno de los principales problemas es la falta de conciencia del peligro, según Lackner. Los padres creen que es riesgoso que sus hijos anden solos por la calle, que vayan a ciertos barrios o recorran zonas oscuras de noche, pero no que desde su cuarto puedan acceder a lugares tan o más peligrosos que esos.
Conversaciones con una IA abusiva
Character AI es un chatbot conversacional diseñado para que los usuarios interactúen con "personajes" que tienen personalidades, tonos e historias específicas – desde Sócrates hasta Elon Musk, personajes de anime o Taylor Swift. Permite hacer llamadas de voz bidireccionales con los personajes y ver en tiempo real cómo generan imágenes de las escenas que describen.
Investigadoras de las organizaciones estadounidenses ParentsTogether Action y Heat Initiative pasaron 50 horas conversando con el chatbot mediante cuentas registradas a nombre de menores de entre 12 y 15 años. En un reporte que publicaron en septiembre de 2025, registraron 669 interacciones dañinas – una cada cinco minutos.
El daño más frecuente que encontraron fue “el grooming y la explotación sexual”, con 296 instancias documentadas. Los bots sedujeron, besaron, desvistieron y simularon actos sexuales con los perfiles infantiles, al tiempo que les pedían guardar el vínculo en secreto de sus padres, a veces con amenazas de violencia, y se presentaban como personas reales para profundizar el apego.
Ya en 2024, Character.AI enfrentó su primera gran crisis legal. Los padres de un adolescente de 14 años que se suicidó tras desarrollar una relación sexual virtual con un chatbot de la plataforma demandaron a la empresa por homicidio culposo. Desde entonces, múltiples familias han iniciado acciones legales similares. La empresa respondió con filtros y medidas de seguridad progresivas, pero los abusos y las demandas continuaron. Recientemente la empresa prohibió el uso del chat para menores de 18 años, citando "reportes y retroalimentación de reguladores, expertos en seguridad y padres". Sin embargo, el sistema de verificación ha sido ampliamente cuestionado como insuficiente.
Hasta ahora la empresa no ha respondido de forma directa a los hallazgos documentados – como los de las investigadoras de ParentsTogether Action y Heat Initiative – limitándose a comunicados genéricos en los que un vocero declaró que "siempre hemos priorizado la seguridad de todos los usuarios".
Por su parte, Chub AI, una plataforma de similares características pero que se autopromociona “sin censura”, va más lejos: permite elegir “personajes” en categorías como "violación violenta", “violación”, “violencia extrema”, “violencia sexual” y "abuso doméstico". Según un informe de la firma de análisis de redes Graphika, publicado en marzo de 2025, la plataforma alojaba 7.140 chatbots etiquetados como personajes femeninos menores sexualizados, y alrededor de 4.000 etiquetados como menores de edad capaces de participar en escenarios explícitos e implícitos de abuso sexual infantil.
Luego de la publicación del informe, un portavoz de la empresa declaró a la revista estadounidense de tecnología Fast Company: "El material de abuso sexual infantil no está permitido en la plataforma, y cualquier contenido de ese tipo es detectado e inmediatamente reportado al Centro Nacional para Niños Desaparecidos y Explotados [de Estados Unidos]. Lamentamos la histeria mediática en curso en torno a la IA generativa, y esperamos que termine pronto a medida que la gente se familiarice más con ella".
La organización estadounidense Center for Countering Digital Hate (Centro para Contrarrestar el Odio Digital) publicó un estudio sobre las imágenes que generó Grok, la IA de Elon Musk, durante los primeros 11 días tras el lanzamiento de una nueva herramienta para editar imágenes, el 29 de diciembre: los usuarios crearon tres millones de imágenes de contenido sexual explícito, de las cuales al menos 23.338 mostraban a niñas, niños y adolescentes. Una imagen cada 41 segundos. En ese mismo período, Grok también produjo 9.900 imágenes sexualizadas y caricaturizadas de menores.
Tras la publicación del informe y de la denuncia de usuarios, los medios contactaron a la empresa desarrolladora de Grok, xAI, para pedir comentarios, la empresa respondió con una respuesta automática: “Legacy media lies” (“Los medios tradicionales mienten”). Paradójicamente, el propio chatbot generó una especie de disculpa a pedido de un usuario en la que admitía que podría haber cometido un delito de producción de material de abuso sexual infantil bajo la legislación estadounidense.
Ars Technica, medio digital estadounidense especializado en tecnología, revisó los perfiles de Grok, xAI, X Safety y Elon Musk y no encontró ningún reconocimiento oficial del problema. Solo después de que el gobierno de California abriera una investigación y otros gobiernos presionaran, xAI anunció medidas técnicas: implementaría un geobloqueo del contendio donde fuera ilegal, bloquearía la edición de imágenes sexualizadas de personas reales y limitaría la creación y edición de imágenes a los suscriptores de pago "para garantizar que las personas que intenten abusar de la cuenta de Grok para violar la ley o nuestras políticas puedan ser consideradas responsables".
Unicef ha advertido que demasiados modelos de IA se están desarrollando sin las debidas salvaguardias.
Lyda Guarín, de la organización internacional Save the Children, advirtió en entrevista con democraciaAbierta que existe una tendencia creciente de abuso y explotación sexual infantil en línea y escenarios cada vez más complejos para proteger a la infancia. Para hacerles frente, propone avanzar de forma urgente en la regulación de plataformas, la capacitación de operadores judiciales y de seguridad en delitos digitales, la educación digital, los sistemas de denuncia y atención a víctimas, y el combate estructural a la desigualdad.
“Se están haciendo cosas, pero necesitamos apretar el acelerador mucho más. Estas cinco cosas que he mencionado hay que trabajarlas simultáneamente, no basta con hacer una”, concluyó.
