La utilización de inteligencia artificial para crear imágenes íntimas falsas de adolescentes genera preocupación en las comunidades educativas y ya dio lugar a investigaciones judiciales en Mar del Plata. Los reportes vinculados con esta tecnología crecen en Argentina y la Legislatura bonaerense acaba de sancionar la Ley Ema, una norma que busca prevenir y abordar la violencia digital en las escuelas.
Por Juan Salas
La inteligencia artificial abrió nuevas posibilidades para crear imágenes, videos y contenidos digitales, pero también facilitó una modalidad de violencia que genera una creciente preocupación en las comunidades educativas: la utilización de fotografías de adolescentes para producir imágenes falsas de desnudos y difundirlas sin su consentimiento. Una problemática que ya llegó a la Justicia de Mar del Plata y que comienza a encontrar respuestas legislativas: la provincia de Buenos Aires acaba de sancionar la Ley Ema para prevenir y abordar la violencia digital en las escuelas, mientras que en General Pueyrredon se presentó un proyecto de ordenanza para adherir a la normativa.
El fenómeno de los llamados deepfakes sexuales comenzó a instalarse como una nueva forma de violencia digital entre adolescentes: fotografías manipuladas mediante herramientas de inteligencia artificial para representar a una persona desnuda o en situaciones de contenido sexual que nunca ocurrieron. En muchos casos, las imágenes originales son obtenidas de redes sociales y utilizadas sin conocimiento ni autorización de sus protagonistas.
Mar del Plata no es ajena a esta problemática: las fiscalías del Fuero de Responsabilidad Penal Juvenil ya recibieron denuncias relacionadas con la utilización de inteligencia artificial para crear imágenes sexuales falsas.
Entre las dependencias judiciales que han intervenido en este tipo de situaciones se encuentran las fiscalías a cargo de Carlos Russo y Mariana Baqueiro. Se trata de investigaciones que involucran a menores de edad y sobre las cuales no se conocen públicamente mayores precisiones.
La problemática también llegó a la Fiscalía N.º 3, a cargo de Walter Martínez Soto, mediante un episodio que puso en funcionamiento un mecanismo de alerta internacional.
Mientras tanto, desde la Secretaría de Educación del Municipio de General Pueyrredon informaron a BACAP que no recibieron denuncias ni informes vinculados con esta temática. La respuesta corresponde al área educativa municipal y no permite establecer qué ocurre en la totalidad de los establecimientos escolares de Mar del Plata, donde conviven instituciones de gestión municipal, provincial y privada.
La aparición de estas situaciones plantea interrogantes que exceden el ámbito escolar: ¿qué delito se comete cuando una imagen sexual es completamente falsa? ¿Qué responsabilidad puede tener un adolescente que la fabrica o la distribuye? ¿Cómo puede intervenir la Justicia cuando las herramientas tecnológicas avanzan más rápido que la legislación?
Una alerta internacional que terminó en una fiscalía marplatense
Uno de los episodios que llegó a la Justicia local tuvo como protagonista a un adolescente de 14 años que realizó consultas a Claude, una plataforma de inteligencia artificial desarrollada por Anthropic, en el contexto de una situación vinculada con la creación de desnudos falsos de una compañera de colegio.
Según informaron fuentes judiciales a BACAP, el adolescente utilizó la herramienta para solicitar consejos relacionados con una conducta perjudicial hacia la estudiante.
El informe judicial describe que, ante el riesgo detectado, la plataforma activó sus mecanismos de seguridad y comunicó la situación al FBI, la agencia federal de investigaciones de Estados Unidos. Posteriormente, la información habría sido transmitida a Interpol y, desde allí, a la Policía Federal Argentina.
La intervención de las autoridades nacionales permitió que el episodio llegara a la Fiscalía N.º 3 de Mar del Plata, desde donde se ordenaron allanamientos.
La secuencia muestra una modalidad de intervención que trasciende las fronteras nacionales: una conducta detectada en una plataforma tecnológica puede derivar en una alerta internacional y terminar bajo investigación de una fiscalía argentina.
El adolescente señalado tenía 14 años y, según la información a la que accedió BACAP, resultaba inimputable conforme al régimen penal aplicable al momento del episodio.
El caso permite observar dos dimensiones de una misma tecnología. Las herramientas de inteligencia artificial pueden utilizarse para fabricar imágenes destinadas a perjudicar a otras personas, pero también pueden contar con sistemas capaces de detectar determinadas situaciones de riesgo y generar alertas.
Un fenómeno que crece en Argentina
La dimensión de esta problemática comienza a reflejarse en las estadísticas de los organismos especializados en la protección de niños, niñas y adolescentes.
El National Center for Missing & Exploited Children (NCMEC), una organización estadounidense que trabaja contra la explotación sexual infantil, recibió durante 2025 21,3 millones de reportes a nivel mundial a través de su sistema CyberTipline, que centraliza comunicaciones relacionadas con distintas modalidades de explotación sexual infantil en entornos digitales.
La cifra comprende múltiples categorías y no corresponde exclusivamente a contenidos generados mediante inteligencia artificial.
En Argentina, los reportes generales de CyberTipline llegaron a 157.783 durante 2025, mientras que en el primer semestre de 2026 se registraron otros 109.733.
Los datos fueron publicados por la periodista María del Carmen Garzón Principi en la investigación “Desnudos falsos con IA entran a las aulas. Vidas alteradas y un miedo que no termina”, difundida por el Laboratorio de Periodismo RedLab de FOPEA.
El crecimiento resulta especialmente significativo cuando se observan los reportes relacionados específicamente con imágenes y videos generados mediante inteligencia artificial: pasaron de 104 en 2024 a 682 en 2025. Es decir, se multiplicaron por 6,6 en apenas un año, con un incremento superior al 550%.
Es importante aclarar que los reportes no equivalen necesariamente a delitos comprobados, víctimas diferentes o investigaciones judiciales iniciadas. Se trata de comunicaciones recibidas por el sistema de detección y denuncia.
La investigación de Garzón Principi también aporta información sobre la Ciudad de Buenos Aires. Allí, la Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas registró 37 casos relacionados con archivos sexuales generados mediante inteligencia artificial durante 2025. Hasta septiembre de 2026 ya se habían contabilizado otros 35.
Estos datos corresponden exclusivamente a esa dependencia porteña y no pueden extrapolarse al resto del país.
A escala mundial, el NCMEC informó además que durante 2025 recibió más de 400.000 reportes relacionados de alguna manera con inteligencia artificial generativa en situaciones de explotación sexual infantil. Dentro de ese universo, más de 182.000 involucraron posesión, generación o intentos de generación de material de abuso sexual infantil mediante estas tecnologías.
La organización también advirtió sobre situaciones en las que estudiantes utilizan aplicaciones capaces de alterar fotografías para fabricar desnudos falsos de sus compañeros.
Qué dice la ley cuando las imágenes son falsas
Uno de los principales desafíos que enfrenta la Justicia es determinar cómo encuadrar penalmente estas conductas.
En Argentina, la Ley 27.736, conocida como Ley Olimpia, incorporó en 2023 la violencia digital a la Ley 26.485 de Protección Integral a las Mujeres. La normativa contempla, entre otras conductas, la obtención, reproducción y difusión no consentida de material íntimo o de desnudez, real o editado, atribuido a una mujer.
Esta legislación permite activar medidas de protección frente a situaciones de violencia digital, pero no incorporó al Código Penal una figura autónoma denominada deepfake sexual.
Eso no significa que todas las conductas relacionadas con desnudos falsos queden fuera del alcance de la Justicia penal.
Dependiendo de las características del contenido, las edades de las personas involucradas y las acciones realizadas, pueden resultar aplicables diferentes figuras del Código Penal.
Una de las normas que aparece en esta discusión es el artículo 128, que sanciona determinadas conductas vinculadas con representaciones sexuales explícitas de menores de 18 años, entre ellas la producción, publicación, divulgación y distribución de ese material.
Pero surge un interrogante: ¿qué ocurre cuando la representación fue creada artificialmente y la situación sexual nunca existió?
Un fallo de la Cámara de Apelación y Garantías en lo Penal de Zárate-Campana abordó precisamente esa discusión.
El fallo bonaerense que abrió un debate sobre la IA
La causa, identificada como “P. D. O. s/ recurso de apelación”, llegó a la Cámara después de que una jueza de Garantías resolviera elevar a juicio una investigación por publicación, distribución y tenencia de representaciones sexuales de menores de edad.
La defensa del acusado cuestionó esa decisión y sostuvo, entre otros argumentos, que no se había acreditado la existencia real de las personas que aparecían en las imágenes.
También planteó la posibilidad de que el material hubiera sido generado o alterado mediante inteligencia artificial u otras herramientas digitales.
Según esa postura, el artículo 128 debía interpretarse como una norma destinada a proteger a víctimas reales y no a sancionar representaciones ficticias.
El juez Mariano Magaz, cuyo voto fue acompañado por Humberto Bottini, rechazó ese argumento.
Para fundamentar su posición, analizó el alcance de la palabra representación utilizada por el Código Penal y su relación con los tratados internacionales de protección de la infancia.
El magistrado sostuvo que las imágenes reales y simuladas de menores en situaciones sexuales explícitas podían quedar comprendidas en el artículo 128, independientemente de que hubieran sido creadas mediante herramientas tecnológicas como la inteligencia artificial.
La Cámara confirmó la elevación a juicio y consideró que la calificación penal propuesta podía discutirse en esa instancia.
La resolución, sin embargo, no constituye una condena por producción de imágenes sexuales con inteligencia artificial. El propio fallo señala que todavía no se había determinado si el material investigado correspondía a personas reales o había sido generado o modificado digitalmente.
La importancia del antecedente reside en la interpretación jurídica: para ese tribunal, la posibilidad de que una representación sexual de menores sea ficticia no impide, por sí sola, analizar su encuadre dentro del artículo 128.
El razonamiento fue desarrollado posteriormente en un artículo publicado el 2 de junio de 2025 en el Sistema Argentino de Información Jurídica (SAIJ), titulado “Pornografía Infantil Generada por Inteligencia Artificial: Análisis Dogmático y Normativo a la luz del Caso ‘P., D. O.’”, elaborado por Mauricio Albareda y el propio Mariano Magaz.
Los autores sostienen que el avance de las tecnologías capaces de generar imágenes sexuales sintéticas exige interpretar las normas de protección de la infancia frente a nuevas formas de explotación.
También reconocen que la ausencia de una mención expresa a las imágenes simuladas o virtuales en el artículo 128 genera incertidumbres interpretativas.
A ello se suman dificultades prácticas para las investigaciones: determinar el origen de los archivos, establecer si fueron modificados, identificar a sus creadores y reconstruir su circulación por plataformas y servidores que pueden encontrarse en otros países.
El antecedente de Zárate-Campana aporta así una interpretación judicial relevante, aunque no resuelve automáticamente el encuadre de todos los casos de desnudos falsos. Cada situación requiere analizar el contenido, las conductas investigadas y las pruebas disponibles.
La Ley Ema: una respuesta provincial frente a la violencia digital
En medio de esta creciente preocupación, la Legislatura de la provincia de Buenos Aires sancionó definitivamente la Ley Ema el 20 de octubre, una iniciativa destinada a fortalecer la prevención, detección y abordaje de la violencia digital en las instituciones educativas.
La norma lleva el nombre de Ema Bondaruk, una adolescente de Longchamps que murió en agosto de 2024 después de que se difundiera material íntimo suyo sin consentimiento. Su madre, Laura Sánchez, impulsó la búsqueda de herramientas para prevenir situaciones similares y acompañar a quienes atraviesan distintas formas de violencia digital.
El proyecto, que reunió iniciativas legislativas de Mayra Mendoza y Laura Clark, recibió la aprobación definitiva de la Cámara de Diputados bonaerense luego de las modificaciones introducidas por el Senado.
El texto de unificación al que pudo acceder BACAP establece, en su primer artículo, el objetivo de garantizar a los estudiantes del sistema educativo provincial una convivencia digital segura, mediante políticas y herramientas destinadas a prevenir, detectar y abordar integralmente la violencia digital en todos los niveles y modalidades.
La propuesta también contempla la promoción del uso responsable de las tecnologías y la protección de la privacidad, la integridad personal y el desarrollo de niñas, niños y adolescentes.
En su segundo artículo, define la violencia digital de manera amplia, al comprender conductas realizadas, instigadas o agravadas mediante tecnologías de la información y la comunicación que puedan provocar daños físicos, psicológicos, económicos, patrimoniales, sexuales o morales.
Esta definición resulta particularmente relevante frente a la creación y difusión de desnudos falsos con inteligencia artificial, una práctica que puede afectar la intimidad, la dignidad y la reputación de las personas, aun cuando las imágenes no correspondan a situaciones reales.
La iniciativa legislativa también fue presentada como una herramienta para fortalecer la educación digital, la formación de las comunidades educativas y las respuestas institucionales frente a situaciones de violencia en entornos virtuales.
No obstante, el alcance preciso de esas medidas y las obligaciones concretas para las escuelas deben contrastarse con el articulado definitivo y su posterior reglamentación.
La sanción representa un avance en el reconocimiento institucional de la problemática, pero abre nuevos interrogantes: cómo se implementarán las medidas en las escuelas bonaerenses, con qué recursos contarán los equipos educativos y de qué manera se articulará la intervención escolar con las familias y la Justicia.
Mar del Plata busca adherir a la Ley Ema
La sanción de la normativa provincial también tuvo repercusiones en el ámbito político local. La concejal Vilma Baragiola, del bloque UCR + Nuevos Aires, presentó un proyecto de ordenanza para que el Municipio de General Pueyrredon adhiera a la Ley Ema, con el objetivo de fortalecer las acciones de prevención y concientización sobre la violencia digital en Mar del Plata y Batán.
La iniciativa propone que el Departamento Ejecutivo impulse campañas de difusión sobre el uso responsable de las tecnologías, la ciudadanía digital, el consentimiento, la privacidad y la protección de los datos personales. También contempla acciones específicas para abordar el ciberacoso, el grooming, la difusión de imágenes íntimas sin consentimiento y los riesgos vinculados con la manipulación de contenidos mediante inteligencia artificial.
“La violencia digital también vulnera derechos y puede tener consecuencias muy graves. Por eso, necesitamos trabajar en la prevención, brindar información y generar herramientas para que chicos y chicas puedan desenvolverse en entornos digitales seguros”, sostuvo Baragiola al fundamentar su propuesta.
El proyecto plantea la articulación entre el Municipio, las autoridades educativas provinciales, las escuelas y las organizaciones comunitarias, además de la posibilidad de celebrar convenios con clubes, centros culturales y entidades de la sociedad civil para desarrollar actividades de sensibilización.
Uno de los puntos centrales de la iniciativa es la necesidad de anticiparse a las consecuencias de la violencia digital, especialmente ante la aparición de herramientas que permiten crear o modificar imágenes íntimas sin autorización de las personas involucradas.
“No alcanza con reaccionar cuando el daño ya está hecho. Tenemos que anticiparnos, educar y generar conciencia. La prevención debe involucrar a las escuelas, las familias y a toda la comunidad”, señaló la concejal radical.
La propuesta deberá atravesar el tratamiento correspondiente en el Concejo Deliberante. Por el momento, se trata de un proyecto de adhesión y no de una ordenanza aprobada.
Su presentación incorpora una dimensión local al debate sobre los desnudos falsos creados con inteligencia artificial y plantea nuevos interrogantes sobre las herramientas de prevención disponibles en las instituciones educativas de Mar del Plata y Batán.
El rol de las escuelas y las familias
Más allá de las respuestas judiciales y legislativas, la aparición de desnudos falsos entre adolescentes plantea un desafío inmediato para las instituciones educativas.
La circulación de una imagen manipulada puede producir situaciones de hostigamiento que se trasladan de las redes sociales al aula. En ese contexto, las respuestas de las escuelas adquieren especial importancia para evitar nuevas exposiciones y acompañar a quienes resultan afectados.
La prevención también requiere trabajar sobre el consentimiento, la privacidad y las consecuencias de producir o compartir contenidos íntimos de otras personas, incluso cuando se trata de imágenes creadas artificialmente.
Para las familias, uno de los principales desafíos es reconocer que la falsedad de una imagen no significa que sus consecuencias sean menores. La exposición pública, la vergüenza, el temor a regresar a la escuela y la pérdida de control sobre la propia imagen pueden generar efectos que persisten después de que el contenido deja de circular.
La sanción de la Ley Ema incorpora una nueva dimensión institucional a este debate. Sin embargo, el desafío será transformar sus objetivos en herramientas concretas de prevención y acompañamiento.
Mientras tanto, las investigaciones judiciales y los casos que comienzan a conocerse muestran que la violencia digital vinculada con inteligencia artificial ya forma parte de las problemáticas que deben afrontar las comunidades educativas, también en Mar del Plata.
Qué hacer ante la circulación de un desnudo falso
Si una imagen sexual manipulada mediante inteligencia artificial comienza a circular en una escuela o en redes sociales, es importante actuar sin contribuir a su difusión.
- No reenviar el contenido. Compartirlo, incluso con la intención de denunciarlo o advertir a otras personas, puede ampliar la exposición de la víctima.
- Preservar la información necesaria para denunciar. Registrar enlaces, nombres de usuario, fechas, conversaciones y otros datos que permitan identificar la publicación. Si involucra contenido sexual de menores, evitar descargar, copiar o redistribuir los archivos y solicitar orientación a las autoridades sobre cómo conservar la prueba.
- Informar a la institución educativa. La escuela puede intervenir para prevenir nuevas situaciones de hostigamiento y activar los mecanismos de protección correspondientes.
- Denunciar ante la Justicia. La situación puede ponerse en conocimiento del Ministerio Público Fiscal, que deberá evaluar las conductas denunciadas y su eventual encuadre penal.
- Solicitar la eliminación del contenido. Las plataformas digitales cuentan con mecanismos para denunciar imágenes íntimas no consentidas, incluidas aquellas creadas artificialmente.
- Priorizar el acompañamiento de la persona afectada. Evitar su exposición pública y la repetición innecesaria de su relato es fundamental para prevenir nuevas situaciones de violencia.