Violencia digital en escuelas bonaerenses: la UCR exige datos sobre protocolos y casos con IA

Las denuncias por la creación de imágenes sexuales falsas de alumnas mediante inteligencia artificial llegaron a la Legislatura bonaerense. El diputado Diego Garciarena, presidente del bloque UCR + Cambio Federal, presentó un proyecto para que el gobierno de Axel Kicillof informe qué protocolos utilizan las escuelas ante estos episodios, cómo se protege a las víctimas y qué resultados tienen las políticas vigentes.

La presentación, ingresada como expediente D-3847/26-27, contiene once puntos y alcanza a escuelas estatales y privadas. El planteo siguió a denuncias en colegios de Lomas de Zamora e Ituzaingó por fotografías de estudiantes manipuladas con herramientas de IA para crear contenido sexual falso.

El avance del pedido coincide con otra discusión en la Cámara baja: la Ley Ema, sobre prevención de la violencia digital. El Senado la aprobó con modificaciones el 6 de octubre y debe volver a Diputados para su sanción definitiva.

Milei y Caputo enfrentan una denuncia penal por las universidades: qué pide la presentación

Qué información reclama la UCR

Garciarena reclama identificar los protocolos, guías, comunicaciones y resoluciones vigentes en las escuelas. El proyecto solicita precisar qué organismo elaboró cada instrumento, cuándo se aprobó o actualizó y si resulta obligatorio u orientativo.

El diputado también quiere conocer cuántos hechos de violencia digital fueron registrados o comunicados a la Dirección General de Cultura y Educación durante 2024, 2025 y 2026. Pide diferenciar ciberacoso, grooming, sextorsión, suplantación de identidad, difusión no consentida de material íntimo y manipulación de imágenes mediante inteligencia artificial.

También consulta qué deben hacer directivos y docentes al detectar un caso. Incluye las intervenciones institucionales, el resguardo de evidencias digitales, la comunicación con las familias, las medidas para detener la circulación del material y el acompañamiento de niñas, niños y adolescentes afectados.

Otro punto apunta a la coordinación estatal. Garciarena requiere información sobre la intervención de Educación, el Ministerio de Justicia y Derechos Humanos, el Organismo Provincial de la Niñez y Adolescencia, Salud y los municipios, cuando un episodio exige respuestas fuera del colegio.

Además, la iniciativa pregunta si las herramientas vigentes contemplan expresamente la producción de imágenes sexuales falsas mediante IA y si existen planes para actualizarlas. El alcance de las capacitaciones, los mecanismos de difusión en las comunidades educativas y el seguimiento de las actuaciones también están bajo examen.

“La violencia digital no queda fuera de la escuela”, advirtió Garciarena. El planteo aborda la aplicación concreta de las normas: qué saben los establecimientos sobre los procedimientos disponibles, cómo intervienen ante una denuncia y con qué recursos cuentan para asistir a quienes sufren esas agresiones.

Las denuncias detrás del reclamo

En el Colegio Modelo de Lomas de Zamora, estudiantes y familias denunciaron que un grupo de alumnos habría utilizado fotos reales de compañeras para elaborar imágenes de contenido sexual mediante inteligencia artificial. Según las denuncias, más de 40 alumnas resultaron afectadas y el material habría circulado y sido ofrecido en sitios para adultos.

El episodio provocó reclamos en la comunidad educativa. Familiares de las estudiantes cuestionaron la falta de información brindada por las autoridades del establecimiento y reclamaron medidas para proteger a las afectadas. La difusión de fotografías adulteradas extendió el conflicto desde las plataformas digitales hacia la escuela.

Días después trascendió otra denuncia de características similares en un colegio de Ituzaingó. Allí también se investiga la presunta utilización de fotografías de compañeras para crear imágenes falsas de desnudez con herramientas de IA. Ambos episodios aparecen en los fundamentos del proyecto.

Paritarias bonaerenses contra reloj: Kicillof reúne a docentes y estatales con los sueldos de octubre en juego

Las imágenes conocidas como deepfakes permiten alterar fotografías para representar situaciones que nunca ocurrieron. Su circulación por redes, mensajería o sitios web multiplica la exposición de las estudiantes y dificulta frenar la difusión.

El proyecto radical reclama saber si, ante episodios recientes, se activaron los protocolos correspondientes, qué medidas de resguardo se adoptaron y cómo se evitó una nueva exposición de las víctimas. La solicitud evita requerir datos que identifiquen a menores o interfieran en investigaciones judiciales.

Ley Ema y herramientas bajo revisión

La discusión parlamentaria ya tenía un proyecto específico en marcha. La Ley Ema fue impulsada a partir del caso de Ema Bondaruk, una adolescente bonaerense que se quitó la vida en 2024 después de la difusión no consentida de imágenes íntimas. Su madre, Laura Sánchez, participó de la elaboración y del debate de la iniciativa.

La Cámara de Diputados dio media sanción al proyecto impulsado por Mayra Mendoza. En el Senado, el texto fue unificado con una propuesta de Laura Clark y fue aprobado el 6 de octubre. Los cambios introducidos en la Cámara alta obligan ahora a que Diputados vuelva a pronunciarse antes de la sanción definitiva.

El proyecto propone crear un Programa Provincial de Prevención y Abordaje Integral de la Violencia Digital en Ámbitos Educativos. Contempla ciberacoso, amenazas, difusión de material íntimo sin consentimiento, extorsión y contenidos creados o modificados con inteligencia artificial, junto con acciones de asistencia y prevención para las comunidades escolares.

Entre sus herramientas figuran la incorporación de contenidos de ciudadanía digital sobre privacidad, consentimiento, derechos y uso crítico de la tecnología; la actualización de orientaciones para intervenir ante conflictos y la capacitación continua de docentes, directivos, personal no docente y equipos de orientación escolar. También incluye la participación de estudiantes y familias.

Los Passaglia preparan el salto de Hechos hacia 2027: expansión territorial y una alternativa a la polarización

Mientras ese proyecto espera su tratamiento definitivo, la Provincia ya dispone de dispositivos relacionados con la problemática. El programa interministerial Cuidarnos en Red desarrolla capacitaciones sobre grooming, ciberacoso, suplantación de identidad e inteligencia artificial. La Dirección General de Cultura y Educación, además, cuenta con la guía de actuación escolar actualizada mediante la Comunicación Conjunta 1/23.

La UCR busca determinar cómo llegan estas herramientas a las escuelas y qué resultados tienen frente a las nuevas formas de agresión. “Las familias deben conocer qué hace el Estado para proteger a sus hijas e hijos”, afirmó Garciarena al fundamentar la solicitud de información.

La cuestión también forma parte de una agenda educativa más amplia. En las últimas semanas, la Legislatura sancionó normas vinculadas con el uso de celulares en la secundaria y la educación emocional, mientras los gremios docentes reclamaron respuestas ante episodios de violencia escolar y mayor coordinación para prevenir conflictos.

El oficialismo trabaja para que ambas cámaras bonaerenses sesionen el martes 20 de octubre. La Ley Ema figura entre las iniciativas que podrían llegar a Diputados, aunque su inclusión en el temario todavía no está confirmada. En paralelo, el pedido de informes de Garciarena deberá recorrer su trámite parlamentario para que la Cámara formalice el requerimiento al Ejecutivo.