IA: la Corte bonaerense mueve primero y fija límites donde la política todavía debate

Mientras gran parte de la discusión pública sobre la inteligencia artificial continúa desarrollándose entre proyectos legislativos, iniciativas privadas y debates académicos, la Suprema Corte de Justicia de la provincia de Buenos Aires decidió avanzar por su cuenta y establecer un marco regulatorio para el uso de estas herramientas dentro del sistema judicial.

La medida quedó plasmada en un proyecto de reglamento que fue puesto en consulta pública y que busca ordenar la incorporación de tecnologías basadas en inteligencia artificial en los tribunales bonaerenses. El documento parte de una premisa que atraviesa todo el texto: la función jurisdiccional sigue siendo una responsabilidad exclusivamente humana.

"La función jurisdiccional es indelegable e insustituible", sostiene la iniciativa impulsada por el máximo tribunal provincial. A partir de esa definición, la Corte estableció que bajo ninguna circunstancia podrá delegarse en sistemas de inteligencia artificial la resolución de expedientes, la valoración de pruebas ni la construcción del razonamiento jurídico que fundamenta una sentencia o resolución.

La decisión aparece en un contexto donde las herramientas de IA generativa comenzaron a expandirse de manera acelerada en distintos ámbitos profesionales. El sector jurídico no quedó al margen. Estudios de abogados, organismos públicos e incluso dependencias judiciales ya utilizan sistemas capaces de resumir expedientes, ordenar información, buscar antecedentes jurisprudenciales o redactar borradores de documentos.

Sin embargo, la Corte bonaerense considera que esa incorporación debe producirse bajo reglas claras. El proyecto advierte sobre riesgos asociados al uso de estas tecnologías, entre ellos la generación de información errónea, los sesgos algorítmicos y el fenómeno conocido como "sesgo de automatización", que describe la tendencia de los usuarios a confiar excesivamente en las respuestas producidas por un sistema informático.

El kicillofismo empuja las PASO y mide fuerzas con La Cámpora por la candidatura presidencial

Una regulación que busca anticiparse a los problemas

La propuesta fue formalizada a través del expediente N° 3000-21862-2026 y contempla la creación de una Comisión de Gobernanza y Uso de Inteligencia Artificial, integrada por las Secretarías de Planificación, Tecnología Informática y Servicios Jurisdiccionales de la Suprema Corte.

Ese organismo tendrá a su cargo la elaboración de protocolos, la evaluación de herramientas tecnológicas, el impulso de pruebas piloto, el monitoreo de resultados y la elaboración de informes periódicos sobre el grado de implementación de estas soluciones dentro del Poder Judicial.

El objetivo declarado es aprovechar las ventajas que ofrecen los nuevos desarrollos tecnológicos sin comprometer garantías constitucionales fundamentales como el debido proceso, el derecho de defensa y la tutela judicial efectiva.

Desde la Corte sostienen que el Poder Judicial bonaerense ya desarrolla la mayor parte de su actividad dentro de un ecosistema digital, una transformación que se profundizó en los últimos años y que genera condiciones favorables para avanzar en nuevas herramientas de asistencia tecnológica.

Qué usos estarán permitidos y cuáles quedarán prohibidos

Uno de los aspectos centrales del reglamento es la clasificación de los sistemas de inteligencia artificial según el nivel de riesgo que representan.

Las tareas consideradas de bajo riesgo incluyen funciones administrativas como la transcripción de audiencias, la corrección ortográfica o determinadas actividades de organización documental.

En cambio, aquellas aplicaciones vinculadas a funciones críticas recibirán controles mucho más estrictos. Dentro de esta categoría aparecen herramientas destinadas a colaborar en la interpretación normativa, el análisis de conflictos complejos o la predicción de resultados judiciales.

Para estos casos, el proyecto exige auditorías semestrales obligatorias y la realización previa de un Análisis de Impacto Algorítmico antes de cualquier implementación.

Además, el texto incorpora prohibiciones expresas. Entre ellas figura la imposibilidad de utilizar sistemas predictivos de reincidencia que puedan influir de manera vinculante en decisiones sobre libertad, prisión preventiva u otras medidas que afecten derechos fundamentales.

También queda vedada la generación de pruebas sintéticas mediante inteligencia artificial y la elaboración de informes periciales sin intervención efectiva y validación crítica de un profesional habilitado.

Otro de los ejes de la propuesta apunta a la trazabilidad de las herramientas utilizadas por magistrados y funcionarios. Cada vez que una resolución, informe o documento judicial haya sido elaborado con asistencia de inteligencia artificial generativa, deberá dejarse constancia expresa en el expediente. El operador judicial tendrá que informar qué sistema utilizó, qué modelo intervino y cuáles fueron las secciones concretas producidas con apoyo tecnológico.

La iniciativa permanecerá en etapa de consulta pública hasta el próximo 7 de agosto. Durante ese período podrán presentar observaciones y propuestas magistrados, funcionarios, trabajadores judiciales, colegios profesionales, universidades, especialistas y otros actores vinculados al sistema de justicia.

La resolución también dispuso comunicar el proyecto al Colegio de Magistrados y Funcionarios de la provincia de Buenos Aires, al Colegio de Abogados bonaerense y a la Asociación Judicial Bonaerense, entre otras instituciones.

Una vez concluida la etapa participativa, la Comisión de Gobernanza y Uso de Inteligencia Artificial deberá analizar los aportes recibidos y elevar un informe a la Suprema Corte antes del 31 de agosto. Hasta que se apruebe una versión definitiva, el reglamento tendrá carácter orientador y no vinculante.