Inteligencia Artificial Generativa en el poder judicial

La inteligencia artificial generativa (IAGen) es considerada una de las innovaciones más disruptivas de la actualidad: una tecnología capaz de producir textos, imágenes, audios y otros contenido...

La inteligencia artificial generativa (IAGen) es considerada una de las innovaciones más disruptivas de la actualidad: una tecnología capaz de producir textos, imágenes, audios y otros contenidos con creciente sofisticación y eficiencia. Con una incidencia directa en la economía, los sistemas productivos y los servicios públicos, y un impacto económico de magnitud.

Sin embargo, su adopción no está exenta de riesgos y consecuencias no deseadas. Tal es el caso de la desinformación, la exposición indebida de datos sensibles, la afectación de derechos de propiedad intelectual y la amplificación de sesgos presentes en los modelos de entrenamiento.

Recientemente se puso en marcha, por la Procuración General de la provincia de Buenos Aires, un plan integral para la incorporación de la inteligencia artificial generativa (IAGen) en el ámbito del Ministerio Público de la provincia de Buenos Aires (MPBA). A este fin se dictó la resolución PG N° 1475/25, que establece y regula un marco para su utilización.

Se ha decidido encarar por el Ministerio Público bonaerense la incorporación ordenada de IAGen desde una visión humanista, a partir de tres pilares fundamentales.

En primer lugar, la aprobación de un marco normativo y estratégico, que fija principios, directrices y pautas en línea con la Constitución, las leyes y los tratados internacionales de derechos humanos.

En segundo lugar, el compromiso activo de los funcionarios judiciales en un uso crítico y responsable de la tecnología. Para respaldar ese compromiso, el marco normativo ofrece una explicación sencilla y accesible sobre los fundamentos de la IAGen: describe qué son los modelos fundacionales, cómo funciona la arquitectura Transformer –que marcó un punto de inflexión en el procesamiento del lenguaje natural– y cuáles son las principales técnicas de entrenamiento que hacen posible la generación de textos útiles.

En tercer lugar, el desarrollo de “ChatIA”, que es una plataforma institucional de IAGen desarrollada por la Secretaría de Innovación y Experiencia Digital de la Procuración General. Este entorno, que permite una gestión centralizada de usuarios y la realización de auditorías permanentes, es concebido como la única interfaz autorizada para que los agentes del Ministerio Público interactúen con IAGen.

No se trata de algo novedoso para el Ministerio Público bonaerense, que ya cuenta con antecedentes en la incorporación de inteligencia artificial.

En 2018 se implementó en esta organización judicial un sistema de identificación multibiométrica de imputados basado en aprendizaje profundo, en 2019 se desarrolló el primer chatbot judicial del país, y en 2024 se incorporó una herramienta para la transcripción de audios y videos mediante inteligencia artificial.

En continuidad del proyecto de innovación, la Resolución establece una implementación gradual de esta tecnología en tres etapas. La primera será una prueba piloto en fiscalías, defensorías y asesorías, que permitirá evaluar el desempeño de la herramienta en tareas concretas como redacción, edición y resumen de documentos. En una segunda etapa, se considerará su extensión a más usuarios y nuevos casos de uso. Y, finalmente, se pondrá en marcha un sistema de monitoreo permanente con indicadores de éxito y riesgo para medir el impacto en eficiencia, calidad y seguridad informática.

La estrategia adoptada por el Ministerio Público bonaerense tiene un carácter integral: establece pautas legales y reglamentarias internas y, asimismo, impulsa el desarrollo de un software propio para uso institucional poniendo a disposición de sus agentes conocimientos técnicos que faciliten un uso crítico y responsable de la tecnología.

Al mismo tiempo, determina los principios que regulan el uso de la IAGen en la organización, con fundamento en la premisa de que los usuarios deben ejercer una responsabilidad activa y consciente, ponderando las consecuencias sociales, éticas y legales de sus decisiones y evitando toda subordinación acrítica frente a la tecnología (Dicasterio para la Doctrina de la Fe, Dicasterio para la Cultura y la Educación, 2025).

Estos principios son de observancia obligatoria para todos los agentes del MPBA y actúan como criterios rectores destinados a asegurar que el empleo de la IAGen se mantenga en plena consonancia con los valores institucionales, los derechos fundamentales y el marco jurídico vigente. Sintéticamente, estos son los siguientes:

*Dignidad: el uso de IAGen deberá regirse por el respeto irrestricto de la dignidad humana y del bien común.

*Responsabilidad: su uso no exime de las obligaciones funcionales, legales y éticas vigentes; los agentes del MPBA serán plenamente responsables de asegurar en todos los casos su adecuación al Código de Ética vigente en el ámbito del MPBA (Res. PG N° 32/19), así como a la Constitución, las leyes y los tratados de derechos humanos aplicables.

*Supervisión humana: el uso de IAGen deberá estar sujeto a un control humano activo y permanente; queda prohibida la delegación de decisiones sustantivas en la herramienta.

*Confidencialidad de la información: deberá garantizarse la protección de los datos personales (ley N° 25.326), la preservación de la confidencialidad y el resguardo de los datos sensibles, evitando cualquier tratamiento que comprometa derechos fundamentales o la legalidad de los procesos.

*Prohibición de contenidos inapropiados: queda vedado todo uso que derive en la generación o difusión de contenidos ofensivos, discriminatorios, inapropiados o ilegales.

*Ciberseguridad: el uso de la IAGen deberá sustentarse en la preservación de la seguridad informática y la protección de la información institucional, garantizando la integridad, disponibilidad y confidencialidad de los datos en todo momento.

*Uso exclusivo de la plataforma institucional: la interacción con sistemas de IAGen deberá realizarse exclusivamente a través de ChatIA, la plataforma oficial desarrollada por el MPBA; queda prohibido el uso de herramientas externas o no autorizadas, a fin de garantizar el control, la seguridad y la trazabilidad de la información institucional.

*Precaución frente a riesgos emergentes: el uso de la IAGen deberá regirse por el principio de precaución, anticipando y limitando los impactos derivados de riesgos emergentes o aún no previstos, propios de la naturaleza evolutiva de esta tecnología.

Procurador general ante la Suprema Corte de la Provincia de Buenos Aires