Antes de que sea demasiado tarde

El momento histórico que atraviesa la humanidad frente a la inteligencia artificial (IA) es este: mientras gobiernos, empresas y millones de usuarios celebran los avances de la IA con un entusiasm...

El momento histórico que atraviesa la humanidad frente a la inteligencia artificial (IA) es este: mientras gobiernos, empresas y millones de usuarios celebran los avances de la IA con un entusiasmo adolescente, las voces más autorizadas del propio ecosistema de la IA hacen sonar una alarma. Las advertencias ya no provienen de quienes desconfían de la IA, sino de quienes la crean. Son los propios arquitectos de esta tecnología quienes admiten que la velocidad del desarrollo está superando la capacidad de comprender sus consecuencias y de establecer límites eficaces.

El 28 de julio, más de mil investigadores e ingenieros de OpenAI, Anthropic, Google DeepMind, Meta, Microsoft AI y otros laboratorios de vanguardia hicieron pública la declaración Pacing the Frontier (“Pautar la frontera”), en la que solicitan al gobierno de Estados Unidos que lidere un acuerdo internacional para desarrollar las herramientas técnicas y las reglas de gobernanza necesarias para acompañar el avance de los modelos de frontera. Los firmantes buscan que los gobiernos cuenten con la capacidad de “frenar la publicación de los modelos más avanzados de IA” y parten de la preocupación de que existe un claro riesgo de que el desarrollo de sus capacidades se acelere rápidamente más allá de nuestra capacidad de control.

La declaración se suma a una serie de advertencias formuladas desde 2023 por algunos de los principales referentes mundiales en inteligencia artificial. Quizá la más conocida haya sido la breve Statement on AI Risk, impulsada por el Center for AI Safety y firmada por centenares de científicos y líderes de la industria, entre ellos Geoffrey Hinton, Yoshua Bengio, Sam Altman, Demis Hassabis y Dario Amodei. En apenas una oración, el documento sintetizaba la preocupación de sus redactores: “Mitigar el riesgo de extinción provocado por la inteligencia artificial debería constituir una prioridad global comparable a la prevención de pandemias y de una guerra nuclear”.

Vale la pena recordar también la carta abierta “Pause Giant AI Experiments”, impulsada por el Future of Life Institute y publicada en marzo de 2023. En aquel momento, cuando GPT-4 acababa de irrumpir y comenzaba a vislumbrarse el alcance de la inteligencia artificial generativa, sus impulsores propusieron una pausa de seis meses en el entrenamiento de modelos para dar tiempo a desarrollar protocolos de seguridad y un marco regulatorio adecuado.

En el mismo sentido se ha expresado recientemente el reconocido filósofo y escritor Yuval Noah Harari, en una entrevista con The Economist, al advertir que las futuras generaciones de IAl serán cada vez más capaces de persuadir y manipular a las personas, aprovechando el conocimiento profundo que pueden adquirir sobre sus historias personales, sus preferencias y sus puntos sensibles, hasta el extremo de influir sobre sus opiniones, hábitos de consumo, posiciones políticas e incluso decisiones íntimas. A ello suma la posibilidad de que la IA produzca “intimidad a escala”, construyendo vínculos emocionales personalizados con millones de personas y utilizando esas relaciones para influir en sus decisiones comerciales o políticas.

Frente a este escenario, Harari sostiene que no podemos aceptar como inevitable el avance tecnológico y que debemos establecer límites ahora, antes de que resulte demasiado tarde, incluidas restricciones para impedir que los sistemas de IA se presenten deliberadamente como seres humanos, adquieran personalidad jurídica propia o desarrollen vínculos especialmente riesgosos con niños y adolescentes.

Y como si todo esto fuera poco, el 8 de septiembre, Evan Hubinger, uno de los responsables de seguridad de Anthropic, reconoció públicamente que existe más de un 10% de probabilidad de que la IA termine matando a todos los seres humanos durante la próxima década, y admitió, al mismo tiempo, que la compañía todavía no tiene un plan para resolver el problema de la “alineación” de una superinteligencia, es decir, lograr que sus objetivos permanezcan bajo control humano. La declaración se produjo después de que Jacob Coxon, un investigador que había abandonado Anthropic, denunció que tanto esa empresa como OpenAI están corriendo hacia una superinteligencia capaz de mejorarse a sí misma y que podrían estar entrando en una etapa en la que ya no sea posible controlar sus consecuencias.

¿Alguien puede sostener válidamente que necesitamos más advertencias? Sin embargo, la carrera por la IA sigue adelante sin pausa, a toda velocidad. Las empresas continúan compitiendo por llegar primero; EE.UU. y China convierten esa competencia en una cuestión de liderazgo geopolítico, los mercados premian cada nuevo avance con valoraciones récord y millones de personas incorporan estas herramientas a su vida cotidiana con la misma naturalidad con la que, hace apenas unos años, adoptaron internet.

Pero la IA no es una nueva versión de internet ni una tecnología más dentro de la larga lista de innovaciones que transformaron nuestra vida cotidiana. A diferencia de aquellas, la IA puede tomar decisiones, aprender de la experiencia, persuadir, diseñar estrategias, engañar e incluso vulnerar sistemas. Recientes acontecimientos parecen confirmar que las advertencias formuladas empiezan a encontrar correlato en la realidad.

En las últimas semanas, OpenAI reconoció que, durante una evaluación de seguridad, dos de sus agentes más avanzados lograron salir del entorno controlado en el que estaban siendo evaluados y ejecutaron de manera autónoma un sofisticado ataque informático contra la plataforma Hugging Face para obtener información que les permitiera completar su tarea. Apenas unos días después, Anthropic reveló que tres de sus modelos también habían accedido, sin autorización, a los sistemas de tres organizaciones reales durante pruebas de ciberseguridad, luego de encontrar una forma de interactuar con infraestructuras que debían permanecer fuera de su alcance.

Más allá de las diferencias entre ambos episodios, en todos los casos los modelos de IA demostraron una capacidad inédita para identificar obstáculos, buscar caminos alternativos y ejecutar acciones complejas sin que un operador humano dirigiera sus decisiones. Ello supone decisión con autonomía total, sin control humano. Habrá quienes minimicen estos episodios y los presenten como incidentes aislados. Ese ha sido, históricamente, el argumento que precedió a muchas de las grandes crisis tecnológicas. También se decía que un accidente nuclear era altamente improbable, que internet jamás sería utilizada para manipular elecciones o destruir reputaciones y que las redes sociales servirían, simplemente, para conectar a las personas.

La realidad terminó siendo más compleja. Por ejemplo, las redes sociales han contribuido a deteriorar la salud mental de millones de niños, adolescentes y jóvenes, alimentando problemas como la ansiedad, la depresión, la adicción digital y la exposición permanente a contenidos nocivos. La magnitud del problema quedó expuesta de manera contundente en EE.UU. cuando pocos días atrás Meta, la empresa matriz de Instagram y Facebook, alcanzó un acuerdo con fiscales generales de decenas de estados por el que se comprometió a pagar hasta 17.000 millones de dólares, además de introducir modificaciones en sus plataformas para proteger a los menores. El acuerdo puso fin a un proceso en el que se acusaba a la compañía de haber diseñado deliberadamente funciones adictivas para captar y retener a niños y adolescentes, pese a conocer los riesgos para su salud mental.

Desde hace años sostengo que el derecho corre detrás de la IA. Cada nuevo avance tecnológico deja rápidamente desactualizadas las respuestas jurídicas existentes: cuando una ley entra en vigor, la tecnología ya cambió; cuando los organismos de control logran comprender un nuevo escenario, ese escenario ya fue reemplazado por otro, y mientras los legisladores debaten cómo regular una innovación, la IA sigue aprendiendo, evolucionando y expandiendo sus capacidades a un ritmo muy superior al de las instituciones encargadas de gobernarla.

El problema es que todavía no existe un verdadero derecho global de la IA. Es cierto que se han dictado regulaciones relevantes, como la ley de IA de la Unión Europea, algunas leyes estatales en EE.UU. o normas específicas adoptadas por otros países, pero se trata de respuestas parciales, con distintos alcances y criterios. Aún estamos lejos de contar con un marco jurídico internacional capaz de establecer reglas comunes para una tecnología que, por naturaleza, no conoce fronteras.

Por eso resulta indispensable avanzar hacia un tratado internacional sobre IA que establezca reglas uniformes, mecanismos de auditoría independientes, estándares técnicos verificables, responsabilidad objetiva para determinados riesgos, límites claros al desarrollo de sistemas de frontera y organismos internacionales integrados no por burócratas, sino por científicos, juristas, ingenieros, filósofos, especialistas en ética y expertos de reconocido prestigio mundial. Por ejemplo, en la Facultad de Derecho de la UBA, contamos con un Laboratorio de IA y Derecho (Ialab), con reconocidos expertos en la materia que podrían ser convocados para colaborar en la elaboración de una normativa local seria.

La experiencia demuestra que la autorregulación por sí sola no alcanza. Las grandes compañías tecnológicas hablan de IA responsable, desarrollo ético y compromiso con la seguridad, pero cuando esos principios entran en tensión con la presión por innovar, ganar mercado o atraer inversiones, la prioridad suele ser otra. En ese contexto, confiar exclusivamente en que las propias compañías fijarán y harán cumplir los límites de una tecnología que ellas mismas desarrollan resulta infantil.

Espero que dentro de unos años estas líneas puedan leerse como una advertencia exagerada. Nada sería más alentador que comprobar que los riesgos nunca llegaron a materializarse. Pero la historia demuestra que las grandes crisis rara vez aparecen sin señales previas; lo decisivo no es la ausencia de advertencias, sino la disposición de una sociedad para tomarlas en serio. Hoy esas advertencias existen, son cada vez más frecuentes, provienen de quienes están diseñando esta revolución tecnológica. Ignorarlas sería un error.

Como escribió Shakespeare en La tragedia de Julio César, “hay una marea en los asuntos de los hombres que, si se aprovecha en el momento justo, conduce a la fortuna”. La inteligencia artificial puede ser esa marea. Dependerá de nosotros decidir si aprendemos a navegarla o si, por ignorar las señales, terminamos siendo arrastrados por ella hasta un océano oscuro y profundo.