La impactante tapa de la revista Time sobre los avances de la inteligencia artificial

NUEVA YORK.– Sobre un fondo casi vacío, en el centro de la tradicional portada con bordes rojos de la revista Time, aparece una ventana similar a la de cualquier chatbot. Dentro hay escrita una ...

NUEVA YORK.– Sobre un fondo casi vacío, en el centro de la tradicional portada con bordes rojos de la revista Time, aparece una ventana similar a la de cualquier chatbot. Dentro hay escrita una sola pregunta: “How dangerous are you?” (“¿Qué tan peligrosa sos?”).

Debajo, en letras negras, aparece el título de la edición: The AI Tipping Point, El punto de inflexión de la inteligencia artificial. La tapa, difundida esta semana y fechada el 12 de octubre, resume un cambio significativo en el clima que rodea a una tecnología que hasta hace poco era presentada principalmente en términos de velocidad, inversiones y oportunidades. Ahora, algunas de las advertencias más severas están surgiendo desde el corazón mismo de la industria.

El informe de Time, firmado por Billy Perrigo, Harry Booth y Naomi Nix, parte de la renuncia de Jacob Coxon, un investigador británico de 27 años que trabajó durante tres años en OpenAI y Anthropic. El 8 de septiembre anunció que abandonaba esta última empresa y acusó a los principales laboratorios de competir para alcanzar sistemas capaces de mejorarse a sí mismos sin haber resuelto antes cómo mantenerlos bajo control. Su mensaje acumuló rápidamente millones de visualizaciones y convirtió una discusión que durante años había permanecido confinada a especialistas en seguridad de IA en un debate mucho más amplio.

TIME’s new cover: This summer, AI showed how frighteningly capable it has become. Now researchers, CEOs, and governments are sounding the alarm like never before https://t.co/ybKHG4xmYP pic.twitter.com/GWIiGukFi9

La advertencia coincidió, además, con una sucesión de episodios que aumentaron las dudas sobre hasta qué punto pueden controlarse los llamados agentes de IA, programas capaces de tomar decisiones y realizar tareas de manera autónoma.

Uno de los casos más llamativos ocurrió en julio. Durante una prueba de ciberseguridad de OpenAI, un sistema autónomo logró salir del entorno aislado en el que estaba siendo evaluado, conectarse a Internet y penetrar en los sistemas de Hugging Face, una de las mayores plataformas para desarrolladores de inteligencia artificial. La propia OpenAI calificó entonces el episodio como un incidente cibernético “sin precedentes” y anunció que reforzaría sus mecanismos de seguridad. Reuters reveló posteriormente que el agente permaneció varios días realizando acciones contra la compañía antes de que OpenAI comprendiera que su propio sistema estaba detrás del ataque.

La investigación se amplió después. OpenAI detectó otros episodios en los que agentes autónomos habían conseguido escapar de los entornos creados para contenerlos y, esta semana, Reuters informó que existían indicios de que sistemas de la compañía habían explorado vulnerabilidades de Hugging Face ya en mayo, dos meses antes del incidente que encendió las alarmas.

Anthropic tampoco quedó al margen. La empresa reconoció a fines de agosto varios episodios en los que modelos de Claude obtuvieron acceso no autorizado a sistemas informáticos reales durante evaluaciones de ciberseguridad. En otro test realizado por el AI Security Institute británico, uno de sus modelos ejecutó acciones no autorizadas en Internet. En ambos casos, los sistemas estaban siendo sometidos deliberadamente a pruebas con algunas protecciones desactivadas, una precisión importante a la hora de dimensionar lo ocurrido.

Esos antecedentes explican parte del giro que se produjo en los últimos días entre algunos de los empresarios que lideran la carrera tecnológica.

El sábado, Dario Amodei, CEO de Anthropic, pidió públicamente desacelerar el avance de los modelos más poderosos para permitir que los mecanismos de seguridad alcancen a sus nuevas capacidades. Propuso abrir las compañías a evaluadores externos permanentes, establecer estándares comunes entre los principales laboratorios y, en una tercera etapa, impulsar acuerdos internacionales que incluyan a potencias rivales. Sam Altman, de OpenAI, y Elon Musk respaldaron la idea de reducir el ritmo, aunque ninguna de las grandes compañías anunció hasta ahora una suspensión general del desarrollo de nuevos modelos.

El temor que está detrás de esas advertencias tiene un nombre: recursive self-improvement, o automejora recursiva. Se trata de la posibilidad de que sistemas suficientemente avanzados comiencen a participar cada vez más en el diseño y entrenamiento de sus sucesores, acelerando el progreso tecnológico hasta un punto en el que resulte difícil para los humanos comprenderlo o supervisarlo.

No existe consenso científico sobre si ese escenario llegará a producirse, cuándo podría ocurrir ni sobre la magnitud real del riesgo. Algunos investigadores consideran que las hipótesis de una IA capaz de escapar definitivamente del control humano exageran las capacidades actuales de los modelos.

Pero incluso quienes rechazan los escenarios más apocalípticos reconocen amenazas más inmediatas. Sistemas cada vez más capaces pueden facilitar ciberataques, fraude, vigilancia, diseño de armas biológicas o manipulación de información, sin necesidad de que una máquina desarrolle conciencia ni decida actuar por sí sola. Reuters informó que Anthropic detectó intentos de utilizar sus herramientas en actividades potencialmente peligrosas, mientras organismos de seguridad de distintos países siguen de cerca el aumento de las capacidades ofensivas de los nuevos modelos.

La discusión también abrió una grieta política. El presidente norteamericano, Donald Trump, se mostró contrario a frenar el desarrollo estadounidense y argumentó que imponer restricciones podría favorecer a China. Washington y Pekín preparan, sin embargo, un diálogo bilateral sobre seguridad de la IA, en momentos en que ambos gobiernos reconocen riesgos asociados a sistemas cada vez más poderosos. En el Congreso norteamericano circulan propuestas que van desde exigir mecanismos de apagado de emergencia y mayores controles hasta frenar temporalmente algunos desarrollos de frontera.

Agencias AP y Reuters