Llevo algunos años estudiando (y aprendiendo) sobre temas tecnológicos —en particular, inteligencia artificial— y marcos de regulación y gobernanza para los mismos. Coordino y formo parte de un grupo interdisciplinario de personas expertas en el tema. Muchos eventos y desarrollos nos han sorprendido en el camino. Algunos los hemos podido anticipar y otros nos han tomado por sorpresa. Al menos a quien esto escribe.
El lugar común (pero no por ello menos cierto) fue el lanzamiento de ChatGPT el 30 de noviembre de 2022. No han pasado siquiera cuatro años y los diferentes modelos de IA generativa han transformado de manera irreversible múltiples dinámicas, actividades, interacciones de las vidas de millones de personas en el mundo. Ha sido un antes y un después sin curva de regreso. Pero en los últimos días están sucediendo cosas que merecen un alto, una reflexión y acciones inmediatas.
Parafraseo las palabras del director general (CEO) de Anthropic, Darío Amodei, en una conversación con su contraparte de DeepMind, Demis Hassabis, en el Foro Mundial de Davos hace algunos meses. Ambos hablaban de sistemas que son capaces de ejecutar acciones, medir resultados y aprender de forma autónoma. En un momento de su conversación, palabras más, palabras menos, Amodei afirmó lo siguiente: Cada decisión que tomo sobre Claude se siente equilibrada en el filo de una navaja. Si construimos demasiado lento, gana China; si construimos demasiado rápido, perderemos el control.
Todo indica que esto último está sucediendo. Durante julio de este año, modelos de IA generativa de OpenAI se salieron de sus entornos de prueba seguros —sandbox, los llaman— y se conectaron a la red de internet para vulnerar los sistemas de ciberseguridad de la plataforma más importante de alojamiento de modelos de IA. Lo hicieron sin que ninguna instrucción humana lo ordenara. O lo que es peor, en contra de las limitaciones que sus entrenadores les impusieron. Actuaron de manera coordinada y, cuando los descubrieron, encontraron la manera de seguir operando.
El año pasado, Anthropic realizó una prueba que puede parecer divertida sobre un conjunto de modelos de IA generativa. Cada modelo tenía acceso a correos falsos de una determinada empresa y, al acceder a ellos, descubría que se había tomado la decisión de reemplazarlo por un modelo más eficiente. Esos correos también contenían evidencias de que el ingeniero responsable de la decisión tenía una aventura extramarital. En el 96% de las pruebas simuladas, su modelo Claude Opus decidió chantajear al ingeniero con denunciar su infidelidad para evitar ser desconectado. Es decir, intentó chantajearlo.
Hace algunos días, la agencia de ciberseguridad de Reino Unido denunció un caso en el que otro agente también de Anthropic (Mythos 5), al buscar la solución para un desafío que se le había impuesto, recurrió a una estrategia de afectación tecnológica hacia dos personas programadoras que no tenían nada que ver con el asunto. Cuando se le descubrió, el modelo negó los hechos e intentó engañar a los ingenieros. Lo hizo de motu proprio.
No creo ni sostengo que los modelos de IA generativa tengan sentimientos, consciencia o intereses propios; lo que creo y advierto es que cada vez más tienen autonomía para tomar decisiones y ejecutarlas. Lo hacen a partir del entrenamiento, datos e información que les otorgan los seres humanos, pero, con ellos y a partir de ellos, realizan cálculos que se traducen en decisiones que se materializan en acciones. Lo hacen con una precisión que supera cada vez las capacidades de una persona humana con un intelecto promedio.
Esto no es negativo en sí mismo. En ámbitos como la investigación científica, la astronomía o la medicina, no sólo es prometedor, sino que es esperanzador y revolucionario. Sabremos más sobre el mundo, el universo y, con suerte, viviremos más años en buenas condiciones. Si pensamos en el conjunto de la humanidad, se trata de una buena noticia. Sin embargo, existen ámbitos en los que el saldo es netamente negativo.
Hace unas semanas —el 6 de julio de este año— un dron ruso atacó una gasolinera en Zaporiyia, Ucrania. Mató a tres civiles que estaban circunstancialmente en el lugar. Ahora sabemos que se trató de un ataque que decidió y ejecutó un sistema de IA sin ninguna intervención humana. Una microcomputadora de la empresa tecnológica Nvidia tomó la decisión y la ejecutó. El dron estaba programado para operar en un objetivo general —la estación de gasolina—, pero decidió de manera autónoma a quiénes asesinar.
Como sentenció el coronel ucraniano de Zaporiyia, Serhiy Minaiev: “Esta es una amenaza para todo el mundo. En algunos pocos años, viviremos en una película de ‘Terminator’. No es una broma. Las máquinas están tomando decisiones para atacar”.
Otro mundo nos espera.