OpenAI está trabajando en medidas para abordar los problemas de seguridad de la inteligencia artificial con sus principales competidores, Anthropic y Google DeepMind, intensificando los esfuerzos de la industria para responder a la creciente preocupación de que esta tecnología suponga una amenaza económica y para la seguridad.
Chris Lehane, director de políticas globales de OpenAI, declaró el martes que la colaboración de la compañía con Anthropic y Google llevaba varias semanas en marcha. Añadió que OpenAI no considera necesario un acuerdo de exención de la ley antimonopolio para que las tres empresas de IA coordinen sus acciones en materia de seguridad.
“Es mejor intentar trabajar juntos para priorizar la seguridad”, dijo Lehane en una rueda de prensa en Washington.
La preocupación por los riesgos existenciales de la IA se extendió rápidamente tras la publicación el sábado de un ensayo de 3800 palabras del director ejecutivo de Anthropic, Dario Amodei, quien instó a frenar el desarrollo de los sistemas más avanzados de IA para que los investigadores puedan comprender mejor las posibles amenazas. El mensaje de Amodei fue rápidamente respaldado por el director ejecutivo de OpenAI, Sam Altman, y el director de SpaceXAI, Elon Musk.
Los portavoces de Anthropic y Google DeepMind, una unidad de Alphabet, no respondieron de inmediato a las solicitudes de comentarios.
Lehane afirmó que la coordinación entre las empresas en materia de seguridad de la IA tiene numerosos precedentes, citando como ejemplo al sector de las aerolíneas. «A lo largo del tiempo, ha habido muchos casos en los que las empresas han intentado ayudarse mutuamente en materia de seguridad», declaró.
Lehane añadió que se encontraba en Washington para reunirse con legisladores estadounidenses y que OpenAI respaldaría propuestas bipartidistas destinadas a abordar los posibles riesgos catastróficos derivados de esta tecnología. «Haremos todo lo posible por superarlos», afirmó.
Entre las medidas que apoya OpenAI se incluye un marco para la gobernanza federal de la IA propuesto por el representante republicano Jay Obernolte y la demócrata Lori Trahan, según Lehane. La compañía también está abierta a una propuesta del Senado, liderada por el líder de la mayoría John Thune, el republicano Ted Cruz y la demócrata Amy Klobuchar, que busca abordar los riesgos catastróficos.
Han surgido otras propuestas para abordar las posibles preocupaciones en materia de competencia en lo que respecta a la coordinación de la seguridad.
El senador Jim Banks, republicano de Indiana, y el senador Adam Schiff, demócrata de California, también propusieron un proyecto de ley que otorgaría a las empresas de IA una excepción limitada en materia de competencia para compartir información entre sí relacionada con la pérdida de control sobre los sistemas de IA, las amenazas cibernéticas o biológicas y los intentos de empresas chinas de extraer datos. Dicha legislación se ha incorporado al proyecto de ley anual de defensa, según una persona familiarizada con el asunto.
Las probabilidades de que se apruebe alguna propuesta antes de fin de año siguen siendo escasas. Es improbable que el Congreso actúe pronto sobre alguna legislación de IA, ya que la Cámara de Representantes tiene previsto abandonar Washington el jueves y no regresar hasta después de las elecciones de noviembre. Se espera que la breve sesión posterior a las elecciones se centre en un plan para aumentar el presupuesto del Pentágono.
El presidente Donald Trump también ha manifestado su vehemente oposición a cualquier intento de imponer restricciones a la IA. En una serie de publicaciones rápidas en redes sociales, Trump menospreció el lunes la iniciativa liderada por Anthropic y OpenAI para ralentizar el desarrollo de sistemas de vanguardia, utilizando un lenguaje grandilocuente para desestimar los temores existenciales sobre la IA como “un engaño”.