OpenAI, una de las principales compañías de inteligencia artificial del mundo, respaldó una propuesta bipartidista de la Cámara de Representantes de Estados Unidos que obligaría a las mayores empresas del sector a permitir evaluaciones independientes para comprobar la seguridad de sus modelos.
La información fue revelada este martes por POLITICO, que destaca que se trata de la primera vez que OpenAI apoya un mandato federal específico para que evaluadores externos revisen el trabajo de las principales compañías dedicadas al desarrollo de inteligencia artificial avanzada.
El proyecto FRONTIER
El respaldo se concentra en una disposición de la denominada FRONTIER Act, impulsada por los representantes Jay Obernolte, republicano de California, y Lori Trahan, demócrata de Massachusetts.
La iniciativa busca establecer el primer marco federal de seguridad para la inteligencia artificial en Estados Unidos y contempla que los principales laboratorios permitan la entrada de “organizaciones independientes de verificación”, conocidas por las siglas IVO, para comprobar que sus modelos se desarrollan bajo parámetros de seguridad.
La obligación no abarcaría a todas las compañías del sector. Según POLITICO, estaría limitada a aquellas que superen elevados umbrales de ingresos anuales e inversión en capacidad informática, lo que concentraría las exigencias sobre los desarrolladores de los modelos más potentes.
OpenAI dice que puede apoyarlo
Chris Lehane, director de Asuntos Globales de OpenAI, dijo a periodistas que durante una reunión celebrada el lunes en el Capitolio conversó con uno de los patrocinadores de la legislación sobre el mecanismo de verificación independiente.
“Dejamos claro que podemos apoyarlo”, afirmó Lehane, según POLITICO. El ejecutivo señaló que para OpenAI era importante transmitir directamente esa posición a los legisladores.
El pronunciamiento supone un paso adicional en la postura de la empresa ante la regulación de la inteligencia artificial, debido a que el apoyo ya no se limita a compromisos voluntarios de seguridad, sino que alcanza una propuesta que convertiría la participación de evaluadores externos en una exigencia federal para las compañías que entren dentro de los parámetros establecidos.
De California a Washington
El movimiento se produce después de que OpenAI respaldara la semana pasada una legislación de California que establece un proceso de acreditación y evaluación para las organizaciones independientes que podrían ser utilizadas por los gobiernos para examinar a los desarrolladores de inteligencia artificial.
Ese mismo día, Lehane publicó un documento en el que calificó la “verificación independiente” como uno de los pilares de los requisitos nacionales obligatorios de seguridad para la IA que la compañía considera que debería aprobar el Congreso.
El presidente ejecutivo de OpenAI, Sam Altman, avanzó posteriormente otro paso al comprometerse voluntariamente a incorporar evaluadores externos dentro de la compañía. Su anuncio se produjo después de que Dario Amodei, director ejecutivo de Anthropic, asumiera un compromiso similar.
De promesas a legislación
Un miembro del equipo especializado en inteligencia artificial de la oficina de Trahan, citado de manera anónima por POLITICO, consideró que la decisión de los responsables de los principales laboratorios de sumarse a la propuesta de incorporar evaluadores constituye una señal importante.
Sin embargo, señaló que las próximas semanas serán decisivas para determinar cómo esos compromisos empresariales se traducen en una legislación capaz de establecer reglas para toda la industria.
El debate se desplaza así hacia el Congreso estadounidense, donde la discusión ya no se limita a determinar si los grandes desarrolladores deben someter sus sistemas a controles externos, sino a establecer si esas evaluaciones deben quedar sujetas a la voluntad de las empresas o convertirse en una obligación establecida por ley.
Anthropic y Google DeepMind lo apoyan
OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo de supervisión de los riesgos relacionados con la inteligencia artificial, indicó OpenAI a la AFP el martes, en medio de crecientes llamados a controlar mejor esta tecnología.
Las preocupaciones sobre la seguridad de la inteligencia artificial se han intensificado en las últimas semanas, incluidas advertencias de dos trabajadores que renunciaron a importantes desarrolladoras de IA por la amenaza contra la humanidad que implica esta industria.
Los grandes actores de la IA han hecho desde hace meses llamados al gobierno estadounidense para crear un marco regulador del sector y a supervisar la seguridad del sector.
La idea de una entidad de supervisión fue propuesta en julio por Demis Hassabis, cofundador y director general de Google DeepMind, quien sugirió una entidad similar a la Autoridad de Regulación de la Industria Financiera de Estados Unidos, un órgano de autorregulación del sector.
«La financiación tendría que ser cuantiosa y provenir probablemente en gran parte de la industria«, escribió Hassabis, quien añadió la necesidad de atraer talento técnico y grandes recursos de cómputo para pruebas a gran escala.
El gobierno de Estados Unidos puso en marcha en agosto un proceso de evaluación de los nuevos modelos de IA, aunque este es voluntario y su metodología no se ha hecho pública.
Luego de los llamados a desacelerar el desarrollo de la IA que lanzó el sábado Dario Amodei, jefe Anthropic, desarrolladora del chatbot Claude, el presidente de Estados Unidos, Donald Trump, reiteró que no busca limitar el sector.
«Que la IA tome el control del mundo, destruya a la humanidad y todas esas cosas malas, es una PATRAÑA», escribió Trump en su plataforma Truth Social el lunes.
El mandatario y miembros de su gobierno han reiterado que no buscan limitar la IA por temor a que China tome la delantera.
Las empresas de IA están «jugando con nuestras vidas», advirtió la semana pasada Jacob Coxon al dejar su cargo de desarrollador en Anthropic.
El lunes, el exinvestigador de Google DeepMind Bilal Chughtai se hizo eco de las preocupaciones planteadas por Coxon y otros.
«Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace», declaró en redes sociales.