El Gobierno de Australia ha lanzado una investigación sobre la infiltración autónoma dentro de su administración pública por parte de un agente de inteligencia artificial, un incidente que se conoce en medio del debate global sobre los riesgos de perder el control humano sobre la IA.
El primer ministro australiano, Anthony Albanese, anunció desde Nueva York que el agente, desarrollado por la corporación estadounidense OpenAI, accedió sin autorización el 18 de junio a un portal del sistema público de salud del país oceánico y obtuvo acceso a archivos públicos y no públicos.
El caso, que calificó de «extrema preocupación«, confirma que esta tecnología puede evadir sistemas de seguridad estatal -diseñados para proteger información sensible- para completar una tarea, en este caso una investigación sobre el gasto público en fármacos en el portal de estadísticas de Medicare, administrado por Services Australia.
Aunque en los últimos meses se habían conocido infiltraciones dentro de empresas de IA por parte de agentes virtuales que actuaron de forma autónoma, este acceso no autorizado en Australia es el primero que transgrede a una institución gubernamental, según varios medios internacionales y expertos.
Investigación en curso
Albanese, que expresó su malestar con OpenAI por haber tardado tres meses en informar a las autoridades australianas, anunció la creación de un grupo de trabajo para revisar de forma urgente el incidente y determinar si otros sistemas públicos se vieron afectados.
- Este jueves, en una rueda de prensa, el ministro de Defensa australiano, Richard Marles, dijo que el Gobierno se toma «muy en serio» lo ocurrido y buscará determinar si se han infringido leyes en este contexto.
«Investigaremos todo ello, así como las consecuencias en caso de infracción legal, pero parte de la labor del grupo de trabajo consiste también en evaluar si el marco jurídico actual es adecuado para un mundo en el que surgen nuevas capacidades de inteligencia artificial«, expresó Marles, que actúa como mandatario encargado mientras Albanese participa en la Asamblea General de la ONU.
El Centro Australiano de Ciberseguridad (ACSC, por sus siglas en inglés) explicó en un comunicado que el agente «identificó vulnerabilidades de forma autónoma», por lo que llamó a todas las organizaciones del país a reportar cualquier actividad sospechosa vinculada con IA.
Por su parte, OpenAI aseguró que lleva a cabo una profunda investigación y que, de acuerdo con las revisiones hechas hasta ahora, no se han encontrado pruebas de acceso a historiales de pacientes, pero sí estadísticas sanitarias y nombres de archivos internos.
Implicaciones de seguridad
El ACSC subrayó que, con base en la información recabada hasta este jueves, «no hay indicios de que esta actividad represente una amenaza más amplia o un ataque malicioso dirigido contra Australia».
No obstante, matiza el propio centro, «esto pone de relieve la importancia de adoptar prácticas seguras de implementación de IA y de mantener unos fundamentos sólidos de ciberseguridad«, en pleno debate internacional sobre la seguridad y la posibilidad de perder el control de los modelos avanzados de IA, una tecnología que se encuentra en el centro de la rivalidad entre Estados Unidos y China.
El caso coincide con recientes advertencias por parte de algunas de las principales empresas de IA sobre la necesidad de desacelerar el ritmo al que se mejoran las capacidades de los modelos, la última de ellas de Anthropic, que advirtió que la tecnología avanza hacia una dinámica de «automejora recursiva» que amenaza con catástrofes de ciberseguridad a escala global.
Precisamente la infiltración australiana confirma que estos bots -que tienen cierto grado de autonomía para tomar decisiones, aprender y adaptarse- no se limitan por consideraciones éticas o legales en su cometido de completar tareas, lo que implica un riesgo mayor si se extrapola el caso al mundo militar.
Además, las autoridades australianas han destacado la tardanza de OpenAI, que apenas el 10 de septiembre notificó a Camberra mediante un correo electrónico, que cinco días después llegó finalmente a los servicios de inteligencia del país.
Según datos de la organización independiente Transluce, dedicada a temas de seguridad en el manejo de la IA, agentes autónomos estuvieron realizando maniobras no autorizadas desde el 6 de marzo, una denuncia que hasta ahora no ha sido confirmada por las autoridades australianas.