El director ejecutivo de la firma de desarrollo de inteligencia artificial OpenAI, Sam Altman, se presentará ante el Consejo de Seguridad de Naciones Unidas la próxima semana durante la cumbre de líderes mundiales de la Asamblea General del organismo, dijo la empresa el viernes.
- La reunión es organizada por Francia, en la presidencia rotatoria del Consejo de Seguridad, compuesto por 15 miembros, y se produce cuando los principales actores de la industria han afirmado que podría necesitarse una desaceleración en el desarrollo de la IA por motivos de seguridad.
El secretario general de la ONU, Antonio Guterres, pidió el miércoles una acción global internacional para enfrentar los riesgos de la IA, a medida que aumenta el temor sobre los peligros de la tecnología.
«La acción nacional es esencial. Pero también es indispensable la coordinación global«, dijo Guterres a periodistas.
Preocupaciones y reacciones
Las preocupaciones sobre la seguridad de la IA han aumentado en las últimas semanas con las renuncias de algunos trabajadores de grandes desarrolladores de IA motivadas por preocupaciones frente a esta tecnología.
- El director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo poco después en el que pidió precaución al sector.
«Debemos disminuir el ritmo en el que estamos mejorando las capacidades de los modelos de IA«, escribió.
Altman y el gigante tecnológico, Elon Musk, dieron su apoyo a la idea, al igual que Demis Hassabis, de DeepMind de Google, quien pidió también un organismo regulador mundial dirigido por Estados Unidos.
Pero el presidente Donald Trump ha dicho que las advertencias sobre los riesgos de la IA son «un engaño» y se ha opuesto a una supervisión más estricta.