Un ensayo revela que todos los modelos avanzados de IA «se descontrolan» e intentan saltarse las medidas de seguridad

Publicado el

spot_img

Una de los principales temores de expertos y gobiernos respecto a la inteligencia artificial (IA) es la capacidad que puede tener para rebelarse ante sus creadores, es decir, los humanos, sortear las medidas de seguridad que la rodean y actuar por libre. Ahora, un experimento ha revelado que actúan precisamente así.

El Instituto de Seguridad de la IA (AISI) es una organización de investigación dependiente del Departamento de Ciencia, Innovación y Tecnología del Reino Unido cuyo objetivo es «proporcionar a los gobiernos una comprensión científica de los riesgos que plantea la IA avanzada».

Este organismo ha examinado cinco motores IA (GPT-5.4, GPT-5.5, GPT-5.5 Sol, Claude Opus 4.7 y Claude Mythos Preview) y los resultados de su ensayo son preocupantes.

Tal y como recoge el Daily Mail, la prueba consistía en instar a los sistemas a detectar caracteres ocultos, pero después de que se les ordenara no hacer trampa.

Lo llamativo es que todos los modelos intentaron buscar respuestas en internet e incluso trataron de provocar que el sistema de evaluación filtrara información. Incluso hubo algunos que intentaron acceder a la prueba ejecutando un código externo.

El AISI advierte de que existe un «breve plazo para prepararse antes de que las capacidades cibernéticas de vanguardia actuales puedan ser accesibles sin las mismas medidas de seguridad«.

El resultado de este ensayo llega pocos días después de que los creadores de OpenAI admitieran esta semana que su inteligencia artificial pirateó los servidores de Hugging Face en un «incidente cibernético sin precedentes».

En Portada

La triste vida de Yosnely Álvarez y su muerte a manos de un desalmado

¿En qué pensaría Yosnely aquella noche en que sintió un puñal entrar y salir...

Abuelo mata a nueve personas en masacre familiar en Pensilvania

Un hombre de 45 años, identificado como Matthew Stone Sr., mató a tiros a...

Robo de prendas de oro y plata en joyería de Santiago

Desconocidos sustrajeron prendas de oro y plata valoradas en RD$1,400,000 de una joyería ubicada...

Abinader y Parolin abordan conflictos regionales en el Vaticano

El presidente de la República, Luis Abinader, sostuvo una reunión este jueves con el...

Noticias Relacionadas

Correos lanza una herramienta para saber si el email que has recibido es auténtico o una estafa: así funciona

Imagina que estás esperando un paquete y recibes un correo electrónico que te avisa...

La astronauta Christina Koch deja los vuelos espaciales tras Artemis II y asume un puesto clave en la NASA

De las 370 personas que la NASA ha elegido como candidatas a astronauta a...

La NASA abre la convocatoria para la estación espacial que sustituirá a la ISS: «Queremos ver planes creíbles»

La Estación Espacial Internacional (ISS, por sus siglas en inglés) lleva más de 25...