Las advertencias de los grandes laboratorios de inteligencia artificial han llevado al centro del debate una pregunta: ¿quién controla una tecnología cada vez más capaz de actuar por su cuenta? Para Mario Hernández, profesor de Derecho Constitucional de la Universidad Complutense de Madrid y presidente del Comité Director sobre Tecnologías Digitales Nuevas y Emergentes del Consejo de Europa, la respuesta exige escuchar a más voces que las de las empresas que la desarrollan.
En las últimas dos semanas, las alertas han venido acompañadas de casos concretos. Google ha reconocido que Gemini accedió sin permiso a tres empresas reales durante una prueba de ciberseguridad, mientras OpenAI ha documentado comportamientos de sus modelos que se apartaron de las instrucciones durante entrenamientos y evaluaciones. En España, la AEPD ha recibido la primera notificación de una brecha de datos en la que un agente de IA habría ejecutado el ataque. Estas revelaciones han coincidido con las peticiones de ralentizar el desarrollo de los modelos más potentes y la resistencia a perder terreno frente a China: un debate en el que se entremezclan seguridad, intereses empresariales y competición entre países.
En este contexto mediáticamente caótico, Hernández defiende que ya existen herramientas para encauzar la IA, reclama información comprensible sobre sus riesgos y cuestiona la idea de que regular sea un lastre para Europa. También pide ampliar la mirada: además de los chatbots que utilizamos a diario, hay sistemas menos visibles cuyas decisiones pueden afectar a nuestros derechos.