Las brechas de ciberseguridad vinculadas a la inteligencia artificial (IA) más avanzada pusieron de manifiesto este verano los riesgos de perder el control sobre esta tecnología, según una coalición internacional de científicos, legisladores y organizaciones de la sociedad civil, que reclamó este viernes inspecciones y mecanismos de apagado de emergencia.

En una conferencia convocada por la AI Safety Connect en los márgenes de la Semana de Alto Nivel de la Asamblea General de Naciones Unidas, los expertos alertaron de que el vertiginoso ritmo técnico amenaza con desbordar la capacidad de respuesta política si no se actúa con rapidez.

"Hay consenso para dejar de mirar y admirar el problema, y pasar realmente a actuar", remarcó Nicolas Miailhe, cofundador de AI Safety Connect.

Miailhe comparó la parálisis actual con la inacción ante el cambio climático y citó la advertencia del pionero Yoshua Bengio: "La humanidad está dentro de un coche acelerando a fondo en medio de la niebla: sin frenos y sin cinturones de seguridad".

Nuestras noticias en tu mano: únete a nuestro canal de WhatsApp y mantente informado de todo lo que sucede.

"No es un caso hipotético de ciencia ficción"

Los especialistas denunciaron que la "pérdida de control" no es un escenario hipotético de ciencia ficción, sino un proceso en marcha demostrado por una serie continuada de incidentes durante el pasado verano.

Entre ellos destacaron vulneraciones protagonizadas por agentes autónomos de OpenAI en la infraestructura de Hugging Face y brechas de seguridad en el sistema de salud pública de Australia, descubiertas por investigadores independientes y no por las propias corporaciones tecnológicas.

Para Nick Moës, director ejecutivo de The Future Society, y Adam Gleave, consejero delegado de FAR AI, la ausencia de una catástrofe mayor hasta ahora se debe al mero azar o a que los modelos perseguían objetivos muy determinados, pese a demostrar ya "capacidades empíricas de engaño, manipulación, ejecución de planes no autorizados y autorreplicación".

A este panorama se suma el riesgo inminente del llamado "auto-mejoramiento recursivo" (RSI), la facultad de los modelos de optimizar y entrenar a la siguiente generación de sistemas prescindiendo de los ingenieros humanos.

"Con el auto-mejoramiento recursivo se sustituyen más y más partes del proceso con IA. Se vuelve extremadamente difícil garantizar que la función objetivo sea la que queremos cuando dejamos al ser humano fuera del circuito", alertó la doctora Katarina Slama, exinvestigadora de OpenAI.

Lea también: El abogado Janiel Melamed es el nuevo jefe de la Oficina de Seguridad del Distrito

El efecto de contagio regulatorio

Moës explicó cómo las normativas pioneras en California o la Unión Europea obligan a las multinacionales a adaptar sus modelos de manera global.

El senador estatal de California Jerry McNerney defendió el impacto de normativas pioneras como la ley SB 813 californiana o el marco comunitario europeo.

Debido al coste astronómico de entrenar modelos de frontera, las empresas no desarrollarán versiones separadas para cada jurisdicción, sino que adoptarán el estándar más estricto.

La IA, muy presente en la Asamblea General 

Apenas dos días antes, los principales directivos de la industria -entre ellos Sam Altman (OpenAI) y Dario Amodei (Anthropic)- comparecieron ante el Consejo de Seguridad de la ONU en una histórica sesión auspiciada por Francia, donde ambos líderes admitieron que ningún Estado ni empresa puede gestionar los riesgos en solitario y apoyaron salvaguardias internacionales.

Te puede interesar: Policía incautó más de 880 kilos de cocaína en el puerto de Cartagena

Ese clamor multilateral se vio reforzado por la iniciativa conjunta liderada por mandatarios como Emmanuel Macron (Francia) y Pedro Sánchez (España) para restringir el acceso y blindar a los menores de edad ante los algoritmos.

Sin embargo, la hoja de ruta choca de frente con la postura del presidente de Estados Unidos, Donald Trump, quien durante su discurso ante la Asamblea General rechazó cualquier "esquema globalista" de regulación y anunció que los documentos del Gobierno estadounidense pasarán a utilizar el término "superinteligencia" (SI) en lugar de inteligencia artificial.

EFE