El 8 de septiembre, Jacob Coxon se sentó en un banco de San Francisco y anunció en X que acababa de dimitir de Anthropic. Había trabajado tres años en inteligencia artificial, primero en OpenAI y después en Anthropic. Acusó a ambas empresas de avanzar hacia sistemas capaces de mejorarse a sí mismos y de estar «jugándose nuestras vidas».
Coxon tiene 27 años. Su mensaje alcanzó millones de visualizaciones. Entonces sucedió algo más importante: la industria no se rio de él. Evan Hubinger, investigador de Anthropic, estimó en más de un 10 % la probabilidad de una catástrofe provocada por la inteligencia artificial. Días después, Dario Amodei pidió ralentizar los modelos más avanzados.
Yo sigo la inteligencia artificial por trabajo. Soy abogada especializada en ciberseguridad y leo los documentos de estas compañías con interés, pero sin sobresaltos. Aquella noche fue diferente. Pasé horas leyendo las respuestas bajo el mensaje de Coxon. No vi que participara.
A la mañana siguiente le escribí por Instagram sin esperar respuesta. Llegó en minutos. Me contó algo que todavía no se sabía: no podía acceder a su cuenta de X. Su mensaje recorría el mundo mientras él permanecía fuera de la conversación que había provocado.
Le pedí permiso para publicar aquel dato. Me lo concedió con una condición: no especular sobre la causa. Lo cumplí entonces y lo cumplo ahora. Lo demás permanece entre nosotros.
Coxon nunca ha dicho que viera una superinteligencia escondida. Lo que observó fue una dirección. Los sistemas mejoran programando, investigando y realizando tareas prolongadas. Si intervienen decisivamente en la construcción de sus sucesores, el desarrollo dejará de depender de la velocidad humana.
Es como si una fábrica de automóviles empezara a diseñar la siguiente fábrica. El peligro no es que hoy exista una máquina más inteligente que nosotros, sino descubrir demasiado tarde que el proceso avanza más rápido que nuestra capacidad para gobernarlo.
La historia conoce estas advertencias. Leo Szilárd comprendió las consecuencias de la reacción nuclear en cadena, contribuyó al proyecto que desarrolló la bomba atómica y después intentó impedir que se utilizara contra ciudades japonesas. Le escucharon para construirla. Su petición no llegó al presidente Truman antes del bombardeo de Hiroshima.
Una bomba es un arma física y Coxon habla de una trayectoria incierta. Pero ambos casos contienen la misma paradoja: quienes comprenden una tecnología desde dentro pueden advertir del peligro sin tener poder para detenerla.
Europa obliga a los proveedores de modelos con riesgo sistémico a evaluar capacidades, mitigar riesgos y notificar incidentes graves. Pero el sistema jurídico sigue pensado para controlar actores y productos dentro de una jurisdicción. La carrera que describe Coxon es mundial.
El peligro no es que hoy exista una máquina más inteligente que nosotros, sino descubrir demasiado tarde que el proceso avanza más rápido que nuestra capacidad para gobernarlo
Bruselas puede supervisar empresas en Europa. Washington puede intervenir sobre compañías estadounidenses. Ninguna autoridad puede imponer por sí sola una pausa a todos los laboratorios. Si uno se detiene y los demás continúan, la prudencia se convierte en desventaja competitiva.
Ese es el vacío. No faltan normas, sino una decisión sobre quién puede detener la carrera, qué evidencia justificaría hacerlo y cómo impedir que otro ocupe el lugar de quien se detenga.
En seguridad se aprende pronto que una norma escrita después del accidente no es una norma, sino un parte de daños. El Derecho sabe sancionar incumplimientos. Todavía no sabe gobernar una capacidad que puede volverse peligrosa antes de que exista un daño demostrable.
Coxon recuperó su cuenta días después. Nunca explicó qué ocurrió y no voy a especular. Pero sigo pensando en aquel chico sentado en un banco, después de trabajar en dos de los laboratorios más poderosos del mundo, midiendo cada palabra para advertirnos. Eso también es un dato.
sobre la firma:
Vela Micha es presidenta de Micha y Asociados Legaltec