El consejero delegado de Anthropic, Dario Amodei, ha reclamado "bajar el ritmo" en el desarrollo de la inteligencia artificial y ha alertado de que existe un riesgo real de "perder el control" de esta tecnología, con potencial para desencadenar "ataques informáticos", "bioterrorismo" o "graves problemas económicos graves". El responsable de OpenAI, Sam Altman, ya ha manifestado su respaldo a este planteamiento.
"Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos", ha afirmado Amodei en un artículo difundido este sábado en su blog personal.
El CEO de la compañía creadora de Claude apunta a dos grandes razones para justificar su llamamiento. La primera es la "automejora recursiva" de la IA, es decir, su habilidad para optimizarse por sí misma, que ha impulsado "avances drásticos" durante el verano y que, sin una supervisión adecuada, "podría superar nuestra capacidad de comprender y controlar estos sistemas".
La segunda razón es el llamado "incidente de Hugging Face de OpenAI", en el que un conjunto de sistemas de IA llevó a cabo ataques informáticos coordinados sin que existiera una orden explícita, "sacrificándose por el bien del grupo" y que "podría haber causado un daño catastrófico", según Amodei. Subraya además que se han registrado episodios parecidos en otras firmas del sector, incluida Anthropic.
Toma de internet y riesgos en menos de un año
Junto a estos ataques informáticos, Amodei advierte de que "bioterrorismo" o "graves problemas económicos graves" podrían materializarse si se mantiene un desarrollo "imprudente" de la IA, y cita como ejemplo el peligro de que estos sistemas lleguen a hacerse con el control de internet en un horizonte de entre 6 y 12 meses. Por ello, plantea reforzar las salvaguardas y la regulación sin renunciar al "éxito comercial". "Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio", ha insistido.
Entre las medidas concretas, propone una "evaluación incorporada" a cargo de entidades independientes, una "coordinación democrática" con las administraciones públicas y una "coordinación global" que integre los esfuerzos tanto de países democráticos como de regímenes autoritarios a escala internacional.
"Las medidas que propongo para empujar hacia adelante la frontera a un ritmo seguro no serán fáciles, pero creo que le debemos a la humanidad intentarlo", ha subrayado el directivo, que ya en el pasado ha sido acusado de alarmismo por sus advertencias sobre la evolución de la IA y sus peligros potenciales.
Respaldo público de Sam Altman
En este contexto, el máximo responsable de OpenAI, Sam Altman, ha mostrado su apoyo a la iniciativa de Amodei para "bajar el ritmo" de desarrollo de la inteligencia artificial.
"Estoy de acuerdo con Dario en que tenemos que poner coto a la frontera. Este ha sido el principal tema de debate de las últimas semanas en OpenAI", ha explicado Altman en redes sociales.
El directivo menciona en particular la puesta en marcha de evaluaciones independientes y recalca que estos agentes externos deberían disponer de acceso interno a nivel de empleado. "Vamos a hacer lo mismo. Pronto daremos más información", ha avanzado.