L'Agència Espanyola de Protecció de Dades (AEPD) ha rebut la primera notificació d'una bretxa de dades personals en la qual l'atac hauria estat executat mitjançant un agent d'intel·ligència artificial. El sistema, que va utilitzar un conegut model de llenguatge, va aconseguir accedir a una aplicació i, un cop dins, va buscar la forma de trobar vulnerabilitats de manera autònoma fins a aconseguir modificar dades personals i accedir a factures.
La pròpia Agència demana cautela sobre el que ha ocorregut. La informació disponible prové de la notificació presentada per l'organització afectada i encara ha de ser sotmesa a l'anàlisi corresponent, per la qual cosa l'AEPD no dóna per acreditats definitivament tots els detalls de l'incident.
Tampoc identifica en la informació difosa quin model de llenguatge va ser utilitzat ni quina organització va patir la bretxa. A més, recalca que l'ús d'un determinat model no significa que el propi sistema d'IA o la infraestructura de l'empresa que el proporciona hagin estat compromesos, ni que l'eina hagi estat dissenyada per realitzar activitats malicioses.
L'agent va buscar vulnerabilitats per si mateix
Segons la informació comunicada a l'AEPD, l'agent atacant va començar realitzant una cerca de vulnerabilitats en arxius genèrics i va aconseguir iniciar sessió correctament en el sistema.
Un cop obtingut l'accés, va començar a buscar de manera autònoma vulnerabilitats en l'aplicació. Finalment va aconseguir explotar-les, cosa que li va permetre alterar dades personals i accedir a factures.
Per a la Protecció de Dades, la principal novetat està en què un tercer hauria utilitzat un agent d'IA per encadenar amb èxit diferents fases d'un ciberatac, en lloc de limitar l'ús d'intel·ligència artificial a assistir una persona en tasques concretes.
L'Agència adverteix que una única notificació no permet parlar encara d'una tendència estadística, però sí considera el cas una senyal rellevant que els atacs suportats en intel·ligència artificial comencen a materialitzar-se en incidents que afecten a tractaments reals de dades personals.
El salt de la IA com a assistent a la IA que actua
L'ús d'intel·ligència artificial per a activitats malicioses no comença amb aquest incident. Els models generatius ja poden utilitzar-se per crear missatges de phishing, traduir campanyes fraudulentes, suplantar identitats, analitzar codi o facilitar la cerca de vulnerabilitats.
La diferència que destaca l'AEPD està en l'aparició dels denominats agents d'IA. Aquests sistemes poden rebre un objectiu i, a partir d'ell, planificar tasques intermèdies, utilitzar diferents eines, executar codi, consultar informació i interpretar els resultats per adaptar posteriorment les seves accions de manera autònoma.
Per tant, la intel·ligència artificial no genera necessàriament noves classes de amenaces, però sí pot augmentar la velocitat, l'escala i la capacitat d'adaptació de tècniques d'atac que ja existien. La conseqüència és una reducció del marge de temps del qual disposen les organitzacions per detectar i frenar una intrusió.
El Centre Criptològic Nacional ja havia alertat del risc
L'advertència coincideix amb les conclusions recollides pel Centre Criptològic Nacional (CCN) en la seva guia de bones pràctiques davant del model d'IA ofensiva.
El organisme considera que la intel·ligència artificial ofensiva està evolucionant cap a una capacitat operativa integrada en campanyes reals. Entre les seves recomanacions figuren accelerar la gestió de vulnerabilitats, reforçar la protecció d'identitats, controlar la cadena de subministrament i establir una governança adequada per a l'ús d'agents.
L'incident notificat a l'AEPD suposa ara un cas concret en l'àmbit de la protecció de dades a Espanya en què un agent d'IA hauria participat directament en les diferents fases de l'atac.
Les empreses hauran de revisar com responen als ciberatacs
L'AEPD considera que el cas obliga a replantejar les anàlisis de riscos de les organitzacions. A seu judici, ja no resulta suficient contemplar de manera genèrica amenaces com el malware, el phishing o els accessos no autoritzats, sinó que han d'incorporar expressament els atacs assistits o executats mitjançant intel·ligència artificial.
També apunta als temps de reacció. Els procediments concebuts per fer front a atacs desenvolupats manualment poden resultar insuficients si un agent és capaç d'analitzar simultàniament diferents actius, provar diverses vies d'entrada i modificar ràpidament el seu comportament.
Un altre dels punts crítics són les credencials. Si un agent obté accés a un compte, una clau API o un token amb permisos excessius, pot desplaçar-se entre diferents serveis a velocitat de màquina abans que l'organització identifiqui el comportament anòmal.
L'Agència conclou que la protecció de les dades no pot descansar exclusivament sobre la intervenció manual. La supervisió humana continua sent necessària, però ha de complementar-se amb sistemes de detecció, contenció i resposta suficientment ràpids per fer front a atacs automatitzats mitjançant IA.