El futur és avui. I no, no és una distopia, és que ja ha arribat. Tant de temps alertant dels riscos (i els beneficis) que acompanyarien el desenvolupament de la intel·ligència artificial, i, amb un clic, s'han fet realitat de la manera menys desitjada: mostrant la seva cara més fosca i corroborant que la ciberseguretat tal com fins ara s'ha entès és història.
La situació actual es pot resumir en poques paraules: la tecnologia permet analitzar grans quantitats d'informació, detectar anomalies i automatitzar respostes davant amenaces, però aquestes mateixes capacitats poden utilitzar-se per buscar vulnerabilitats, adaptar atacs i executar determinades accions amb una intervenció humana cada cop menor.
A partir d'aquí, el debat està servit, i en boga, ja que les notícies salten cada dia. En només unes setmanes, el conseller delegat d'Anthropic, Dario Amodei, va reclamar acompassar el ritme de desenvolupament de la IA amb l'evolució de les mesures de seguretat. Jacob Coxon, investigador que va treballar a OpenAI i Anthropic, va presentar la seva dimissió d'aquesta última companyia després de considerar que ambdues empreses estan avançant de manera imprudent cap a sistemes capaços de millorar les seves pròpies capacitats. El responsable d'OpenAI, Sam Altman i Elon Musk van recolzar a Amodei, mentre que Mark Zuckerberg va defensar que els propis laboratoris tenen incentius suficients per desenvolupar controls de seguretat i decidir quan han de frenar l'entrenament d'un model.
I, per descomptat, va aparèixer la geopolítica: Donald Trump va rebutjar les crides a frenar el desenvolupament i va situar la competència amb la Xina com un dels arguments per mantenir el ritme d'avanç.
La IA ja participa en ciberatacs reals
Que l'amenaça de la IA no és un futurible està demostrat. L'Agència Espanyola de Protecció de Dades (AEPD) acaba de rebre una notificació sobre una bretxa en la qual un agent d'intel·ligència artificial hauria participat directament en diferents fases de l'atac. El sistema va ser capaç de buscar vulnerabilitats, accedir a l'aplicació i, un cop dins, continuar explorant de manera autònoma fins aconseguir modificar dades personals i accedir a factures.
En paral·lel, el Centre Criptològic Nacional i INCIBE va alertar sobre l'evolució d'eines que incorporen intel·ligència artificial per automatitzar diferents fases d'operacions ofensives. La diferència és important, perquè els models generatius ja podien utilitzar-se per a tasques com crear missatges de phishing, analitzar codi o facilitar la cerca de vulnerabilitats. La incorporació de capacitats agèntiques afegeix la possibilitat que el sistema planifiqui passos intermedis, utilitzi eines, executi accions i modifiqui el seu comportament en funció del que troba, reduint el temps del qual disposa una organització per detectar una intrusió.
Què està fent Europa?
La resposta europea s'està construint sobre diversos fronts reguladors. El Reglament europeu d'Intel·ligència Artificial incorpora requisits de ciberseguretat per a determinats sistemes i contempla la necessitat que els sistemes d'alt risc assoleixin nivells adequats de precisió, robustesa i ciberseguretat durant el seu cicle de vida.
A aquest marc s'hi sumen les obligacions de gestió del risc i notificació d'incidents previstes per NIS2 per a les entitats incloses en el seu àmbit i les exigències de ciberseguretat per a productes amb elements digitals establertes pel Reglament de Ciberresiliència. L'objectiu és que la seguretat no quedi limitada a la infraestructura sobre la qual funciona un sistema, sinó que s'estengui als seus components i a les diferents fases d'utilització.
La Comissió Europea ha reforçat a més aquest enfocament amb el seu pla d'acció sobre intel·ligència artificial i ciberseguretat presentat al juliol de 2026. El plantejament parteix d'una doble realitat: la IA pot millorar la capacitat de detectar i respondre davant amenaces, però també pot utilitzar-se per identificar vulnerabilitats i automatitzar atacs.
Una tecnologia que amplia la superfície d'atac i també la defensa
La transformació no consisteix únicament en que apareguin noves tècniques d'atac. La IA modifica la velocitat, l'escala i la capacitat d'adaptació de les operacions, alhora que incorpora nous elements al perímetre que les organitzacions han de protegir.
Entre els riscos apareixen tècniques com el prompt injection, mitjançant la qual s'intenta manipular les instruccions que rep un model, o el data poisoning, que consisteix a introduir informació alterada per afectar el comportament del sistema. També adquireix importància la cadena de subministrament, ja que una organització pot dependre de models, conjunts de dades, biblioteques, serveis al núvol o APIs desenvolupats per tercers.
Notícia destacada
La cursa per controlar una intel·ligència artificial cada vegada més poderosa
5 minuts
El mateix canvi tecnològic obre, tanmateix, noves possibilitats per a la defensa. La IA pot analitzar grans volums d'informació, identificar patrons anòmals, detectar vulnerabilitats i automatitzar determinades respostes. El repte consisteix que la capacitat defensiva avanci al mateix ritme que les capacitats que poden utilitzar-se amb fins ofensius.
El informe Inteligència Artificial i Ciberseguretat, de DigitalES, recull una dimensió addicional d'aquesta transformació: l'expansió dels agents autònoms. Segons aquest estudi, el 40% de les aplicacions empresarials incorporaran agents d'IA específics per a tasques durant 2026, davant de menys del 5% el 2025. Al mateix temps, el 48% dels professionals de ciberseguretat identifica la IA agèntica i els sistemes autònoms com la major amenaça de l'any.