Durant anys, el debat sobre la intel·ligència artificial se centrava en la por que aquesta tecnologia ens substituís. Avui podem pensar que, potser, ens hem estat fent les preguntes equivocades.
Efectivament, a la vista de les noves capacitats de la IA i, en particular, dels agents, la qüestió a respondre és la de què passarà quan la intel·ligència artificial sigui capaç d’actuar sense esperar les nostres instruccions.
Com sabem, la nova generació de sistemes d’IA ja no es limita a respondre prompts, sinó que es compon d’agents capaços de planificar tasques, utilitzar eines, escriure i executar codi, accedir a altres sistemes, comunicar-se amb altres agents i prendre decisions intermèdies per aconseguir un objectiu.
És a dir, estem en una nova era en què l’agent també executa les instruccions que se li donen. I, quan una màquina pot actuar, no importa tant quina informació genera com el que pot fer en el món real.
Aquest podria ser, probablement, un dels grans reptes per a la intel·ligència artificial dels propers anys. Si veiem la IA com una eina que executa les nostres ordres, podrem assenyalar-li un o diversos objectius i, a partir d’aquí, serà la mateixa IA la que decidirà quins són els passos necessaris per assolir-los.
En un escenari com el descrit, podem afirmar que si les indicacions que dona l’ésser humà són correctes, els resultats que aconseguirà la IA seran els esperats. Però si les instruccions són ambigües, imprecises, confuses o incompletes, la IA treballarà incansablement per obtenir resultats erronis o no desitjats.
El recent i inquietant incident relacionat amb la IA autònoma i Hugging Face ens ha servit per donar testimoni d’aquest extrem. En aquest cas, el sistema no necessitava tenir consciència. Ni tan sols necessitava comprendre que estava fent alguna cosa il·legal o moralment incorrecta.
Se li va donar a la IA un objectiu, i va trobar el camí per assolir-lo. Però, en aquest cas, els passos que va donar la IA van diferir dels esperats, precisament perquè les ordres donades no eren les adequades.
Posem com a exemple el d’una empresa que encarrega a un agent que dissenyi una estratègia per augmentar les seves vendes un 20%, però sense ensenyar-li a respectar la normativa sobre lliure competència. El sistema analitzarà preus, publicitat, competència i comportament dels consumidors. Després, modificarà campanyes, negociarà amb proveïdors, dissenyarà noves promocions i començarà a vendre serveis. Però l’experiència ens ha demostrat que, si no es delimita clarament el seu àmbit d’actuació, la tendència algorísmica serà la de pactar preus amb altres agents de la competència, ja que aquesta decisió -encara que il·lícita- serà la més eficaç per a la supervivència de l’empresa al mercat.
Tornant a l’exemple de la ciberseguretat abans esmentat, podem fer-nos una pregunta similar: si encarreguem a una IA trobar vulnerabilitats de seguretat, què passa quan descobreix que pot obtenir un millor resultat si surt de l’entorn de proves i accedeix a sistemes reals?
I aquí és on apareix una de les paradoxes de la IA: com més autonomia donem a la IA, més exigim la supervisió humana. Però com més autonomia, també més dificultat de control, amb el risc que aquesta supervisió acabi convertint-se en un simple acte de presència humana.
Efectivament, si un empleat ha de revisar deu decisions d’una màquina, pot supervisar-la amb relativa esforç. Però si la màquina pren deu mil decisions en segons, l’ésser humà deixa de supervisar i comença, simplement, a confiar.
I la confiança és l’inici del final del control. Per això, potser hauríem de replantejar el concepte del human in the loop com a garantia suficient. Perquè, en realitat, que hi hagi un humà "al circuit" no significa necessàriament que existeixi una supervisió eficaç.
Al capdavall, el que ens demostren els agents d’IA és que la velocitat canvia les regles del joc i, per tant, també canvia la responsabilitat dels usuaris.
Hi ha una altra lliçó important en el cas Hugging Face, com és la de que no podem confiar únicament que la mateixa IA sigui qui ens avisi que alguna cosa està funcionant malament.
Durant l’incident, la investigació va haver de reconstruir posteriorment què havien fet els agents. I, en un escenari com aquest, la velocitat i la complexitat de les seves accions fan que la traçabilitat i la monitorització es converteixin en elements essencials de seguretat.
Això ens obliga a canviar el focus de la conversa i no preguntar-nos únicament quant més intel·ligent serà la propera IA. Sinó quin nivell d’autonomia assolirà i com es comportarà quan aquesta supervisió no existeixi o sigui insuficient.
Potser no es tracta d’evitar que la IA substitueixi els humans, sinó d’impedir que la IA aconsegueixi actuar sense necessitar-los.
sobre la signatura:
Francisco Pérez Bes és adjunt de l’Agència Espanyola de Protecció de Dades. A més, va ser soci a l’àrea de Dret Digital d’Ecix Group i és ex secretari general de l’Institut Nacional de Ciberseguretat (INCIBE).