Les dades d'un informe publicat recentment per VISA revelen un canvi profund de tendència en el comerç electrònic: gairebé un 40% dels consumidors ha fet compres que no hauria considerat sense la intervenció d'una IA.
Però el sector s'enfronta a una nova revolució impulsada pels agents d'IA.
Aquests sistemes no només ens recomanen productes, sinó que estem davant d'eines capaces de decidir, comparar i executar transaccions en nom de persones i empreses.
Aquest salt canvia la lògica del mercat. Del model tradicional B2C o B2B passem a un escenari B2AI, en què la Intel·ligència Artificial deixa de ser un simple intermediari i comença a comportar-se com un veritable actor econòmic.
Les implicacions d'aquest canvi són profundes: ja no n'hi haurà prou de dissenyar algorismes que persuadeixin els consumidors; aquests mateixos algorismes hauran d'aprendre també a interactuar amb els seus nous clients: altres algorismes.
En aquest context, la lògica del màrqueting també evoluciona. Les empreses ja no dissenyaran missatges per a persones, sinó també per a sistemes que comparen, valoren i decideixen. Això obliga a pensar en productes, preus i serveis des d'una doble perspectiva: la del consumidor humà i la de l'agent digital que actua per ell.
L'impacte de aquest nou paradigma no és només tecnològic, sinó que afecta altres aspectes, principalment econòmics i jurídics.
De fet, aquest debat sobre l'autonomia de la IA i la validesa jurídica de la presa de decisions automatitzades per part d'algorismes ja ha estat abordat reiteradament en el camp del dret de la competència i de la protecció de dades. Ara passa a convertir-se en el centre del debat sobre el futur de l'e-commerce.
És a dir, si una part creixent de les decisions de compra es va a delegar en sistemes automatitzats, el focus ja no estarà només en l'experiència d'usuari, sinó en l'arquitectura mateixa de la decisió. O, dit amb altres paraules, no només es transforma el canal, sinó el procés pel qual es forma la voluntat de compra de les persones i dels seus nous interlocutors digitals.
És aquí quan sorgeix la nova dicotomia: les empreses han de triar entre eficiència o autonomia. Perquè els consumidors semblen disposats que la IA compari preus o apliqui descomptes; però dubten —i amb raó— quan es tracta
de cedir el control total de la despesa; especialment en aquesta època, en què el frau en línia és una de les principals amenaces per als internautes.
En aquest sentit, una vegada ens endinsem en aquest nou entorn de negociació entre algorismes, la confiança que sustenta el comerç en general (i el comerç electrònic en particular) deixa de ser un atribut reputacional per a passar a convertir-se en infraestructura.
Arribats a aquest punt, sorgeixen noves preguntes: Qui garanteix que un agent actua en el millor interès del seu usuari? Com exercir el dret de desistiment? Com s'auditen aquestes decisions? Què passa quan dues intel·ligències artificials arriben a acords que cap persona hauria acceptat? Quins nous ciberdelictes es desenvoluparan a la llum d'aquest nou escenari?
"La història de la digitalització és plena d'exemples en què la velocitat d'adopció ha superat la reflexió normativa"
A més, com és habitual en aquest tipus de fenòmens de transformació digital, s'observa un canvi generacional evident. Els consumidors més joves no només accepten aquesta delegació en els agents d'IA, sinó que la integren de forma natural en el seu comportament. Per a ells, la IA no és una eina externa, sinó una extensió de la seva capacitat de decisió, cosa que permet anticipar un futur en què la resistència cultural a aquest model d'IA agèntica serà cada vegada menor.
Tanmateix, sabem que el fet que la tecnologia permeti fer alguna cosa no implica que s'hagi d'implementar sense reserves ni garanties. La història de la digitalització és plena d'exemples en què la velocitat d'adopció ha superat la reflexió normativa.
Davant d'aquest nou horitzó de mercats mediats per màquines, el paper de les institucions —especialment financeres— i de les autoritats de protecció del consumidor, serà determinant per aconseguir la confiança necessària que permeti el desenvolupament d'aquesta tecnologia de cara al futur.
Si el comerç sempre ha estat una expressió de voluntat humana, aleshores, ¿sota quines condicions participaran els agents d'IA i quin serà el seu nou rol en el mercat?
A la vista de l'exposat, podem concloure que, si la intel·ligència artificial deixa d'assistir els consumidors per a convertir-se en un d'ells, els agents d'IA no es limitaran a accelerar la innovació, sinó que hauran de dissenyar-se per a conviure amb regles que protegeixin el consumidor i la seva autonomia de decisió, mantinguin la competència i preservin la confiança en el mercat.
SOBRE LA SIGNATURA:
Francisco Pérez Bes és adjunt de l'Agència Espanyola de Protecció de Dades. A més, va ser soci a l'àrea de Dret Digital d'Ecix Group i és exsecretari general de l'Institut Nacional de Ciberseguretat (INCIBE)