La CNMV avisa: la IA en inversión sin supervisión humana incurre en fallos y alucinaciones

La CNMV advierte de que la IA aplicada a la inversión sin control humano genera errores de razonamiento y alucinaciones, y reclama verificación y datos oficiales.

2 minutos

Fachada de la Comisión Nacional del Mercado de Valores (CNMV). EUROPA PRESS

Publicado

2 minutos

La Comisión Nacional del Mercado de Valores (CNMV) ha advertido en un reciente estudio de que recurrir a la Inteligencia Artificial (IA) para tomar decisiones de inversión sin participación humana provoca “fallos recurrentes de razonamiento, incluyendo errores computacionales, interpretaciones financieras incorrectas y uso de información desactualizada o inventada --alucinaciones--”.

El trabajo “Modelos de lenguaje de gran tamaño y la inversión en bolsa: ¿es necesario el factor humano?”, firmado por Ricardo Crisóstomo y Diana Mykhalyuk, técnicos de la Dirección General de Estrategia y Asuntos Internacionales del supervisor, alcanza estas conclusiones tras contrastar las recomendaciones de inversión generadas por los modelos de lenguaje avanzados ChatGPT, Gemini, DeepSeek y Perplexity en el contexto financiero actual.

El documento remarca que estos errores se concentran sobre todo cuando se plantean consultas sencillas, poco estructuradas y sin contexto, “lo que pone de manifiesto la importancia de utilizar instrucciones analíticas claras y de establecer mecanismos de supervisión”, subrayan los autores.

El artículo también incide en que la incorporación de la IA a los mercados financieros supone no solo un desafío tecnológico, sino igualmente organizativo. Para que la capacidad generativa de estos sistemas se convierta en “resultados fiables”, sostiene que es imprescindible un modelo de trabajo colaborativo en el que la potencia de cálculo de la IA quede sometida a “procesos de verificación rigurosos y a una validación humana sistemática que permita mitigar los riesgos asociados cuando se detectan”.

Los especialistas de la CNMV recalcan, además, la relevancia de utilizar fuentes de información verificadas frente al contenido genérico y difuso disponible en la web, que, según apuntan, puede incluir “narrativas contradictorias o sesgadas”.

Del mismo modo, ponen en valor que los modelos de inversión que se alimentan de datos procedentes de autoridades supervisoras como la CNMV, donde la información está estandarizada y exhaustivamente contrastada, ofrecen mayor fiabilidad y registran un menor número de errores.

“El anclaje de los sistemas con información procedente de estas fuentes oficiales contribuye a reducir el ruido informativo, favorece la comparabilidad de los datos y permite obtener un razonamiento financiero más coherente, preciso y fiable, frente al uso de la información general que se encuentra en internet”, concluyen.