QUIÉN ES QUIÉN
A MANO ALZADA
Como es sabido, 2023 ha sido un punto de inflexión en el desarrollo de la Inteligencia Artificial especialmente desde la aparición de la versión 3.5 de ChatGPT, momento en el cual se democratizó el uso de una herramienta que ha marcado el ritmo de la evolución tecnológica (y regulatoria) hasta la actualidad.
La IA ha sido -a mi juicio- la que con más claridad ha demostrado la dificultad de regular la tecnología, teniendo en cuenta que, en apenas 5 semanas, el mundo -tal y como lo conocíamos-, desapareció para convertirse en el lugar dominado por la Inteligencia Artificial que es ahora.
Fechas clave de la IA en 2023
El 13 de marzo de 2023, OpenAI anunciaba el lanzamiento de su GPT4, mucho más potente que su anterior versión. Al día siguiente, Anthropic anunciaba el lanzamiento de Claude.
El 16 de marzo, Microsoft integraba chatGPT4 en su suite de Office 365. El 21 de marzo, Google lanzaba Bard. El 30 de marzo, Bloomberg anunciaba su modelo LLM especializado en finanzas. El 13 de abril, Amazon lanzaba Bedrock…
A la vista de lo anterior, algunos se preguntan cómo podemos regular este fenómeno, mientras que otros -simplemente- se preguntan si es posible regularlo.
Si el objetivo fuera regular la tecnología en sí, podríamos afirmar que sólo podríamos hacerlo con una normativa que se limitase a regular las características técnicas, sabiendo que la rapidez del desarrollo tecnológico convertirá a su regulación en un esfuerzo prácticamente inútil, dejando tras de sí un haz de normas obsoletas en un breve periodo de tiempo.
Por eso, precisamente, la regulación de la Inteligencia Artificial se ha llevado a cabo con un enfoque basado en la aproximación al riesgo derivado de su uso (“risk approach”), pues solo eso nos permitirá garantizar la eficaz aplicación de la norma al garantizar la defensa de los derechos y libertades fundamentales.
La regulación de la IA se ha llevado a cabo con un enfoque basado en la aproximación al riesgo derivado de su uso y solo eso nos permitirá garantizar la eficaz aplicación de la norma
Estos derechos y libertades pueden verse afectadas por su utilización, con independencia de los desarrollos tecnológicos que puedan afectarle, y cumplir, así, con la exigencia de que sea una norma que aguante los envites de la evolución o, como se suele denominar en el argot regulatorio europeo, “future proof”.
Si oteamos el horizonte tecnológico desde la atalaya de las tendencias actuales, podríamos identificar algunas áreas con altas probabilidades de destacar durante el año 2024, especialmente en determinados sectores, tales como la educación, la sanidad, la automoción o el empleo (en particular en temas de formación y capacitación profesional), los cuales parecen estar llamados a liderar esta revolución tecnológica en los próximos meses.
Estas cuestiones son:
1. Aspectos de Ética y buen gobierno: se espera que la ética en la inteligencia artificial continúe siendo un tema central en el debate regulatorio. Las cuestiones que afecten a la gobernanza de la IA en las empresas, la privacidad (en particular los entrenamientos con datos personales), los sesgos algorítmicos (bias) y la discriminación que pueden provocar, y las tomas de decisiones automatizadas se intensificarán, ampliando el enfoque hacia la necesidad de marcos éticos y regulaciones eficientes basados en los análisis de impacto en los derechos humanos y los códigos de conducta.
Hay algunas áreas con altas probabilidades de destacar durante el año 2024, especialmente en sectores como la educación, la sanidad, la automoción o el empleo
2. Transparencia y explicabilidad: a medida que los sistemas de inteligencia artificial se vuelven más complejos y opacos (black boxes), la necesidad de comprender y explicar sus decisiones y los procesos a través de los cuales un algoritmo toma ciertas decisiones, se vuelve crucial para poder garantizar que actúe de forma lícita, con consecuencias relevantes tanto en temas de privacidad como concurrenciales y de competencia desleal en el mercado.
3. IA conversacional avanzada: en esta materia se prevé una evolución hacia sistemas más avanzados y contextuales, donde los asistentes virtuales y chatbots mejorarán su capacidad para comprender y responder de manera más natural, con el riesgo de que tales respuestas puedan (de forma voluntaria o causada por los prejuicios de los datos usados en su entrenamiento) manipular o afectar negativamente a la libertad de decisión de los usuarios, especialmente en aquellos colectivos más vulnerables.
4. Inteligencia Artificial y ciberseguridad: a medida que las amenazas cibernéticas evolucionan, también lo harán los recursos defensivos, donde esta nueva tecnología se adaptará de manera más efectiva a la detección y prevención de ataques. La nueva taxonomía de ciberataques, derivada de las nuevas capacidades de la IA, evolucionará hacia la creación de nuevos incidentes, como por ejemplo el data poisoning.
5. Colaboración Humano-Máquina: se potenciará la investigación en la colaboración entre humanos y máquinas explorando cómo los sistemas de IA pueden mejorar las habilidades humanas y viceversa.
6. Inteligencia Artificial Cuántica: a medida que la computación cuántica avanza, se espera que la combinación de esta tecnología con la inteligencia artificial genere avances significativos en la capacidad de procesamiento y resolución de problemas complejos.
Nuevo Reglamento de Inteligencia Artificial
Todas estas cuestiones se verán empañadas por la publicación, a comienzos del nuevo año, del Reglamento de Inteligencia Artificial, que supondrá un nuevo escenario regulatorio y de nuevas obligaciones para las empresas, que deberán adaptarse a riesgo de sufrir algunas de las sanciones multimillonarias que esta nueva norma prevé para las empresas incumplidoras.
Esto nos puede llevar a concluir la necesidad de incluir un nuevo punto a la lista de temas relevantes en 2024, como será el de cumplimiento normativo o cibercompliance, que va a requerir de un conocimiento de las normas y de su impacto en el negocio, así como de asesoramiento legal especializado para su correcta implementación, que sólo unos pocos pueden ofrecer en un mercado cada vez más agitado.
SOBRE LA FIRMA Francisco Pérez Bes es socio en el área de Derecho Digital de Ecix Group y ex Secretario General del Instituto Nacional de Ciberseguridad (INCIBE).
