Progresso, evolução, desenvolvimento, mas com limites. Com controle. A inteligência artificial abriu um novo cenário em que o desenvolvimento tecnológico avança ao mesmo tempo que cresce o debate sobre como supervisioná-lo. Se há apenas alguns anos a atenção se concentrava no potencial desses sistemas, o foco se desloca agora para a governança: quem estabelece as regras, como são aplicadas e que mecanismos permitem verificar que os modelos mais avançados funcionam dentro de limites seguros.
O desafio não termina com a aprovação de um marco regulatório. A implantação da inteligência artificial em empresas e organizações obriga a converter princípios como a transparência, a supervisão humana ou a gestão de riscos em procedimentos concretos que possam ser aplicados de forma efetiva no uso diário desses sistemas.
Das normas à aplicação cotidiana
Essa transição da regulação para a prática constitui uma das principais conclusões do relatório apresentado este mês de julho pelo Lab de Governança de IA para a Humanidade da Nações Unidas durante a Convenção de Genebra, um documento cuja elaboração também contou com a participação da DigitalES trazendo a visão da indústria tecnológica espanhola.
O relatório sustenta que a governança começa realmente quando as organizações incorporam essas regras à sua atividade diária. A aplicação de critérios sobre transparência, segurança ou explicabilidade deixa de ser uma declaração de princípios para se tornar decisões operacionais: avaliar riscos antes do desdobramento de um sistema, definir responsabilidades durante todo o seu ciclo de vida ou estabelecer mecanismos que permitam compreender como atua um modelo.
Distante de propor um único esquema válido para qualquer organização, o documento sublinha que esses princípios podem ser adaptados a realidades muito distintas. As necessidades de uma empresa especializada em inteligência artificial diferem das de uma companhia industrial que incorpora essas ferramentas a seus processos, da mesma forma que os desafios mudam conforme o contexto econômico ou geográfico em que operam.
O papel das empresas na governança
O relatório atribui às empresas um papel decisivo nessa evolução. Cada implantação de inteligência artificial, cada novo caso de uso e cada experiência prática geram conhecimento que permite aperfeiçoar os modelos de governança e consolidar novas boas práticas.
A ideia é que a regulação e a experiência avancem de forma paralela. Enquanto as normas proporcionam um marco de atuação, a aplicação cotidiana permite detectar novos desafios e aperfeiçoar as ferramentas com as quais se supervisionam esses sistemas.
Também coloca ênfase na dimensão coletiva do processo. A governança não depende apenas de quem desenvolve um modelo, mas envolve fornecedores tecnológicos, integradores, clientes e usuários finais. Consequentemente, a responsabilidade deve ser distribuída entre todos os atores que participam no ciclo de vida dos sistemas de inteligência artificial.
Nesse contexto, a contratação pública e privada adquire um peso crescente. A incorporação de requisitos relacionados com a transparência, a avaliação de riscos ou a rastreabilidade nos processos de compra pode estender esses padrões ao conjunto da cadeia de valor e favorecer uma adoção mais homogênea das boas práticas.
O desafio de supervisionar sistemas cada vez mais autônomos
A evolução da inteligência artificial adiciona um novo elemento ao debate. Frente a modelos que podiam ser avaliados antes de seu lançamento, os sistemas mais recentes são capazes de aprender, interagir com seu entorno e executar tarefas com um maior grau de autonomia.
O relatório aponta que essa mudança obriga a substituir um modelo baseado apenas em certificações prévias por outro que incorpore mecanismos de supervisão continuada. Não apresenta os mesmos riscos um assistente que redige um rascunho de e-mail que um sistema capaz de enviar essa mensagem, executar uma operação ou tomar decisões sem intervenção humana imediata.
Por isso, algumas organizações já estão desenvolvendo controles adaptados ao tipo de ações que realiza cada sistema, diferenciando entre ações reversíveis e aquelas que requerem níveis mais elevados de supervisão.
A proposta de um supervisor internacional
A necessidade de reforçar esses mecanismos de controle também aparece na proposta apresentada por Demis Hassabis, CEO da Google DeepMind e prêmio Nobel de Química em 2024.
Em um ensaio intitulado A Framework for Frontier AI and the Dawning of a New Age, Hassabis defende a criação de um organismo internacional encarregado de submeter a testes independentes os modelos de inteligência artificial mais avançados antes de chegarem ao mercado.
Seu planejamento contempla avaliar os chamados modelos de fronteira para detectar possíveis riscos relacionados com a cibersegurança, o desenvolvimento de armas biológicas ou a capacidade de agir de maneira autônoma. Se um sistema não superar esses testes, o organismo teria capacidade para atrasar ou impedir seu desdobramento.
A proposta apresenta uma estrutura inspirada na Autoridade Reguladora da Indústria Financeira dos Estados Unidos (FINRA): uma entidade financiada pela indústria, mas com autonomia técnica para realizar avaliações independentes.
Segundo Hassabis, a implementação deveria começar com a participação voluntária dos principais laboratórios de inteligência artificial, com o objetivo de evoluir posteriormente para um modelo baseado em normas compartilhadas e de aplicação obrigatória. O responsável pelo Google DeepMind considera ainda que esse organismo deveria estar operativo antes do final de 2026.
Os perigos de uma IA sem mecanismos de controle
E se não se regular a inteligência artificial? Entre as principais ameaças figuram capacidades relacionadas com a cibersegurança, o possível desenvolvimento de armas biológicas ou a execução autônoma de determinadas ações sem intervenção humana imediata.
Tanto o relatório apresentado pelo Lab de Governança de IA para a Humanidade das Nações Unidas quanto a proposta defendida por Demis Hassabis coincidem que esses riscos exigem mecanismos capazes de identificar ameaças antes do desdobramento dos sistemas e manter controles adaptados à sua evolução. O objetivo é reduzir o impacto de possíveis incidentes em uma tecnologia cujo grau de autonomia não para de aumentar.
A corrida em direção a uma inteligência artificial quase humana
Um dos fatores que está acelerando o debate regulatório é a rapidez com que evoluem os sistemas de inteligência artificial. Demis Hassabis sustenta que a aparição de uma inteligência artificial geral, capaz de igualar ou superar numerosas capacidades cognitivas humanas, poderia ocorrer nos próximos anos.
Embora também incida que ainda existe uma janela de tempo para estabelecer mecanismos eficazes de supervisão antes que esses modelos alcancem esse nível de desenvolvimento. Em sua opinião, o potencial dessa tecnologia para impulsionar avanços em áreas como a medicina ou a energia convive com riscos que exigem avaliações independentes antes de seu desdobramento.
Se essa previsão se cumprir, o debate deixará de se centrar apenas na capacidade técnica dos novos modelos para se deslocar também para seu impacto econômico, político e social. Daí que cada vez mais vozes defendam a necessidade de preparar mecanismos de controle antes que essa nova geração de sistemas chegue ao mercado.