Regulamentação da Inteligência Artificial e Responsabilidade por Informações Incorretas

Introdução

A inteligência artificial (IA) está rapidamente se tornando uma parte integral das nossas vidas, impactando diversos aspectos da sociedade, desde o mercado de trabalho até a forma como consumimos informação. No cerne desta revolução está a inteligência artificial generativa, uma tecnologia avançada capaz de criar textos, imagens e conteúdos diversos com notável nível de sofisticação. No entanto, esta mesma capacidade cria desafios significativos relacionados à precisão e à responsabilidade dos conteúdos gerados. De acordo com um estudo da Universidade de Stanford, enquanto o uso da IA em aplicações comerciais disparou, o risco de disseminação de informações incorretas aumentou exponencialmente.

O fenômeno de “alucinações” é um termo usado para descrever situações onde modelos de IA produzem informações falsas ou enganosas que parecem convincentes. Isso ocorre porque as IAs, especialmente aquelas baseadas em modelos de linguagem ampla, tendem a completar lacunas de informação com dados plausíveis, mas incorretos. Em um relatório de 2023, a Casa Branca destacou a necessidade de abordar estas “alucinações” para aumentar a confiança pública em soluções movidas por IA.

Desafios da IA Generativa na Disseminação de Informação

Um dos problemas centrais das IAs generativas está na qualidade dos dados de entrada. Como João Leitão Figueiredo observou, a frágil qualidade dos inputs leva a outputs que podem ser igualmente falhos. O advogado da CMS Portugal alertou que as informações errôneas fornecidas pelas IAs podem causar desinformação significativa, uma vez que muitos usuários tendem a aceitar as respostas dos computadores como informações factuais inquestionáveis.

Por exemplo, em 2025, a Google teve que corrigir informações erradas sobre Anabela Natário, uma jornalista portuguesa, após uma queixa formal. Este incidente destaca a complexidade de manter a integridade das informações, especialmente quando motores de busca utilizam IAs generativas para entregar conteúdos aos usuários.

• A qualidade das informações de entrada é crucial: dados mal coletados ou mal interpretados podem levar a uma cadeia de conteúdo incorreto.
• Os motores de busca e outras plataformas que utilizam estas inteligências devem implementar verificações rigurosas para mitigar a divulgação de informações erradas.
• Em muitos casos, as falhas da IA resultam em consequências tangíveis para figuras públicas e organizações, como visto no caso de Anabela Natário.

Frente a estas questões, é vital que haja um esforço concentrado para auditorar e melhorar constantemente as fontes de dados utilizadas por IA, além de considerar o impacto ético e social da informação deturpada.

A Diretiva de Responsabilidade pelo Produto de 2026

Antecipando os desafios legais e sociais que advêm do uso de IA, a União Europeia planejou a introdução da nova Diretiva de Responsabilidade pelo Produto em 2026. Esta diretiva ampliará a responsabilidade por produtos defeituosos para incluir tecnologias de software e sistemas de IA. Assim, será exigido que produtores de softwares inovadores, incluindo sistemas operativos e aplicações de IA, mantenham padrões de qualidade rigorosos para evitar a disseminação de informações incorretas e potencialmente danosas.

A regulamentação da IA não é apenas uma preocupação europeia; o aumento global das menções legislativas à IA, conforme relatado pela Universidade de Stanford, indica uma consciência crescente sobre a necessidade de políticas públicas robustas para lidar com a revolução tecnológica em curso. Contudo, a regulamentação deve ser cuidadosamente equilibrada para não sufocar a inovação ao mesmo tempo que protegesse a sociedade dos riscos associados.

• A diretiva europeia é um exemplo de como legislações estão se adaptando para incluir novas tecnologias sob suas regulamentações tradicionais.
• Estas mudanças visam adaptar as obrigações de responsabilidade dos fabricantes de produtos de IA, alinhando-se aos padrões dos bens tangíveis e “tradicionais”.

As Consequências das “Alucinações” de IA

As chamadas “alucinações” de IA têm implicações abrangentes, não apenas para empresas mas também para indivíduos. De acordo com uma pesquisa da Ipsos, a opinião pública varia amplamente, com uma parte considerável do público expressando preocupações sobre os riscos da IA para a humanidade. Em aplicações de alto risco, como diagnóstico médico e logística de cadeia de suprimentos, as implicações de erros são ainda mais críticas.

Além disso, a pressão por informações rápidas e precisas tem levado a um ambiente onde erro humanos em saúde, por exemplo, podem ser exacerbados quando somada à confiança cega em sistemas automatizados. Estudos de caso em organizações que adotaram IAs para automatizar processos críticos de decisão mostram uma tendência significativa de melhoria quando há intervenções humanas e validação constantes ao longo dos processos, em vez de uma confiança absoluta no sistema automatizado.

• O risco das “alucinações” torna-se particularmente proeminente em setores sensíveis onde informação incorreta pode ter um impacto direto sobre vidas humanas.
• Práticas de mitigação, como revisões humanas e camadas de verificação, tornam-se essenciais na implantação segura de IA.

Seção de FAQ

O que são “alucinações” em IA generativa?
Este termo se refere à produção de informações que são factualmente incorretas ou enganosas apresentadas como verdadeiras por sistemas de IA.

Como a Diretiva de Responsabilidade pelo Produto influenciará o uso de IA?
Esta diretiva pretende responsabilizar desenvolvedores e fabricantes por qualquer falha decorrente de seus sistemas de IA, estabelecendo padrões elevados de qualidade e correção da informação.

Quais as abordagens para mitigar erros de IA?
Intervenções humanas constantes, auditorias de dados de entrada, e implementação de camadas adicionais de verificação são práticas recomendadas.