Até os capítulos anteriores, apresentamos as vantagens e os usos da IA. Mas, para realmente "dominar" a IA, é indispensável entender corretamente os riscos. Conhecer os riscos não é para ter medo da IA. É como aprender "a usar o freio" ao dirigir um carro: é o conhecimento básico para usar com segurança.
Os riscos não são algo "assustador", e sim algo "que se deve conhecer"
Conheça os 5 grandes riscos da IA
Os riscos a ter em mente no uso da IA se organizam, em linhas gerais, em 5. Como cada um tem natureza distinta, vamos primeiro captar a visão geral. Depois, aprofundamos um a um.
Fenômeno em que a IA apresenta, com firmeza e de forma plausível, informação sem base nos fatos. O maior risco da IA.
Um duplo ponto de debate: os dados de treinamento e o conteúdo gerado. Processos correm no mundo todo.
Possibilidade de os dados digitados serem usados no treinamento. Uma vez digitado, não dá para desfazer.
O viés social contido nos dados de treinamento se reflete diretamente na saída.
Mídia falsa indistinguível criada por IA. Usada em golpes e falsificação de identidade.
Alucinação — a IA mente com toda a confiança
Alucinação (Hallucination) é o fenômeno em que a IA apresenta, como se fosse verdade, informação sem base nos fatos. Não é exagero dizer que é o maior risco do uso de IA.
Por que acontece — entendendo o mecanismo
A IA funciona pelo mecanismo de "prever a palavra com maior probabilidade de vir a seguir". Ou seja, ela não está gerando "o que é correto", e sim apenas "o que é plausível". A IA não julga o que é verdadeiro ou falso. Ela não consulta um dicionário; apenas faz correspondência de padrões.
A taxa de alucinação varia muito entre os modelos. Um benchmark de 2025 aponta que, no melhor modelo (Gemini 2.0 Flash), foi de 0,7%, enquanto alguns modelos tiveram cerca de 30% de alucinações[2]. A melhora avança, mas nunca chega a zero.
Casos que realmente aconteceram
- Jurisprudência fictícia — um advogado nos EUA apresentou ao tribunal jurisprudências pesquisadas no ChatGPT, mas os precedentes citados não existiam (2023)
- Artigos fictícios — gera de forma plausível títulos e nomes de autores de artigos inexistentes
- Estatísticas erradas — afirma "o mercado de ○○ é de R$ △△ bilhões", mas o número diverge muito do real
- Área jurídica — em pesquisa da Universidade Stanford, a taxa de alucinação em consultas jurídicas chegou a 69–88% em alguns casos[2]
4 defesas
A alucinação não se resolve "zerando-a", e sim com um "mecanismo para detectá-la". Torne estes 4 passos um hábito.
Pergunte de volta "qual é a fonte que embasa isso?". Desconfie de afirmações sem fonte.
Números, leis e nomes de pessoas, confirme sempre em fontes primárias, como sites oficiais ou o texto original.
Faça a mesma pergunta a várias IAs e trate uma divergência nas respostas como sinal de alerta.
Pesquise com buscadores com IA que respondem com links de fontes, como Perplexity e Gemini.
As informações que merecem atenção redobrada são 4: estatísticas e números, nomes de pessoas e nomes próprios, direito e tributação e notícias recentes. Verifique sempre essas informações em fontes primárias.
💡 Dica prática: ao usar ferramentas de IA integradas à busca na web, como Perplexity e Gemini, a resposta vem com os links das fontes. Em tarefas importantes de pesquisa, o inteligente é alternar entre esses buscadores com IA. Nas empresas, também avança a adoção de guardrails de IA, que previnem respostas erradas por mecanismo.
Direitos autorais — posso usar? De quem é o que eu crio?
A questão da IA e dos direitos autorais tem, em linhas gerais, 2 lados: "pode-se usar obras protegidas no treinamento da IA?" e "o que a IA cria tem direitos autorais?".
Questão 1: dados de treinamento da IA e direitos autorais
Os modelos de IA são treinados com um enorme volume de conteúdo da internet (textos, imagens, código etc.). Sob a alegação de que obras são usadas sem autorização dos titulares, processos surgem no mundo todo.
| Processo | Resumo | Situação (em 2026) |
|---|---|---|
| NYT vs OpenAI | O New York Times processou pelo treinamento não autorizado de seus artigos | Em andamento |
| Getty vs Stability AI | Processo pelo treinamento não autorizado de fotos | Em andamento |
| Ação coletiva de artistas | Obras usadas sem autorização no treinamento de IAs de imagem | Vários em andamento |
| Yomiuri, Asahi e Nikkei vs Perplexity | Indenização total de cerca de 6,6 bilhões de ienes por uso não autorizado de artigos | Ação de 2025 |
Questão 2: direitos autorais do conteúdo gerado por IA
Se o conteúdo gerado por IA tem direitos autorais reconhecidos varia conforme o país.
O que a IA gera de forma autônoma não tem direitos autorais. Mas, se houver envolvimento criativo humano, pode ser protegido.
O escritório de direitos autorais adota a posição de "não reconhecer direitos autorais ao que é gerado só pela IA". Havendo controle criativo humano, pode ser parcialmente reconhecido.
As regras sobre direitos autorais do conteúdo gerado por IA estão em elaboração.
O que você deve cuidar
- No uso comercial, verifique sempre os termos de cada serviço
- Na geração de imagem, não especifique o nome de um artista específico ("no estilo de ○○" é fonte de problemas de direitos autorais)
- Verifique se a saída da IA não é semelhante a uma obra existente
- Quando necessário, deixe explícito que é gerado por IA
Privacidade — o que dá para entregar à IA
Em 2023, funcionários da Samsung Electronics digitaram no ChatGPT código confidencial da empresa, o que virou uma grande notícia. A partir desse episódio, muitas empresas passaram a definir políticas sobre a inserção de informações em IAs.
Os dados digitados na IA podem ser usados para melhorar o serviço ou treinar o modelo. Aja partindo do princípio de que "a informação digitada, uma vez inserida, não pode ser desfeita". O que e como digitar é explicado em detalhe em Cuidados ao inserir informações na IA.
- Informações confidenciais da empresa e código-fonte não divulgado
- Dados pessoais de clientes e parceiros
- Senhas, chaves de API e credenciais de autenticação
- Dados financeiros e de RH não divulgados
- Informações sigilosas confiadas por terceiros
- Informações já divulgadas publicamente
- Dados com nomes de pessoas e empresas anonimizados
- Textos que você escreveu e pretende publicar
- Comunicados à imprensa e materiais públicos
- Dados fictícios ou de amostra
Medidas concretas de proteção de dados
| Medida | Descrição |
|---|---|
| Desligar o histórico de chat | Tanto no ChatGPT quanto no Claude, dá para parar o uso dos dados de conversa no treinamento nas configurações |
| Versão enterprise | Os planos para empresas garantem que os dados não são usados no treinamento |
| Anonimizar as informações | Antes de digitar, troque nomes de pessoas por "Pessoa A" e nomes de empresas por "Empresa X" |
| Execução local | Rode modelos de código aberto no seu próprio PC, com o Ollama e afins |
💡 Critério na dúvida: pergunte-se "eu me importaria se esta informação fosse publicada na internet?". Se a resposta for "sim, me importaria", então não deve digitá-la na IA. Ao operar como organização, é mais seguro deixar formalizadas as diretrizes corporativas de uso de IA.
Viés e deepfake
Viés da IA — o desequilíbrio dos dados de treinamento aparece na saída
Viés da IA é o fenômeno em que preconceitos sociais contidos nos dados de treinamento se refletem diretamente na saída. A IA não está dando "a resposta certa", e sim tende a dar "a resposta que era maioria nos dados de treinamento".
- Viés de gênero — gerar a imagem de "enfermeiro(a)" traz só mulheres, e "engenheiro(a)" só homens
- Viés cultural — tendência a respostas enviesadas por valores anglófonos e ocidentais
- Viés de confirmação — reflete em excesso a opinião da maioria, e a perspectiva das minorias fica de fora
O que fazer: não engula a resposta da IA; crie o hábito de instruir "pense também por outra perspectiva", "apresente também o contra-argumento". Em decisões importantes, como contratação e avaliação de pessoal, é especialmente importante não usar o julgamento da IA como base única.
Deepfake — desinformação indistinguível
Com a evolução da geração realista de imagem, vídeo e áudio por IA, dispara o risco dos deepfakes (mídia falsa criada por IA). Estima-se que os deepfakes nas redes sociais saltaram de 500 mil em 2023 para 8 milhões em 2025[3].
- Golpe de clonagem de voz — golpe por telefone imitando a voz de um familiar ou chefe com IA. Uma clonagem pode ser feita a partir de poucos segundos de amostra de áudio
- Vídeos falsos — manipulação da opinião pública e falsificação de identidade com vídeos falsos de celebridades e políticos
- Notícias falsas — difusão em massa de artigos de notícia plausíveis gerados por IA
🛡️ Como se proteger
- Ligações urgentes do tipo "transfira dinheiro agora" devem ser confirmadas por outro meio
- Confira a fonte de imagens e vídeos chocantes vistos nas redes sociais
- Mantenha sempre uma certa desconfiança em relação a conteúdos que possam ter sido gerados por IA
Com a difusão dos agentes de IA, surgem também novos ataques, incluindo esse tipo de uso indevido. Para a perspectiva das empresas, também vale consultar Incidentes de segurança com agentes de IA.
Tendências regulatórias no mundo — a criação de regras começou
Para responder aos riscos da IA, a criação de leis avança a passos largos em vários países.
| Região | Regulação | Características |
|---|---|---|
| UE | AI Act (aprovado em 2024) | Regulação baseada em risco. Critérios rígidos para IA de alto risco (contratação, medicina, justiça). Aplicação gradual a partir de 2025 |
| Japão | Lei de promoção de IA (aprovada em maio de 2025) | Abordagem de "inovação em primeiro lugar". Prioriza a promoção em vez da regulação, mas também estabelece padrões de segurança |
| EUA | Ordem executiva sobre segurança de IA | Ainda sem lei federal abrangente. A regulação avança estado a estado |
Em dezembro de 2025, o Japão aprovou em conselho de ministros o "Plano Básico de IA" e planeja investimentos ligados à IA na casa de 1 trilhão de ienes em 5 anos[1]. Ganha atenção a abordagem "à japonesa": sem reforçar demais a regulação, promove a inovação enquanto organiza padrões de segurança.
Checklist de uso seguro da IA
Entendidos os riscos, como agir na prática? Reunimos checklists para cada posição: indivíduo e organização.
- Não engolir a saída — verifique sempre informação importante em fonte primária
- Não digitar informação confidencial — decida pelo "e se viesse a público?"
- Verificar números e nomes próprios — a área em que a alucinação mais ocorre
- Atentar ao viés — fique atento a desequilíbrios na saída da IA
- Verificar direitos autorais — no uso comercial, cheque sempre os termos
- Explicitar o uso de IA de forma adequada — divulgue o uso de IA em relatórios e artigos
- A responsabilidade final é sua — a responsabilidade pelo resultado do uso da saída da IA é do usuário
- Definir e divulgar a política de uso de IA — formalize em que tarefas e o que se pode digitar
- Realizar treinamento dos funcionários — eduque sobre o uso correto e os riscos da IA
- Fluxo de conferência do conteúdo gerado por IA — crie um mecanismo de revisão humana antes de publicar
- Considerar a versão enterprise — avalie planos para empresas com garantias robustas de tratamento de dados
- Preparar o procedimento de resposta a incidentes — defina de antemão o fluxo de resposta caso algo dê errado
- Os riscos da IA não são algo "assustador", e sim algo "que se deve conhecer". Fizemos uma visão geral dos 5 grandes riscos.
- A base contra a alucinação é a verificação — exigir a fonte, ir à fonte primária, comparar várias IAs e usar buscadores com IA: os 4 passos.
- A base da privacidade é o teste "e se viesse a público?". Não digite informação confidencial.
- Cuide também de direitos autorais, viés e deepfake, e não esqueça que a responsabilidade final é do usuário.
- O EU AI Act, a lei de promoção de IA do Japão e outras regulações no mundo avançam a passos largos.
Referências
- "Japan adopts first AI basic plan." The Japan Times, December 23, 2025.
- Vectara. "Hallucination Leaderboard." GitHub, 2025. / Stanford RegLab. "Legal Hallucination Study." 2025.
- Deepstrike. "Deepfake Statistics 2025." deepstrike.io, 2025.
Links relacionados:
- EU AI Act Explorer — texto integral e explicação da lei de regulação de IA da UE
- Políticas de IA do Ministério das Comunicações do Japão — visão geral da política de IA do Japão
No próximo capítulo, explicamos as tendências mais recentes da IA — IA multimodal, agentes de IA e as tendências de 2025-2026.