As respostas da IA podem estar factualmente erradas mesmo quando soam naturais. Conseguir criar uma imagem ou um texto e poder publicá-lo também são coisas diferentes. Este capítulo apresenta, com exemplos concretos e passos, o que verificar antes de inserir informações, antes de usar uma resposta e antes de publicar.

Objetivo do capítulo
Aprender a perceber erros nas respostas da IA e a verificar por conta própria se as fontes, os direitos e a permissão para compartilhar estão em ordem. Você também aprenderá critérios para quando pausar a inserção de informações ou a publicação.

Cinco pontos de verificação ao usar IA

Estes são cinco pontos a ter em mente ao usar IA para escrever textos ou pesquisar. O quanto de cuidado você deve ter depende da situação.

① Precisão do conteúdo Se números, datas e fontes estão corretos ② Direito de usar obras Se você pode usar os materiais inseridos e o conteúdo gerado ③ Tratamento das informações inseridas Condições de armazenamento, treinamento e integração, e se é permitido compartilhar ④ Viés de julgamento Se você acrescentou atributos ou suposições que não estão no material ⑤ O interlocutor e a origem das informações Se você decidiu que alguém é quem diz ser apenas com base na voz ou no vídeo

Alucinações: verifique mesmo as respostas naturais com o material de origem

Alucinação é quando a IA dá uma resposta errada, mas com aparência plausível. Ela pode escrever conteúdo que contradiz o material fornecido e até acrescentar um motivo ou uma fonte convincentes para o erro.[2]

Gerar texto e verificar fatos são processos separados

Os modelos de linguagem que geram texto preveem tokens (unidades como caracteres ou partes de palavras) que dão continuidade ao contexto. Muitas vezes produzem conteúdo correto, mas texto que flui naturalmente e texto factualmente correto são coisas diferentes. Mesmo em serviços que combinam busca ou cálculo, você precisa verificar por conta própria se o material citado pela IA ou as condições do cálculo estão corretos.[2]

Memo original

A sala de reunião do estudo interno está apenas reservada provisoriamente. A data e o palestrante ainda não foram definidos.

Exemplo de comunicado incorreto

"O estudo será realizado em 12 de novembro. O palestrante é o Tanaka, do Departamento de Vendas, e a sala de reunião já está confirmada."

A data, o palestrante e o local são informações que não constam no memo.

Revisão com base no memo

"Estamos planejando um estudo interno. A data e o palestrante ainda não foram definidos. A sala de reunião está reservada provisoriamente, e os detalhes serão divulgados assim que forem definidos."

Ao dar forma de comunicado ao texto, acabam sendo acrescentadas coisas que ainda não foram decididas. Esse é um exemplo comum de alucinação.

Quatro passos para verificar uma resposta

  1. Identifique o que verificar Extraia números, datas, nomes, citações e expressões que assumem um compromisso, como "faremos".
  2. Abra a fonte você mesmo Confirme se a fonte realmente existe e se o trecho diz o mesmo que a resposta. Um link sozinho não é prova.
  3. Compare em condições iguais Confira se o público-alvo, a região, o período e as unidades correspondem ao original, e refaça os cálculos você mesmo. Verifique também se "planejado" não virou "decidido".
  4. Defina o que pode ser usado Separe os fatos já verificados dos pontos que ainda não foram confirmados. Antes de usar decisões importantes, confirme com o responsável ou com um especialista.

Mesmo quando várias IAs concordam, isso é apenas o ponto de partida da verificação.
Elas podem estar todas se baseando na mesma informação falsa ou na mesma fonte. Não pare em "Cite as fontes" ou "Revise". Volte ao material original e verifique. Para ver formas concretas de checagem, pratique no capítulo Como verificar a base de uma resposta.

Em direitos autorais, considere separadamente se você pode usar a obra de outra pessoa e se o conteúdo que você gerou está protegido. Mesmo que os termos de um serviço digam "uso comercial permitido", isso não significa que você verificou os direitos sobre a obra de terceiros.

① Material de origem que você insere

Verifique quem criou a obra, se há autorização ou licença para usá-la e se existe alguma exceção prevista em lei. O fato de uma obra poder ser vista na web não significa que você pode inseri-la em uma IA ou reutilizá-la.

② Expressão gerada

Verifique se o resultado reproduz a expressão criativa de uma obra existente. A Agência de Assuntos Culturais do Japão organiza as violações nas etapas de geração e uso com base em similaridade e dependência.[5]

③ Usos para publicação ou venda

Usos que são aceitáveis na fase de testes podem exigir verificações separadas para publicação ou distribuição. Verifique a finalidade, o meio, a região e as condições contratuais em conjunto.[5]

Saber se você tem direitos autorais é outra verificação

Segundo a abordagem da Agência de Assuntos Culturais, avalia-se caso a caso o quanto uma pessoa esteve envolvida de forma criativa. Instruções longas ou gerações repetidas, por si só, não determinam se há proteção. O relatório de 2025 do Escritório de Direitos Autorais dos EUA (U.S. Copyright Office) também distingue os casos em que uma pessoa definiu ou editou criativamente a expressão daqueles em que apenas se forneceu um prompt.[5] [6]

"Estilo parecido" e "reprodução da expressão" são coisas diferentes.
Semelhança de estilo artístico ou de ideias não é o mesmo que semelhança na expressão criativa de uma obra existente. Não dá para julgar isso pelo fato de o nome de um artista ter sido incluído no prompt, então compare a obra original com o resultado. Além disso, mesmo que o conteúdo gerado não seja reconhecido como protegido por direitos autorais, isso não significa que você possa usar livremente obras de terceiros ou marcas registradas que ele contenha.[5]

Exemplo: se você usar IA para modificar uma ilustração encontrada na internet e aplicá-la em um anúncio, verifique as condições de uso da ilustração original, a expressão original que tenha permanecido no resultado e as regras para uso em publicidade. Não pense "foi modificado por IA, então está tudo bem". Em casos difíceis, consulte o titular dos direitos ou o responsável na sua organização.

Privacidade: o que você pode e não pode informar à IA

Se você pode inserir informações depende de três fatores: o tipo de informação, o serviço e o plano que você usa, e a autorização da sua organização. É importante não decidir com base em uma única condição, como "plano pago é seguro" ou "está tudo bem porque ocultei o nome".

Considere separadamente treinamento, armazenamento, exclusão e envio

① Uso para treinamento

Esta é a configuração que define se os dados são usados para melhorar o modelo. Desativá-la não significa que seu histórico desaparece ou deixa de ser armazenado.

② Histórico e armazenamento

O histórico exibido na tela, o armazenamento no lado do serviço e as verificações de segurança são coisas separadas. Mesmo os Chats temporários podem ser salvos em alguns casos.

③ Exclusão de dados

Verifique o que é excluído, até quando, e se há exceções. Mesmo que algo desapareça da tela, o armazenamento no lado do serviço ou o uso anterior podem não ser totalmente removidos.

④ Envio para fora

Aplicativos conectados, links compartilhados e recursos de envio têm cada um suas próprias condições. Não dá para avaliá-los apenas pelas configurações da IA.

Separe os dados de prática dos dados de trabalho real

Não insira antes de confirmar a permissão
  • Informações confidenciais da empresa ou código-fonte não publicado
  • Dados pessoais de clientes ou parceiros comerciais
  • Informações confidenciais que outras pessoas confiaram a você
  • Dados financeiros ou de pessoal não publicados
  • Detalhes ou números que possam identificar uma pessoa ou um caso
Comece praticando com informações inexistentes
  • Empresas, pessoas ou consultas inexistentes
  • Amostras criadas por você, sem relação com pessoas ou casos reais
  • Materiais públicos cujo uso permitido você tenha confirmado
  • Seus próprios textos não publicados (após confirmar que podem ser compartilhados)

Senhas, chaves de API e chaves privadas nunca precisam ser inseridas, nem na escrita de textos nem na prática. Além disso, mesmo que você troque um nome por "Sr. A", a pessoa ainda pode ser identificada a partir do endereço, do nome do caso, da data e hora etc. Ocultar apenas o nome não torna a informação anônima nem concede permissão para compartilhá-la.

Verifique as condições de três serviços na documentação oficial

O que segue vale para o chat de uso pessoal (conferido nas documentações oficiais de cada empresa em 14 de outubro de 2026). Se você usa um plano contratado pela sua empresa, as condições e as configurações administrativas são diferentes, então verifique individualmente.

ChatGPT

Desativar o uso para treinamento não remove o seu histórico. Condições diferentes se aplicam quando você envia avaliações sobre uma resposta, por exemplo, e os Chats temporários também podem ser armazenados por motivos de segurança.

Controles de dados no ChatGPT · Chat temporário no ChatGPT

Claude

Desativar o uso para treinamento não cancela um treinamento que já começou. Chats incógnitos são armazenados, mesmo que não apareçam no seu histórico, e o processamento de segurança está sujeito a condições separadas.

Configurações de melhoria do modelo e escopo · Chats incógnitos

Gemini

Se você desativar a Atividade e não enviar feedback, os chats seguintes não serão usados para melhorar o modelo. No entanto, respostas, processamento de segurança, armazenamento e revisão humana são tratados separadamente.

Condições de atividade, armazenamento e revisão

"Não usado para treinamento" em planos empresariais também não significa que os dados nunca são armazenados, que não há conexão com serviços externos ou que ninguém os vê. O guia para organizações da OpenAI também recomenda verificar como o armazenamento e a administração são tratados em cada plano, recurso e conexão. Depois de confirmar os termos do contrato, compare-os com as regras da sua organização.

Pratique a redução de informações ao responder a consultas

Não cole diretamente

Uma consulta que contenha nome real, dados de contato, número de pedido ou um assunto não publicado. Mesmo que você oculte o nome, a outra parte ou a transação ainda pode ser identificada por outras informações.

Exemplo de entrada sem dados reais

"Recebemos uma consulta de um parceiro comercial sobre o prazo de entrega de um produto. A data de entrega ainda não foi definida. Por favor, redija uma resposta cordial para uso externo. Não prometa um prazo de entrega."

Ordem antes de inserir informações: limite as informações ao que a finalidade exige → verifique como o serviço, o plano e os destinos conectados tratam os dados → compare com as regras da sua organização. Se não tiver certeza, não insira as informações e teste com exemplos inexistentes. Para mais detalhes, veja Cuidados ao inserir informações na IA.

Se você já inseriu informações, primeiro verifique o alcance e as condições em que elas podem ser excluídas; se forem informações de trabalho, consulte o responsável na sua organização. Por exemplo, a explicação oficial da OpenAI sobre o ChatGPT mostra que arquivar é diferente de excluir, que há exceções ao período de retenção após a exclusão e que arquivos salvos separadamente ou dados originais em destinos conectados são tratados à parte. Observe, porém, que apenas inserir informações não significa que elas tenham sido usadas para treinamento ou vazadas para terceiros.

Lidando com viés e falsificação de identidade

Viés: envolve o design e o uso, não apenas os dados

O viés da IA surge não só da composição dos dados de treinamento, mas também do julgamento humano e dos sistemas em que a IA é usada por sociedades e organizações. Pessoas com determinados atributos podem ser tratadas de forma injusta, ou a precisão pode variar conforme o idioma ou o grupo.[7]

Exemplo de documento de candidatura

Um documento de candidatura menciona apenas "um período de seis meses sem emprego", sem dar nenhum motivo.

Suposição que não deve ser acrescentada

Concluir que "há um intervalo, logo a motivação é baixa" faz com que um palpite que não está no documento entre na avaliação.

Como verificar

Afirme que "o motivo não pode ser determinado a partir dos documentos" e avalie com os mesmos critérios relacionados à função. Pedir à IA apenas uma perspectiva diferente não significa que o viés foi eliminado.

Em situações como contratação ou avaliação de pessoal, que afetam o tratamento das pessoas, defina quem é afetado e quais critérios são usados no julgamento, e prepare um processo que permita às pessoas revisar os resultados.

Deepfakes: confirme a identidade mesmo quando a voz ou o vídeo parecerem reais

Imagens, vídeos e áudios criados ou alterados com IA também são usados em falsificações de identidade e golpes. O FBI cita, como exemplos de alerta, golpes que imitam a voz de um familiar para pedir transferências urgentes de dinheiro e chamadas de vídeo em que alguém se passa por executivos.[3]

  1. Não aja na hora Não prossiga apenas com base em uma voz ou em um vídeo quando houver um pedido urgente de transferência, um pedido de credenciais como senhas ou uma mudança nos dados bancários.
  2. Retorne o contato por conta própria Desligue e ligue de volta usando um número que você já conhece ou o contato oficial da organização.
  3. Pare até conseguir confirmar Verifique se a pessoa é quem diz ser, qual é o conteúdo do pedido e se a organização aprovou. Se não for possível confirmar, pare de enviar dinheiro ou informações e consulte o responsável.

Uma aparência não natural pode ser uma pista, mas a ausência de sinais estranhos não significa que algo seja genuíno. Para imagens e vídeos que você vê nas redes sociais, verifique quem publicou, quando e em que contexto antes de compartilhar. Para medidas dentro das empresas, você também pode consultar nosso guia sobre segurança de agentes de IA.

Leis e regras: verifique a região, a finalidade e a sua posição

Além das leis específicas sobre IA, verifique as regras relacionadas ao que você está fazendo, como direitos autorais, dados pessoais e proteção do consumidor. O ponto de partida é em qual região, para qual finalidade e se você atua como provedor ou como usuário de IA.

As informações a seguir se baseiam em documentos oficiais de cada país e região em 16 de outubro de 2026. Para saber se elas se aplicam ao seu uso, consulte o texto original nos links ou o departamento interno responsável.

União Europeia: as datas de aplicação variam conforme o uso

O AI Act se aplica, em regra, a partir de 2 de agosto de 2026. As práticas proibidas e algumas outras disposições começam a valer antes. Alguns usos de alto risco, como emprego e educação, se aplicam a partir de 2 de dezembro de 2027, e a IA de alto risco incorporada a produtos regulados, a partir de 2 de agosto de 2028, então as datas são escalonadas.

Também há condições e exceções para as obrigações de rotulagem de conteúdo gerado por IA, de acordo com o escopo e a posição de cada parte.[8]

Estados Unidos: as regras existentes também se aplicam à IA

A FTC explica que os compromissos de privacidade assumidos com os usuários devem ser cumpridos também em serviços de IA, e que o fato de ser IA não isenta a empresa das leis existentes.

Verifique quais leis e contratos se aplicam ao trabalho que você usa ou presta.[9]

China: serviços voltados ao público e rotulagem

As Medidas Provisórias para a Gestão de Serviços de IA Generativa se aplicam, por exemplo, quando os serviços são oferecidos ao público geral na China. As mesmas disposições não se aplicam necessariamente a pesquisas que não são oferecidas publicamente nem ao uso interno.

As Medidas para a Rotulagem de Conteúdo Sintético Gerado por IA entraram em vigor em 1º de setembro de 2025. Verifique as condições que se aplicam aos provedores e aos usuários que publicam conteúdo gerado.[10]

Japão: promoção e gestão de riscos

A Lei de Promoção da IA entrou em vigor integralmente em 1º de setembro de 2025. O Gabinete do Governo (Cabinet Office) mostra tanto a promoção do uso da IA quanto as respostas aos seus riscos. O Plano Básico de Inteligência Artificial foi revisado em 14 de julho de 2026.

Mesmo quando o governo incentiva o uso, isso não significa que um uso específico tenha sido aprovado. Verifique também os direitos, os contratos e as regras da organização.[1]

Checklist antes de usar e antes de publicar

Verifique o seu trabalho

  • Antes de inserir informações: limite-as ao necessário, verifique como o serviço as trata e se é permitido compartilhá-las. Use exemplos inexistentes para praticar.
  • Antes de usar uma resposta: compare números, datas, citações e promessas com as fontes originais, e deixe marcados como não confirmados os pontos que não puder verificar.
  • Antes de publicar: verifique os direitos sobre o material e o conteúdo gerado, as condições de rotulagem e os destinatários e o alcance da publicação.
  • Decisões importantes: não decida apenas com base nas respostas da IA. Consulte o responsável ou um especialista.

Defina procedimentos dentro da organização

  • Defina quais serviços, planos e destinos conectados são permitidos e quais informações podem ser inseridas.
  • Defina quem confirma a publicação ou o envio e quais operações exigem aprovação.
  • Prepare um processo para revisar vieses e erros e corrigir decisões.
  • Defina os contatos para problemas e os procedimentos para suspender o uso ou investigar.

Resumo deste capítulo
Antes de inserir informações, antes de usar uma resposta e antes de publicar, verifique como as informações são tratadas, se coincidem com as fontes originais, os direitos, o viés no julgamento e se a outra parte é quem diz ser. A verificação é um papel importante do usuário, mas a responsabilidade nem sempre recai somente sobre ele. Dependendo do contrato e das ações específicas, também podem ser consideradas as responsabilidades dos provedores de IA e das organizações.[5] [9]

Referências

  1. Gabinete do Governo do Japão (Cabinet Office): Visão geral da Lei de Promoção da IA, Plano Básico de Inteligência Artificial.
  2. NIST: Generative AI Risk Management Profile (2024, PDF em inglês). Trata de conteúdos gerados incorretos e das abordagens para verificá-los e gerenciá-los.
  3. FBI/IC3: Alerta sobre fraudes financeiras com uso de IA generativa (3 de dezembro de 2024, em inglês).
  4. Documentação oficial da seção de privacidade (conferida em 14 de outubro de 2026): Controles de dados da OpenAI, Configurações de melhoria do modelo da Anthropic, Explicação de privacidade do Gemini, do Google. As documentações individuais sobre armazenamento, exclusão e chats temporários podem ser consultadas nos pontos correspondentes do texto.
  5. Agência de Assuntos Culturais do Japão: Concepções sobre IA e direitos autorais (março de 2024, PDF). Distingue desenvolvimento e treinamento, geração e uso, e a condição de obra protegida dos conteúdos gerados.
  6. U.S. Copyright Office: Publicação de relatório sobre direitos autorais em obras geradas por IA (29 de janeiro de 2025, em inglês).
  7. NIST: O viés da IA pode ter origens além dos dados (2022, em inglês).
  8. Comissão Europeia: Escopo e cronograma de aplicação do AI Act (em inglês).
  9. FTC: Empresas de IA cumprem seus compromissos de privacidade e confidencialidade (2024, em inglês).
  10. Administração do Ciberespaço da China (CAC): Medidas Provisórias para a Gestão de Serviços de IA Generativa, Medidas para a Rotulagem de Conteúdo Sintético Gerado por IA (em chinês).

No próximo capítulo, explicamos as tendências mais recentes da IA. Ao usar rascunhos no trabalho, consulte também as etapas de revisão de e-mails.