Una respuesta de IA puede contener errores de contenido aunque se lea con naturalidad. Poder crear una imagen o un texto y poder publicarlo también son cosas distintas. En este capítulo presentamos, con ejemplos y pasos concretos, lo que conviene comprobar antes de introducir información, antes de usar una respuesta y antes de publicar.
Objetivo de este capítulo
Aprender a detectar errores en las respuestas de la IA y a comprobar por tu cuenta si las fuentes, los derechos y el permiso para compartir son correctos. También aprenderás pautas para saber cuándo conviene detenerte antes de introducir información o publicarla.
Cinco puntos que revisar al usar IA
Estos son cinco puntos que conviene tener presentes al usar la IA para escribir o investigar. Cuánta cautela necesitas depende de la situación.
Alucinaciones: verifica incluso las respuestas naturales con el material original
Una alucinación es cuando la IA da una respuesta errónea pero verosímil. Puede escribir contenido que contradiga el material que le proporcionaste e, incluso, añadir una razón o una fuente convincentes para ese error.[2]
Generar texto y verificar hechos son procesos distintos
Los modelos de lenguaje que generan texto predicen tokens (unidades como caracteres o fragmentos de palabras) que continúan el contexto. A menudo producen contenido correcto, pero que un texto suene natural y que sea fácticamente correcto son cosas distintas. Incluso en servicios que combinan búsqueda o cálculo, tienes que comprobar tú mismo si el material al que se refiere la IA o las condiciones del cálculo son correctos.[2]
Nota original
La sala de reuniones para la sesión de estudio interna está solo reservada de forma provisional. La fecha y el ponente todavía no están decididos.
Ejemplo de comunicado incorrecto
«La sesión de estudio se celebrará el 12 de noviembre. El ponente será Tanaka, del Departamento de Ventas, y la sala de reuniones ya está confirmada.»
La fecha, el ponente y el lugar son información que no aparece en la nota.
Corrección basada en la nota
«Estamos planificando una sesión de estudio interna. La fecha y el ponente todavía no están decididos. La sala de reuniones está reservada de forma provisional, y te informaremos de los detalles en cuanto se concreten.»
Mientras das forma al texto como si fuera un anuncio, se añaden cosas que aún no están decididas. Este es un ejemplo cotidiano de alucinación.
Cuatro pasos para verificar una respuesta
- Identifica qué hay que verificar Extrae cifras, fechas, nombres, citas y expresiones que supongan un compromiso, como «lo enviaremos».
- Abre tú mismo la fuente Comprueba que la fuente existe realmente y que ese pasaje dice lo mismo que la respuesta. Un enlace por sí solo no es una prueba.
- Compara en las mismas condiciones Comprueba que el público objetivo, la región, el periodo y las unidades coinciden con el original, y repite tú mismo los cálculos. También revisa que «previsto» no se haya convertido en «decidido».
- Decide qué puedes usar Separa los hechos que has comprobado de los puntos que aún no. Consulta con el responsable o con un experto las decisiones importantes antes de usarlas.
Aunque varias IA den la misma respuesta, eso solo es un punto de partida para la verificación.
Todas podrían basarse en la misma información falsa o en la misma fuente. No te quedes en pedir «cita las fuentes» o «revísalo». Vuelve al material original y compruébalo. Para ver maneras concretas de verificar, practica en el capítulo Verificar la base de una respuesta.
Derechos de autor: separa las condiciones de entrada, generación y publicación
En cuanto a los derechos de autor, considera por separado si puedes usar la obra de otra persona y si tu resultado generado está protegido. Aunque los términos de un servicio digan «uso comercial permitido», eso no significa que hayas verificado los derechos de la obra de otra persona.
① Material de origen que introduces
Comprueba quién creó la obra, si tienes permiso o licencia para usarla y si se aplica alguna excepción legal. Que una obra se pueda ver en la web no significa que puedas introducirla en la IA ni reutilizarla.
② Expresión generada
Comprueba si el resultado reproduce la expresión creativa de una obra existente. La Agencia para Asuntos Culturales de Japón organiza las infracciones en las fases de generación y uso según la similitud y la dependencia respecto de la obra original.[5]
③ Usos para publicación o venta
Usos que están bien durante la fase de prueba pueden requerir comprobaciones adicionales para la publicación o la distribución. Revisa juntos la finalidad, el medio, la región y las condiciones del contrato.[5]
Si tienes derechos de autor es otra comprobación
Según el criterio de la Agencia para Asuntos Culturales, se examina caso por caso cuánto participó una persona de forma creativa. Unas instrucciones largas o haber regenerado varias veces no bastan por sí solos para decidir si hay protección. El informe de 2025 de la Oficina de Derechos de Autor de Estados Unidos también distingue entre los casos en que una persona decidió o editó creativamente la expresión y los casos en que solo se dio un prompt.[5] [6]
«Estilo parecido» y «reproducir la expresión» son cosas distintas.
Que se parezcan el estilo pictórico o las ideas no es lo mismo que la expresión creativa de una obra existente. No se puede juzgar por si el nombre de un artista aparecía en el prompt, así que compara la obra original con el resultado. Además, aunque el resultado generado no se reconozca como protegido por derechos de autor, eso no significa que puedas usar libremente las obras o las marcas de otras personas que contenga.[5]
Ejemplo: si usas la IA para modificar una ilustración que encontraste en internet y utilizarla en un anuncio, comprueba las condiciones de uso de la ilustración original, qué expresión original ha quedado en el resultado y las normas para usarla en publicidad. No pienses «está modificada con IA, así que no hay problema». En los casos difíciles, consulta con el titular de los derechos o con el responsable dentro de tu organización.
Privacidad: qué información puedes dar a la IA
Si puedes introducir información depende de tres cosas: el tipo de información, el servicio y el plan que usas, y el permiso de tu organización. Es importante no decidir basándose en una sola condición, como «con un plan de pago es seguro» o «está bien porque oculté el nombre».
Considera por separado el entrenamiento, el almacenamiento, el borrado y el envío
Es la configuración que determina si los datos se usan para mejorar el modelo. Desactivarla no significa que tu historial desaparezca ni que deje de guardarse.
El historial que aparece en pantalla, el almacenamiento en el lado del servicio y las comprobaciones de seguridad son cosas distintas. Incluso los chats temporales pueden guardarse en algunos casos.
Comprueba qué se elimina, en qué plazo y si hay excepciones. Aunque algo desaparezca de la pantalla, el almacenamiento del servicio o los usos anteriores no siempre se eliminan por completo.
Las apps conectadas, los enlaces compartidos y las funciones de envío tienen cada uno sus propias condiciones. No se pueden juzgar solo con la configuración de la IA.
Separa la entrada de práctica de la entrada de trabajo real
- Información confidencial de la empresa o código fuente no publicado
- Datos personales de clientes o socios comerciales
- Información confidencial que otros te hayan confiado
- Datos financieros o de personal no publicados
- Circunstancias o números detallados que permitan identificar a una persona o un caso
- Empresas, personas o consultas inexistentes
- Muestras creadas por ti que no estén relacionadas con personas o casos reales
- Materiales públicos cuyo uso permitido hayas confirmado
- Tus propios textos no publicados (tras confirmar que se pueden compartir)
Las contraseñas, las claves de API y las claves privadas nunca hace falta introducirlas, ni para redactar ni para practicar. Además, aunque cambies un nombre por «Sr. A», alguien puede identificar de quién se trata a partir de la dirección, el nombre del caso, la fecha y la hora, etc. Ocultar un nombre por sí solo no convierte la información en anónima ni da permiso para compartirla.
Comprueba las condiciones de tres servicios en la documentación oficial
Lo siguiente se aplica al uso personal del chat (verificado en la documentación oficial de cada empresa el 14 de octubre de 2026). Si usas un plan contratado por tu empresa, las condiciones y la configuración de administración son diferentes, así que compruébalas por separado.
Desactivar el uso para entrenamiento no elimina tu historial. Se aplican condiciones distintas, por ejemplo, cuando envías comentarios sobre una respuesta, y los chats temporales también pueden guardarse por motivos de seguridad.
Desactivar el uso para entrenamiento no cancela un entrenamiento que ya haya empezado. Los chats de incógnito se guardan aunque no aparezcan en tu historial, y el procesamiento de seguridad está sujeto a condiciones aparte.
Configuración del uso para entrenamiento y su alcance / Chats de incógnito
Si desactivas Actividad y no envías comentarios, los chats posteriores no se usarán para mejorar el modelo. Sin embargo, las respuestas, el procesamiento de seguridad, el almacenamiento y la revisión humana se tratan por separado.
«No usar para entrenamiento» en los planes empresariales tampoco significa que no se guarde nada, que no se conecte con servicios externos ni que nadie lo vea. La guía para organizaciones de OpenAI también recomienda comprobar cómo se gestionan el almacenamiento y la administración según el plan, la función y la conexión. Tras confirmar las condiciones del contrato, compáralas con las normas de tu organización.
Practica a reducir lo que introduces al responder consultas
Una consulta con un nombre real, datos de contacto, número de pedido o un asunto no publicado. Aunque ocultes el nombre, la otra persona o la operación pueden identificarse con otros datos.
«Un socio comercial nos ha consultado sobre la fecha de entrega de un producto. Todavía no hemos decidido la fecha de entrega. Redacta una respuesta cortés para uso externo. No prometas ninguna fecha de entrega.»
Orden antes de introducir información: limita la información a lo necesario para el fin → comprueba cómo la tratan el servicio, el plan y los destinos conectados → compárala con las normas de tu organización. Si no lo tienes claro, deja de introducir información y prueba con ejemplos inexistentes. Para más detalles, consulta Precauciones al introducir información en la IA.
Si ya has introducido información, primero comprueba hasta dónde y en qué condiciones se puede eliminar, y si es información de trabajo, consulta con el responsable de tu organización. Por ejemplo, la explicación oficial de ChatGPT de OpenAI indica que archivar no es lo mismo que eliminar, que hay excepciones al periodo de conservación tras la eliminación, y que los archivos guardados por separado o los datos originales de los destinos conectados se tratan aparte. Ten en cuenta que, por el mero hecho de haber introducido información, no está determinado que se haya usado para entrenamiento ni que se haya filtrado a otras personas.
Cómo abordar los sesgos y la suplantación de identidad
Sesgos: intervienen tanto el diseño y el uso como los datos
Los sesgos de la IA no solo surgen de la composición de los datos de entrenamiento, sino también del juicio humano y de los sistemas sociales y organizativos en los que se usa la IA. Personas de determinados atributos pueden ser tratadas de forma desfavorable, o la precisión puede variar según el idioma o el grupo.[7]
Ejemplo de solicitud
En una solicitud solo aparece «un periodo de seis meses sin empleo», sin que se indique el motivo.
Suposición que no debes añadir
Decidir que «hay un hueco, así que la motivación es baja» hace que una suposición que no está en la solicitud entre en la evaluación.
Cómo comprobarlo
Indica que «el motivo no se puede determinar a partir de los documentos» y evalúa después con los mismos criterios relacionados con el puesto. Pedir a la IA que aporte otra perspectiva, por sí solo, no significa que el sesgo haya desaparecido.
En situaciones como la contratación o la evaluación del personal, que afectan al trato a las personas, decide quién se ve afectado y qué criterios se usan para juzgar, y prepara un procedimiento para que las personas puedan revisar los resultados.
Deepfakes: confirma la identidad aunque la voz o el vídeo se parezcan
Las imágenes, los vídeos y los audios creados o alterados con IA también se usan para suplantar identidades y para estafar. El FBI menciona como ejemplos de advertencia las estafas que imitan la voz de un familiar para pedir transferencias urgentes de dinero y las videollamadas en las que se suplanta a un directivo.[3]
- No actúes en el momento No sigas adelante solo con la voz o el vídeo si hay una petición urgente de transferencia, una solicitud de credenciales como contraseñas o un cambio de la cuenta de destino del pago.
- Vuelve a contactar tú mismo Cuelga y llama de nuevo usando un número que ya conozcas o el contacto oficial de la organización.
- Detente hasta poder verificarlo Comprueba si la persona es quien dice ser, cuál es el contenido de la petición y si la organización la ha aprobado. Si no puedes verificarlo, no envíes dinero ni facilites información y consulta con el responsable.
Un aspecto poco natural puede ser una pista, pero que no haya nada extraño no significa que sea auténtico. En cuanto a las imágenes y los vídeos que veas en redes sociales, comprueba quién los publicó, cuándo y en qué contexto antes de compartirlos. Para medidas dentro de las empresas, también puedes consultar nuestra guía de seguridad de agentes de IA.
Leyes y normas: revisa la región, el uso y tu papel
No solo hay que revisar las leyes específicas de la IA, sino también las normas relacionadas con lo que quieres hacer, como los derechos de autor, los datos personales y la protección de los consumidores. El punto de partida es en qué región, con qué finalidad y en qué papel participas, como proveedor o como usuario de IA.
Lo siguiente se basa en materiales oficiales de cada país y región a fecha del 16 de octubre de 2026. Para saber si se aplica a tu uso, consulta el texto original de los enlaces o pregunta al departamento responsable de tu empresa.
UE: las fechas de aplicación varían según el uso
La Ley de IA se aplica, en principio, desde el 2 de agosto de 2026. Las prácticas prohibidas y algunas otras empiezan a aplicarse antes. Algunos usos de alto riesgo, como el empleo y la educación, se aplican desde el 2 de diciembre de 2027, y la IA de alto riesgo incorporada en productos regulados, desde el 2 de agosto de 2028, así que las fechas son escalonadas.
También hay condiciones y excepciones para la obligación de indicar que el contenido ha sido generado por IA, según su ámbito y la posición de cada parte.[8]
Estados Unidos: las normas existentes también se aplican a la IA
La FTC explica que los compromisos de privacidad con los usuarios deben cumplirse también en los servicios de IA, y que el hecho de ser IA no exime de la aplicación de las leyes existentes.
Revisa qué leyes y contratos se aplican al trabajo que usas o prestas.[9]
China: servicios públicos y etiquetado
Las Medidas provisionales para la gestión de servicios de IA generativa se aplican, por ejemplo, cuando se prestan servicios al público general dentro de China. Esas mismas disposiciones no se aplican necesariamente a la investigación que no se ofrece al público ni al uso interno.
Las Medidas para el etiquetado de contenidos sintéticos generados por IA entraron en vigor el 1 de septiembre de 2025. Revisa las condiciones que afectan a los proveedores y a los usuarios que publican contenido generado.[10]
Japón: promoción y gestión de riesgos
La Ley de Promoción de la IA entró plenamente en vigor el 1 de septiembre de 2025. La Oficina del Gabinete muestra tanto el impulso del uso de la IA como las respuestas a sus riesgos. El Plan Básico de IA se revisó el 14 de julio de 2026.
Aunque el gobierno impulse el uso, eso no significa que un uso concreto haya sido aprobado. Revisa también los derechos, los contratos y las normas de la organización.[1]
Lista de verificación antes de usar y antes de publicar
Revisa tu propio trabajo
- Antes de introducir información: limítala a lo necesario y comprueba cómo la trata el servicio que usas y si puedes compartirla. Para practicar, usa ejemplos inexistentes.
- Antes de usar una respuesta: compara las cifras, fechas, citas y promesas con las fuentes originales, y deja marcados como no confirmados los puntos que no puedas verificar.
- Antes de publicar: comprueba los derechos sobre los materiales y el resultado generado, las condiciones de etiquetado, y el destinatario y el alcance de la publicación.
- Decisiones importantes: no decidas solo con las respuestas de la IA. Consulta con el responsable o con un experto.
Define procedimientos en tu organización
- Decide qué servicios, planes y destinos conectados están permitidos y qué información se puede introducir.
- Decide quién confirma la publicación o el envío y qué operaciones requieren aprobación.
- Prepara un proceso para revisar sesgos y errores y para corregir las decisiones.
- Decide quién será el contacto ante problemas y qué procedimientos se seguirán para suspender el uso o investigar.
Resumen de este capítulo
Antes de introducir información, antes de usar una respuesta y antes de publicar, comprueba cómo se trata la información, si coincide con las fuentes originales, los derechos, los sesgos en el juicio y si la otra persona es quien dice ser. La verificación es una función importante del usuario, pero la responsabilidad no recae siempre solo en el usuario. Según el contrato y las acciones concretas, también puede considerarse la responsabilidad de los proveedores de IA y de las organizaciones.[5] [9]
Referencias
- Oficina del Gabinete de Japón: Resumen de la Ley de Promoción de la IA, Plan Básico de IA.
- NIST: Perfil de gestión de riesgos de la IA generativa (2024, PDF en inglés). Sobre el contenido generado erróneo y los enfoques para verificarlo y gestionarlo.
- FBI/IC3: Aviso sobre fraudes financieros con IA generativa (3 de diciembre de 2024, en inglés).
- Materiales oficiales de la sección de privacidad (consultados el 14 de octubre de 2026): Controles de datos de OpenAI, Configuración del uso para entrenamiento de Anthropic, Explicación de privacidad de Gemini de Google. Los materiales individuales sobre almacenamiento, eliminación y chats temporales se pueden consultar en los puntos correspondientes del texto.
- Agencia para Asuntos Culturales de Japón: Criterios sobre la IA y los derechos de autor (marzo de 2024, PDF). Distingue entre desarrollo y entrenamiento, generación y uso, y la protegibilidad como obra del resultado generado.
- Oficina de Derechos de Autor de Estados Unidos: Publicación de un informe sobre los derechos de autor de obras generadas por IA (29 de enero de 2025, en inglés).
- NIST: Los sesgos de la IA también pueden tener otro origen distinto de los datos (2022, en inglés).
- Comisión Europea: Ámbito de aplicación y calendario de la Ley de IA (en inglés).
- FTC: Compromisos de privacidad y confidencialidad de las empresas de IA (2024, en inglés).
- Administración del Ciberespacio de China: Medidas provisionales para la gestión de servicios de IA generativa, Medidas para el etiquetado de contenidos sintéticos generados por IA (en chino).
En el próximo capítulo explicamos las últimas tendencias de la IA. Si usas borradores en el trabajo, consulta también los pasos para revisar los correos.