Hasta el capítulo anterior hemos presentado la utilidad y los usos de la IA. Pero para «dominar» de verdad la IA, es imprescindible entender bien los riesgos. Conocer los riesgos no es para tenerle miedo a la IA. Igual que al conducir aprendes «cómo usar el freno», es el conocimiento básico para usarla con seguridad.
Los riesgos no son algo «que dé miedo», sino algo «que hay que conocer»
Conoce los 5 grandes riesgos de la IA
Los riesgos que hay que tener presentes al usar IA se ordenan a grandes rasgos en 5. Como cada uno tiene una naturaleza distinta, empecemos por captar la visión de conjunto. A continuación profundizamos en cada uno.
El fenómeno de producir información sin base factual de forma verosímil y con total aplomo. El mayor riesgo de la IA.
Doble debate: los datos de entrenamiento y lo generado. Hay pleitos en marcha por todo el mundo.
Posibilidad de que los datos que introduces se usen para entrenamiento. Una vez los introduces, no puedes retirarlos.
Los prejuicios sociales presentes en los datos de entrenamiento se reflejan tal cual en la salida.
Medios falsos indistinguibles creados por IA. Se usan de forma malintencionada en estafas y suplantaciones.
Alucinaciones: la IA miente con total aplomo
Una alucinación (hallucination) es el fenómeno por el que la IA produce información sin base factual como si fuera algo real, con total aplomo. No es exagerado decir que es el mayor riesgo al usar IA.
Por qué ocurre: entender el mecanismo
La IA funciona con el mecanismo de «predecir la palabra con más probabilidad de venir a continuación». Es decir, no produce «lo correcto», sino solo «lo verosímil». La IA no juzga si algo es verdadero o falso. No consulta un diccionario, sino que se limita a hacer coincidencia de patrones.
La tasa de alucinación varía mucho según el modelo. En un estudio de benchmark de 2025, el mejor modelo (Gemini 2.0 Flash) obtuvo un 0,7 %, mientras que en algunos modelos cerca del 30 % de las respuestas fueron alucinaciones[2]. Se avanza en la mejora, pero no llega a cero.
Casos reales que han ocurrido
- Jurisprudencia inventada: un abogado en EE. UU. presentó ante el tribunal jurisprudencia que había consultado con ChatGPT y los precedentes citados no existían (2023)
- Artículos inventados: genera de forma verosímil títulos de artículos y nombres de autores que no existen
- Estadísticas erróneas: afirma con rotundidad «el mercado de tal cosa es de X millones», pero la cifra difiere enormemente de la real
- Ámbito jurídico: en un estudio de la Universidad de Stanford, hubo casos en los que la tasa de alucinación en consultas jurídicas llegó al 69-88 %[2]
4 medidas de defensa
Las alucinaciones no se abordan «llevándolas a cero», sino con «un sistema para detectarlas». Convierte estos 4 pasos en hábito.
Repregunta «¿cuál es la fuente que lo respalda?». Desconfía de las afirmaciones para las que no sepa indicar fuente.
Cifras, leyes y nombres de personas, confírmalos siempre en una fuente primaria como la web oficial o el documento original.
Lanza la misma pregunta a varias IA y toma como señal de alerta que las respuestas no coincidan.
Investiga con buscadores con IA que responden con enlaces a las fuentes, como Perplexity o Gemini.
La información que exige especial cuidado son estas 4: datos estadísticos y cifras, nombres de personas y propios, derecho y fiscalidad e información de última hora. Verifica siempre esta información en fuentes primarias.
💡 Truco práctico: si usas herramientas de IA que se integran con la búsqueda web, como Perplexity o Gemini, las respuestas llegan con enlaces a las fuentes. En las tareas importantes de investigación, lo inteligente es combinar este tipo de buscadores con IA. En las empresas también avanza la adopción de guardarraíles de IA, que evitan por diseño las respuestas erróneas de la IA.
Derechos de autor: ¿se puede usar? ¿de quién es lo que crea?
El problema de la IA y los derechos de autor tiene a grandes rasgos 2 facetas: «¿se pueden usar obras protegidas para entrenar la IA?» y «¿tiene derechos de autor lo que crea la IA?».
Problema 1: los datos de entrenamiento de la IA y los derechos de autor
Los modelos de IA se entrenan con enormes cantidades de contenido de internet (textos, imágenes, código, etc.). Alegando que se usan obras sin permiso de sus autores, han surgido pleitos por todo el mundo.
| Pleito | Resumen | Situación (a 2026) |
|---|---|---|
| NYT vs. OpenAI | The New York Times demanda por entrenamiento no autorizado con sus artículos | En litigio |
| Getty vs. Stability AI | Demanda por entrenamiento no autorizado con fotografías | En litigio |
| Demanda colectiva de artistas | Uso no autorizado de obras en el entrenamiento de IA de imágenes | Varias en marcha |
| Yomiuri, Asahi y Nikkei vs. Perplexity | Uso no autorizado de artículos, con una reclamación de indemnización de unos 6.600 millones de yenes en total | Demanda de 2025 |
Problema 2: los derechos de autor de lo generado por IA
Si se reconocen o no derechos de autor al contenido generado por IA depende del país.
Lo que la IA genera de forma autónoma no tiene derechos de autor. Ahora bien, si hay intervención creativa humana, puede estar protegido.
La Oficina de Derechos de Autor mantiene que «no reconoce derechos de autor a lo generado únicamente por IA». Con control creativo humano, podría reconocerse en parte.
La elaboración de normas en marcha sobre los derechos de autor de lo generado por IA.
Lo que tú debes tener en cuenta
- En el uso comercial, consulta siempre los términos de cada servicio
- En la generación de imágenes, no indiques el nombre de un artista concreto («al estilo de X» es fuente de problemas de derechos de autor)
- Comprueba si la salida de la IA no se parece demasiado a una obra existente
- Si procede, indica que se ha generado con IA
Privacidad: qué puedes entregarle a la IA
En 2023, un empleado de Samsung Electronics introdujo en ChatGPT código confidencial de la empresa y fue una gran noticia. A raíz de ese incidente, muchas empresas empezaron a establecer políticas sobre qué información se le puede dar a la IA.
Los datos que introduces en la IA pueden usarse para mejorar el servicio o entrenar el modelo. Actúa partiendo de la premisa de que «la información que introduces una vez no se puede retirar». Explicamos en detalle qué introducir y cómo en Cosas a tener en cuenta al introducir datos en la IA.
- Información confidencial de la empresa o código fuente no publicado
- Datos personales de clientes o socios
- Contraseñas, claves de API o credenciales
- Datos financieros o de personal no publicados
- Información secreta que te haya confiado un tercero
- Información que ya es de dominio público
- Datos con nombres de personas y empresas anonimizados
- Textos tuyos que vas a publicar
- Notas de prensa o materiales públicos
- Datos ficticios o de muestra
Medidas concretas de protección de datos
| Medida | Explicación |
|---|---|
| Desactivar el historial de chat | Tanto ChatGPT como Claude permiten detener en los ajustes el uso de los datos de conversación para entrenamiento |
| Versión Enterprise | En los planes para empresas hay garantía de que los datos no se usan para entrenamiento |
| Anonimizar la información | Antes de introducirla, sustituye los nombres de personas por «persona A» y los de empresas por «empresa X» |
| Ejecución local | Ejecuta modelos de código abierto en tu propio PC con herramientas como Ollama |
💡 Criterio para cuando dudes: pregúntate «¿me importaría que esta información se hiciera pública en internet?». Si la respuesta es «sí», no deberías introducirla en la IA. Si vas a operar como organización, lo seguro es dejar por escrito unas directrices de uso de la IA para empresas.
Sesgos y deepfakes
Sesgo de la IA: el desequilibrio de los datos de entrenamiento aflora en la salida
El sesgo de la IA es el fenómeno por el que los prejuicios sociales presentes en los datos de entrenamiento se reflejan tal cual en la salida. La IA no da «la respuesta correcta», sino que tiende a dar «la respuesta que era mayoritaria en los datos de entrenamiento».
- Sesgo de género: al generar imágenes de «enfermero/a» salen solo mujeres, y de «ingeniero/a» salen solo hombres
- Sesgo cultural: tiende a responder con valores centrados en el mundo anglosajón y occidental
- Sesgo de confirmación: refleja en exceso la opinión mayoritaria y se pierde la perspectiva de las minorías
Qué hacer: no te creas la respuesta de la IA a pies juntillas y coge la costumbre de pedirle «piénsalo también desde otra perspectiva» o «da también la opinión contraria». En decisiones importantes, como la contratación o la evaluación de personal, es especialmente importante no basar el juicio únicamente en la IA.
Deepfakes: desinformación indistinguible
Con la evolución de las técnicas de la IA para generar imágenes, vídeos y voz realistas, el riesgo de los deepfakes (medios falsos creados con IA) se ha disparado. Se estima que los deepfakes en redes sociales han pasado de 500.000 en 2023 a 8 millones en 2025[3].
- Estafas por clonación de voz: estafas telefónicas imitando con IA la voz de un familiar o un jefe. Se puede crear un clon a partir de unos segundos de muestra de voz
- Vídeos falsos: manipulación de la opinión pública o suplantación con vídeos falsos de personajes célebres o políticos
- Noticias falsas: difusión masiva de artículos de noticias verosímiles generados con IA
🛡️ Claves para protegerte
- Ante llamadas urgentes del tipo «envíame dinero rápido», verifica la identidad por otro medio
- Comprueba la fuente de las imágenes o vídeos impactantes que veas en redes
- Mantén siempre cierta dosis de sospecha ante el contenido que pueda haber generado una IA
Con la difusión de los agentes de IA, aparecen también nuevos ataques que incluyen estos usos malintencionados. Para la perspectiva de las empresas, también resulta útil el análisis de incidentes de seguridad con agentes de IA.
Tendencias regulatorias en el mundo: ha empezado a crearse la normativa
Para responder a los riesgos de la IA, en todo el mundo avanza a marchas forzadas la creación de leyes.
| Región | Regulación | Características |
|---|---|---|
| UE | AI Act (aprobada en 2024) | Regulación basada en el riesgo. Criterios estrictos para la IA de alto riesgo (contratación, medicina, justicia). Aplicación gradual desde 2025 |
| Japón | Ley de Promoción de la IA (aprobada en mayo de 2025) | Enfoque de «innovación primero». Prioriza el impulso sobre la regulación, a la vez que fija criterios de seguridad |
| EE. UU. | Orden ejecutiva sobre seguridad de la IA | Aún sin ley integral a nivel federal. La regulación avanza estado por estado |
En diciembre de 2025, Japón aprobó en consejo de ministros el «Plan Básico de IA», con el que planea una inversión relacionada con la IA del orden de 1 billón de yenes en 5 años[1]. Llama la atención su enfoque «al estilo japonés»: fijar criterios de seguridad mientras se impulsa la innovación, sin endurecer en exceso la regulación.
Lista de comprobación para usar la IA con seguridad
Una vez entendidos los riesgos, ¿cómo hay que actuar en concreto? Hemos reunido listas de comprobación desde la perspectiva del individuo y de la organización.
- No te creas la salida a pies juntillas: verifica siempre la información importante en fuentes primarias
- No introduzcas información confidencial: decide con «¿me importaría que se hiciera público?»
- Verifica cifras y nombres propios: es donde más fácilmente ocurren las alucinaciones
- Ten cuidado con los sesgos: fíjate en si la salida de la IA no está sesgada
- Comprueba los derechos de autor: en uso comercial, revisa siempre los términos
- Indica adecuadamente el uso de IA: revélalo en informes y artículos
- La responsabilidad final es tuya: el resultado de usar la salida de la IA es responsabilidad del usuario
- Establecer y difundir una política de uso de IA: dejar por escrito qué se puede introducir y en qué tareas
- Formar a los empleados: enseñar el uso correcto de la IA y sus riesgos
- Flujo de revisión de lo generado por IA: montar un sistema de revisión humana antes de publicar
- Valorar la versión Enterprise: considerar planes para empresas con garantías sólidas de tratamiento de datos
- Preparar un procedimiento de respuesta a incidentes: decidir de antemano el flujo de actuación si surge un problema
- Los riesgos de la IA no son algo «que dé miedo», sino algo «que hay que conocer». Hemos hecho una panorámica de los 5 grandes riesgos.
- La base contra las alucinaciones es verificar: los 4 pasos de exigir la fuente, la fuente primaria, comparar varias IA y aprovechar los buscadores con IA.
- La base de la protección de la privacidad es la prueba de «¿me importaría que se hiciera público?». No introduzcas datos confidenciales.
- Cuidado también con derechos de autor, sesgos y deepfakes, y no olvides que la responsabilidad final es del usuario.
- La regulación mundial —la EU AI Act, la Ley de Promoción de la IA de Japón, etc.— también avanza a marchas forzadas.
Referencias
- "Japan adopts first AI basic plan." The Japan Times, 23 de diciembre de 2025.
- Vectara. "Hallucination Leaderboard." GitHub, 2025. / Stanford RegLab. "Legal Hallucination Study." 2025.
- Deepstrike. "Deepfake Statistics 2025." deepstrike.io, 2025.
Enlaces relacionados:
- EU AI Act Explorer — texto completo y explicación de la ley de regulación de IA de la UE
- Políticas relacionadas con la IA del Ministerio de Asuntos Internos y Comunicaciones de Japón — panorámica de la política de IA de Japón
En el siguiente capítulo explicamos las tendencias más recientes de la IA: la IA multimodal, los agentes de IA y las tendencias de 2025-2026.