Detección de deepfakes

La detección de deepfakes agrupa las técnicas para identificar contenido audiovisual generado o manipulado por IA. Combina tres vías: el análisis forense de artefactos del modelo generador, las marcas de agua incrustadas en origen y las credenciales de procedencia tipo C2PA. Ninguna es infalible; la fiabilidad viene de combinarlas.

La vía forense: buscar las huellas del generador

Los detectores forenses son clasificadores entrenados para distinguir material real de sintético a partir de huellas estadísticas: patrones de ruido característicos del modelo generador, incoherencias de iluminación y reflejos oculares, fisiología imposible (parpadeo, pulso visible en la piel), bordes de mezcla en zonas rellenadas y firmas espectrales de la síntesis. Los datasets públicos estructuraron el campo: FaceForensics++ (2019) con miles de videos manipulados etiquetados, y el Deepfake Detection Challenge (2020) (competición en Kaggle), cuyo resultado sigue siendo la cifra de referencia sobre los límites: el mejor modelo rondó el 65 % de precisión sobre material no visto durante el entrenamiento.

Ese número resume el problema estructural: los detectores generalizan mal fuera de su distribución de entrenamiento. La compresión de las redes sociales, el reescalado y los recortes destruyen precisamente las señales de alta frecuencia que el detector usa, y cada generación nueva de modelos —de las GAN a la difusión— invalida parte de los clasificadores anteriores.

La vía de procedencia: marcar en origen

La respuesta de la industria al límite forense fue invertir el enfoque: en lugar de detectar lo falso, certificar lo auténtico y marcar lo sintético en el momento de su creación. Dos técnicas dominan. Las marcas de agua invisibles —SynthID de Google DeepMind es la más conocida— alteran los píxeles de forma imperceptible pero detectable por un verificador, y sobreviven a recortes y compresión moderada. Las credenciales de contenido del estándar C2PA —impulsado por Adobe, Microsoft, la BBC y otros— firman criptográficamente el historial del archivo: qué dispositivo o modelo lo creó y qué ediciones sufrió; cualquiera puede comprobarlas en el verificador público de Content Credentials.

El marco regulatorio se apoya en esta vía: el artículo 50 del EU AI Act exige desde agosto de 2026 que las salidas generativas lleven marcado legible por máquinas, y la industria converge hacia C2PA como implementación. Los límites también son claros: la marca la pone el proveedor —un modelo abierto sin filtros puede omitirla—, los metadatos pueden eliminarse al recomprimir, y la ausencia de credencial no prueba que la imagen sea real.

Qué puede hacer un usuario en la práctica

Sin herramientas de laboratorio, la verificación práctica combina observación y contexto. Señales visuales: manos y dientes anómalos, joyas y tirantes que se funden con la piel, texto ilegible en el fondo, reflejos oculares inconsistentes entre ambos ojos y transiciones de nitidez entre el rostro y el resto. Señales de contexto, casi siempre más decisivas: búsqueda inversa de la imagen para localizar el original, fecha y fuente de la primera publicación, e incoherencias entre el contenido y hechos verificables.

Para las víctimas de deepfakes íntimos el estándar probatorio es distinto: las leyes de NCII —la Ley Olimpia en México, la TAKE IT DOWN Act en EE. UU.— no exigen demostrar con qué herramienta se generó el material; basta que la persona sea identificable y no haya consentido. La detección técnica ayuda a documentar el caso, pero no es requisito para pedir la retirada. El cruce completo entre deepfakes y desnudos sintéticos, con sus riesgos específicos, está en nuestra guía deepfake nude.