Thorn

Thorn es una organización sin fines de lucro estadounidense que desarrolla tecnología para defender a menores del abuso sexual en línea: su plataforma Safer detecta material de abuso infantil mediante hashing y clasificadores, y su iniciativa Safety by Design compromete a los principales laboratorios de IA a impedir que sus modelos generen ese material.

Qué hace y qué herramientas construye

Fundada en 2012 por Ashton Kutcher y Demi Moore como evolución de su fundación previa, Thorn opera en la intersección de tecnología y protección infantil. Su producto central, Safer, permite a las plataformas detectar material de abuso sexual infantil (CSAM) conocido mediante comparación de hashes contra bases de datos verificadas, y material nuevo mediante clasificadores de aprendizaje automático que señalan contenido sospechoso para revisión humana.

La organización también desarrolla herramientas para identificar víctimas en investigaciones policiales y publica investigación periódica sobre los riesgos digitales que enfrentan los menores, incluidos estudios sobre sextorsión y sobre la normalización de los «desnudos generados por IA» entre adolescentes. Ese trabajo de investigación es una de las fuentes más citadas al dimensionar el problema que las leyes tipo TAKE IT DOWN Act intentan atajar.

Su programa de investigación publica series periódicas sobre cómo los propios menores perciben y sufren estos riesgos —incluidas encuestas específicas sobre desnudos sintéticos entre adolescentes—, datos que alimentan tanto el diseño de producto de las plataformas como los procesos legislativos. Esa combinación de herramienta técnica, datos propios e incidencia pública es lo que da a la organización su peso en el debate regulatorio.

Safety by Design para IA generativa

En abril de 2024, Thorn y la organización All Tech Is Human lograron algo inusual: que los laboratorios líderes de IA se comprometieran públicamente con principios comunes para impedir el uso de sus tecnologías contra menores. Amazon, Anthropic, Civitai, Google, Meta, Metaphysic, Microsoft, Mistral AI, OpenAI y Stability AI adoptaron los principios de Safety by Design para IA generativa.

Los compromisos cubren el ciclo completo del modelo. En el desarrollo: depurar los datos de entrenamiento de CSAM y de material sexual adulto que facilite la generalización indebida hacia menores. En el despliegue: incorporar salvaguardas —clasificadores de edad aparente, filtros de prompt, marcas de procedencia— antes de publicar el modelo. En el mantenimiento: retirar de sus plataformas los modelos ajustados específicamente para generar material de abuso, una referencia directa al ecosistema de LoRAs y modelos derivados que circulan en repositorios abiertos. El documento técnico completo detalla las mitigaciones por fase.

Por qué importa para la categoría de desnudo sintético

La frontera más crítica de la categoría que reseña este sitio es la protección de menores: cualquier servicio de manipulación de imágenes que no verifique edad aparente ni bloquee rostros infantiles puede convertirse en herramienta de producción de CSAM sintético, que es ilegal en prácticamente todas las jurisdicciones aunque no exista una víctima fotografiada. Los principios de Thorn fijan el estándar de diligencia que separa a los operadores responsables del resto.

Por eso nuestra metodología puntúa explícitamente si un servicio declara filtros de edad, con qué rigor los aplica y si participa en los ecosistemas de hashing —el equivalente adulto es StopNCII; para menores, la vía es Take It Down del NCMEC. Los servicios que se anuncian «sin restricciones» incumplen de partida este estándar, y así lo reflejamos en las reseñas y en nuestros principios de IA responsable.