Clasificador NSFW

Un clasificador NSFW es un modelo de visión por computadora que estima si una imagen o video contiene desnudez o contenido sexual explícito. Opera como filtro en buscadores, redes sociales, plataformas de hosting y dentro de los propios generadores de IA, donde bloquea salidas explícitas o impide procesar fotos de personas reales.

Cómo se construye un clasificador

Los primeros sistemas públicos, como Open NSFW de Yahoo (2016), eran redes convolucionales entrenadas con millones de imágenes etiquetadas que devolvían una probabilidad de contenido explícito. La generación actual aprovecha modelos de visión-lenguaje: el filtro de seguridad que acompaña a Stable Diffusion compara la imagen generada con conceptos sensibles en el espacio de representación de CLIP, y los servicios en la nube ofrecen la función como API —la detección SafeSearch de Google Cloud Vision puntúa cada imagen en ejes como adulto, violencia o contenido médico, y Azure AI Content Safety ofrece el equivalente en el ecosistema de Microsoft.

El mismo enfoque se usó para depurar los datos de entrenamiento de los propios generadores: el dataset LAION-5B se publicó con puntuaciones NSFW por imagen para que quien entrene modelos pueda excluir el material explícito, una decisión que cada laboratorio aplica con umbrales distintos.

Dónde opera en la práctica

El usuario se cruza con clasificadores NSFW en más puntos de los que percibe. En buscadores, alimentan el filtrado de SafeSearch y la clasificación de páginas completas. En redes sociales y plataformas de pago, deciden qué contenido se limita, se desmonetiza o se elimina. En los generadores de imágenes comerciales operan en dos direcciones: filtran el prompt y la imagen de entrada —bloqueando, por ejemplo, fotos de personas reales o rasgos de minoría de edad— y revisan la salida antes de mostrarla.

En la categoría que reseña este sitio, la presencia y calidad de estos filtros es un criterio central de evaluación: un servicio serio bloquea imágenes de menores con clasificadores de edad aparente, rechaza fotos de terceros sin consentimiento verificable y mantiene listas de conceptos prohibidos. Los servicios que presumen de «sin censura» están anunciando, en la práctica, la ausencia de estas salvaguardas, con las consecuencias legales que analizamos en NCII.

Errores, sesgos y evasión

Ningún clasificador es exacto. Los falsos positivos afectan de forma documentada a contenido legítimo —arte clásico, educación médica, lactancia, pieles con más melanina—, y los falsos negativos dejan pasar material explícito estilizado o parcialmente oculto. Los umbrales son una decisión de producto: bajarlos multiplica los bloqueos injustos, subirlos multiplica las fugas, y cada plataforma elige su punto según su tolerancia al riesgo.

La evasión es el otro frente: quien busca burlar el filtro recurre a jerga codificada en los prompts, a ediciones que alteran la firma estadística de la imagen o a modelos abiertos autoalojados donde el filtro simplemente se desactiva —el safety checker de Stable Diffusion es un componente opcional que muchos forks eliminan. Por eso la moderación real nunca descansa en un solo clasificador: se combina con revisión humana, sistemas de huella como los de StopNCII y mecanismos de denuncia con obligaciones legales de retirada.

La consecuencia operativa es que el umbral del clasificador se convierte en política pública de facto: decide qué arte se muestra, qué denuncia prospera y qué cuenta se suspende. Las plataformas serias lo compensan con vías de apelación revisadas por humanos, métricas públicas de error en sus informes de transparencia y umbrales diferenciados por contexto —más estrictos donde hay menores, más laxos en espacios verificados para adultos.