Moderar contenido NSFW

El momento en que moderar deja de ser opcional

Una aplicación de citas, un foro, un marketplace con fotos de usuarios, una sección de comentarios que acepta imágenes: todos están a una sola subida mala de un ticket de soporte, un problema de imagen pública o una violación de política. La revisión manual no escala más allá de un volumen pequeño, y para cuando una persona marca algo, puede que ya lo haya visto otro usuario. image.moderate existe para ocupar ese espacio, revisando cada imagen automáticamente antes de la publicación y no después de una queja.

Qué devuelve realmente la revisión

Envía una imagen por POST a /image/moderate y recibe un veredicto de moderación que describe la probabilidad de contenido adulto o explícito, para que su aplicación fije su propio umbral: aprobar automáticamente lo claramente seguro, rechazar automáticamente lo claramente explícito y enviar la zona gris a un moderador humano. La decisión de dónde trazar esas líneas queda enteramente en sus manos —la API entrega la señal, no la política.

Revisar al ritmo real de las subidas

Las subidas rara vez llegan de una en una a un ritmo predecible; se disparan cuando se dispara el tráfico. Por eso el endpoint es asíncrono: acepta la imagen, devuelve un task_id de inmediato para que el flujo de subida nunca se detenga, y entrega el veredicto momentos después por webhook, o mediante un enlace firmado que puede consultar durante 24 horas.

Una capa, no toda la política de moderación

La detección automática de contenido NSFW es una primera línea de defensa bien establecida en la moderación de contenido, pero es deliberadamente estrecha: marca una categoría específica de contenido, no cualquier tipo de subida dañina. La mayoría de los sistemas en producción la combinan con otros controles —filtros de lenguaje en los textos, límites de tasa para cuentas nuevas, revisión humana de todo lo que supere cierto puntaje de riesgo— en lugar de tratar una sola señal como toda la estrategia de moderación.

Cómo encaja en un flujo de subida

El patrón común es llamar a image.moderate justo después de que la imagen llega al almacenamiento y antes de mostrarla a cualquier otro usuario, manteniéndola en estado pendiente hasta que llegue el veredicto. Combínela con image.quality para también rechazar archivos rotos o inutilizables en el mismo paso, de modo que una sola compuerta de moderación cubra tanto la seguridad como la higiene técnica básica. El precio es una pequeña tarifa fija por solicitud más una tarifa por imagen, ambas publicadas; las revisiones fallidas se reintentan automáticamente hasta tres veces y nunca se cobran si siguen fallando.