Hacker News Front Page · Scott Buscemi ·
How EmDash uses Clef to moderate the plugin registry
EmDash usa el modelo multimodal Clef para evaluar metadatos, enlaces, iconos e imágenes de los plugins antes de mostrarlos en su catálogo; los resultados con una probabilidad de riesgo de al menos 0,45 pasan a revisión humana, sin que el modelo pueda bloquearlos por sí solo. En pruebas, Clef acertó las decisiones previstas en 63 ejecuciones de casos de texto, con una latencia p95 de 1,64 segundos, y aprobó los 37 perfiles y las 43 imágenes evaluados. La sustitución de varios modelos por una sola interfaz acelera la moderación y simplifica su implementación sin cambiar el proceso de publicación para los autores.
Every plugin listing in the EmDash registry is now screened by Cloudflare's Clef decision model. Here's how one fast, multimodal model helps us catch phishing, impersonation, offensive content, and other abuse before a plugin appears in the catalog.