Hacker News Front Page · Anthropic ·
Strengthening our defenses against distillation attacks
Anthropic afirma que sus nuevas defensas redujeron entre 10 y 100 veces la cantidad de tokens de razonamiento extraídos por campañas de destilación, mediante controles sobre el acceso a transcripciones, clasificadores en dos etapas y límites o bloqueos para cuentas reincidentes. Según sus pruebas, los clasificadores detectan las técnicas de extracción descritas previamente y tienen una tasa de falsos positivos inferior al 0,1%, aunque la empresa reconoce que todavía pueden bloquear solicitudes legítimas y exigir cambios en integraciones. La compañía sostiene que estas medidas son necesarias para frenar el uso no autorizado de las capacidades de modelos avanzados y pide a otros desarrolladores y plataformas que también detecten y desactiven estas campañas.
Illicit distillation allows model developers to copy frontier AI capabilities without creating proportionally robust safeguards. Here, we describe how we’ve reduced the rate of distillation by more than 90%.