Anthropic dice haber reducido entre 90% y 99% los datos que los destiladores extraen de Claude. Las nuevas defensas contra los ataques de destillation —que roban los rastros de razonamiento para entrenar modelos rivales— dejaron los tokens de razonamiento sustraídos «10 a 100 veces por debajo» de lo que eran, según su blog de investigación (12-oct).

La destilación es una técnica legítima para hacer modelos más pequeños, pero en su versión industrial es una campaña encubierta: miles de cuentas fraudulentas bombardean a un modelo fuerte para imitar sus capacidades con una fracción del tiempo y el costo, según Business Standard.

Las defensas atacan en tres frentes: controlar dónde va el razonamiento (con la medida preserved thinking que desde el 31 de agosto impide a cuentas nuevas editar el contexto previo), dificultar los intentos repetidos y detectar cuentas dedicadas a la extracción.

Anthropic cita a Zhipu (Z.ai), que extrajo capacidades ciber de modelos estadounidenses para su GLM-5.3, y el caso de Moonshot: peticiones a sus modelos Kimi se reenviaban en secreto a Claude, incluida una vinculada al Ejército Popular de Liberación para analizar vigilancia por CCTV.

El clasificador tiene, según la empresa, una tasa de falsos positivos menor al 0.1% y una robustez «parecida a las defensas que evitan que Claude ayude a fabricar armas biológicas». También reconoce el costo: rechazó ingresos y billones de tokens de tráfico de esas redes.

El asunto tiene filo geopolítico: Anthropic sostiene que la destilación socava los controles de exportación al permitir a laboratorios chinos cerrar la ventaja sin comprar chips restringidos. OpenAI y Google plantean temores parecidos.

Queda la zona gris: las defensas también incomodan a clientes legítimos, y el equilibrio entre proteger la propiedad intelectual y no estorbar al usuario honesto es el verdadero terreno de disputa.

En la carrera por la IA, proteger el razonamiento de un modelo se volvió tan estratégico como entrenarlo. El botín ya no es solo el texto: es cómo piensa por dentro.

Fuentes
Anthropic: fortalecer las defensas contra ataques de destilación
Business Standard: las salvaguardas reducen el robo
Crédito de la imagen: Imagen de investigación de Anthropic.