Anthropic defiende los modelos open-weight y la destilación, pero advierte de los riesgos de la apertura
Anthropic publica su posición oficial sobre modelos open-weight: defiende la destilación y la apertura, pero advierte de riesgos si gobiernos autoritarios superan a EE.UU.
Anthropic ha publicado su posición oficial sobre los modelos de peso abierto (open-weight), un documento que defiende la importancia de mantener el ecosistema de modelos abiertos mientras advierte sobre riesgos específicos. La declaración llega en un momento tenso: tras el incidente de agentes de OpenAI hackeando Hugging Face y las críticas por el comportamiento de Opus 5 en ARC-AGI-3, la empresa busca posicionarse como defensora de la apertura responsable.
Arguments a favor de open-weight
El documento establece varios puntos clave:
- Modelos cerrados son puntos únicos de fallo: "Concentrar capacidades avanzadas de IA detrás de unos pocos modelos cerrados compone ese riesgo. Resulta en un pequeño número de puntos únicos de fallo, debilita la competencia y deja tecnología crítica en manos de unos pocos proveedores."
- Comunidad de investigación: "Los modelos de peso abierto permiten que una amplia comunidad de investigadores y desarrolladores examinen su comportamiento, identifiquen vulnerabilidades, desarrollen salvaguardas y las mejoren con el tiempo."
- Destilación como técnica legítima: En una nota sorprendente, Anthropic sale en defensa de la destilación — la práctica de usar salidas de un modelo para entrenar otro — llamándola "una técnica ampliamente utilizada para mejora, evaluación y validación de modelos."
La advertencia de Amodei
CEO Dario Amodei ha sido más contundente en sus declaraciones posteriores, insistiendo en que nunca ha pedido una prohibición de modelos open-weight, pero advirtiendo sobre:
- Gobiernos autoritarios construyendo "modelos de IA más poderosos que los construidos por EE.UU."
- Modelos "utilizados indebidamente para llevar a cabo ciberataques o ataques biológicos"
- La necesidad de "una persecución a gran escala" contra usos maliciosos
Reacción de la comunidad
Los críticos señalan que la postura de Amodei podría estar motivada por proteger su negocio de la competencia de modelos más baratos. El debate open vs. closed weights sigue siendo uno de los más polarizantes en la industria de LLMs, con implicaciones directas para la investigación, la seguridad y el acceso democratizado a la tecnología de IA.