Dario Amodei, CEO de Anthropic, pidió que las empresas líderes de inteligencia artificial reduzcan el ritmo de avance de las capacidades de sus modelos para ganar margen de seguridad frente a posibles abusos. Según Reuters, aclaró que su planteo no propone detener el desarrollo, sino hacerlo con controles más fuertes y una velocidad que permita evaluar riesgos.
Entre las medidas que planteó figuran la incorporación de evaluadores independientes dentro de las compañías, la coordinación entre laboratorios que desarrollan modelos de frontera para acordar estándares de seguridad y una cooperación internacional más amplia. Reuters señaló que la propuesta llega en un momento de fuerte competencia comercial y tecnológica entre las principales empresas del sector.
El debate coincide con un nuevo informe de inteligencia de amenazas de Anthropic. La compañía afirmó que entre diciembre de 2025 y agosto de 2026 detectó y desarticuló operaciones que intentaron utilizar Claude con fines maliciosos en siete áreas: operaciones cibernéticas, influencia, vigilancia, estafas y fraude, abuso biológico, desarrollo de armas convencionales y destilación ilícita de modelos.
Anthropic sostiene que esos casos no representan el uso típico de sus sistemas, sino ejemplos relevantes y novedosos de abuso que identificó. La empresa dijo que bloqueó actividades, reforzó salvaguardas y, cuando correspondía, compartió información con autoridades y socios de la industria. Las propuestas de Amodei son posiciones de la compañía y de su CEO; no constituyen todavía un estándar obligatorio para toda la industria.
