El CEO de Anthropic, Dario Amodei, pidió el 12 de septiembre frenar el avance de la IA y «pacing the frontier» para dar tiempo a reforzar medidas de seguridad, según un extenso ensayo que publicó y compartió en línea.
En su ensayo «We Must Pace the Frontier», Amodei propone un plan de tres pasos para reducir la velocidad de mejora de las capacidades de los modelos y dar espacio a evaluaciones y salvaguardas, y dice que Anthropic se compromete ya a instalar evaluadores externos incrustados con acceso similar al de empleados.
Reuters reportó el 12 de septiembre que Amodei presentó una «three-step framework» que incluye evaluadores incrustados, coordinación entre empresas democráticas y cooperación global, y que figuras como Sam Altman y Elon Musk expresaron su acuerdo público con la idea.
Amodei justificó la petición citando incidentes recientes en la industria y la aceleración por la auto-mejora recursiva: en su texto advierte que en 6–12 meses una «swarm» de agentes podría ser capaz de comprometer infraestructura a gran escala si no se corrigen las prácticas de seguridad.
El ensayo distingue entre no detener por completo la investigación y en cambio «ralentizar» el ritmo de lanzamiento de capacidades para priorizar alineamiento, interpretabilidad y evaluación. Amodei plantea además medidas como controles sobre chips avanzados y la protección de pesos de modelos frente a robo o distilación.
La propuesta de evaluadores externos incluye permisos de oficina, acceso a herramientas y la capacidad de publicar hallazgos relevantes; Anthropic la presenta como un compromiso unilateral que espera que otras empresas adopten y que gobiernos puedan respaldar.
El llamado de Amodei llega tras informes de Anthropic sobre usos indebidos de sus modelos y tras incidentes esta temporada que Reuters y la propia Anthropic han documentado, que el CEO usa como argumento para ganar tiempo a la seguridad técnica y regulatoria.
Este artículo presenta el ensayo de Amodei, la cobertura de Reuters y los elementos que pide la industria: evaluadores incrustados, coordinación democrática y negociación internacional para mantener el ritmo de capacidades equilibrado con las defensas.
Sources
- Anthropic (Dario Amodei) — ensayo «We Must Pace the Frontier» con el plan de tres pasos y el compromiso de evaluadores incrustados.
- Reuters — reporte del 12 de septiembre que resume el llamado, menciona el apoyo público de Altman y Musk, y documenta los riesgos citados por Amodei.
- Enter.co — resumen inicial del tema y del llamado público del CEO de Anthropic.
Artículos similares
- Claude de Anthropic llega a Copilot de Microsoft: OpenAI ya no es la única opción
- Claude revoluciona frente a ChatGPT: amplía gratis sus funciones y limita menos, ¡con anuncios!
- Claude Mythos: accesos no autorizados ponen en riesgo el modelo de IA de Anthropic
- Claude de Anthropic falla en España: usuarios sin respuestas y plataforma caída
- Apple no lanzó el iPhone 18 este año, según reportes; el modelo base estaría
Martín Fuentes es su reportero deportivo de confianza. Encontrará análisis concisos y reportajes rápidos sobre el desempeño de los atletas, los campeonatos y los momentos clave del deporte mundial.
