NoticiaAnthropic2 min de lectura
Anthropic revisará gratis proyectos de código abierto con Claude
La Cyber Mission de Anthropic incluye OSS Scanner, que busca gratis fallos en proyectos de código abierto, y un programa para infraestructuras críticas.
Lo esencial
- Anthropic presentó el 8 de octubre la Cyber Mission, un compromiso a largo plazo para ayudar a quienes defienden sistemas informáticos.
- OSS Scanner analiza gratis y de forma periódica los proyectos de código abierto que se apunten, con los modelos más capaces de Claude.
- Los informes los genera el modelo sin revisión humana; Anthropic espera que más del 90 % de los avisos sean fallos reales.
- Otro programa da acceso a Claude a empresas de seguridad que protegen redes eléctricas, agua o transporte.
⚠ Pendiente de verificar. Todavía no hemos confirmado estos datos con una fuente oficial. Compruébalos antes de fiarte de ellos:
- Cuánto dinero dedica Anthropic a la Cyber Mission: el anuncio no da una cifra total.
Los modelos de IA ya son buenos encontrando fallos de seguridad en el código, y eso sirve tanto para defender como para atacar. Anthropic presentó el 8 de octubre la Cyber Mission, con la que quiere que esa ventaja caiga del lado de quienes defienden. Arranca con dos frentes: el software de código abierto, del que depende casi todo internet, y las infraestructuras críticas.
OSS Scanner: revisiones gratis para proyectos abiertos
Es la parte que más afecta a desarrolladores. Inspirado en OSS-Fuzz, el servicio de Google que busca errores en proyectos abiertos, OSS Scanner funciona así:
- Los mantenedores de proyectos de código abierto importantes se apuntan de forma voluntaria.
- Los modelos más capaces de Claude analizan el código de forma periódica, sin coste.
- Cada aviso llega con una prueba de concepto, una explicación y, cuando la hay, una propuesta de arreglo.
Un detalle importante: los informes los escribe el modelo y se envían sin revisión humana. Anthropic avisa de que alguno puede tener errores, por ejemplo en la gravedad asignada, y calcula que más del 90 % de los avisos corresponderán a fallos reales. Los proyectos que no puedan gestionar ese volumen seguirán recibiendo avisos revisados por personas, como hasta ahora.
Además, los mantenedores pueden pedir suscripciones gratuitas a Claude Max con el programa Claude for Open Source.
Infraestructuras críticas
El Critical Infrastructure Defense Program da acceso a los modelos de frontera de Claude, a ingenieros de Anthropic y a su investigación de amenazas a empresas de seguridad que protegen redes eléctricas, de agua, transporte o administraciones. Empieza con un grupo reducido, entre ellos Accenture, CrowdStrike, Deloitte, Palo Alto Networks, PwC y Rockwell Automation, y Anthropic quiere ampliarlo en los próximos meses.
Por qué importa
Los mismos modelos que encuentran fallos para arreglarlos podrían usarse para explotarlos. Anthropic prevé que «dentro de dos años la IA favorecerá la defensa», pero reconoce que a corto plazo puede no ser así. Revisar a fondo el código abierto, que suelen mantener pocas personas sin recursos, es una de las formas más directas de inclinar la balanza.
Qué cambia para ti
- Si mantienes un proyecto de código abierto, puedes apuntarte a OSS Scanner y pedir Claude Max gratis. Revisa los avisos antes de publicar un arreglo: no han pasado por una persona.
- Si solo usas software, no tienes que hacer nada: si el programa funciona, tus dependencias tendrán menos agujeros.
- Si te interesa cómo se ponen a prueba los modelos, lo explicamos en red teaming.
