Dans le cadre de son "Project Glasswing", certaines organisations sélectionnées seront autorisées à utiliser le modèle d'IA généraliste non encore commercialisé de la start-up, baptisé "Claude Mythos Preview", pour des travaux de cybersécurité défensive, a précisé Anthropic. Parmi les autres partenaires figurent CrowdStrike, Palo Alto Networks, Google et Nvidia.
Cette annonce fait suite à un article de Fortune publié le mois dernier, révélant qu'Anthropic testait Claude Mythos. Le rapport soulignait que ce modèle présentait des risques de sécurité tout en offrant des capacités avancées, ce qui avait entraîné une chute brutale des actions de sociétés de cybersécurité telles que Palo Alto Networks et CrowdStrike.
La conférence RSA sur la cybersécurité, qui s'est tenue cette année à San Francisco, a également été dominée par les débats sur la recrudescence des cyberattaques dopées à l'IA et sur l'adéquation des outils de sécurité conventionnels.
Dans un billet de blog publié mardi, Anthropic a affirmé que Mythos Preview avait détecté des "milliers" de vulnérabilités majeures dans des systèmes d'exploitation, des navigateurs web et d'autres logiciels.
La start-up a précisé que les partenaires de lancement utiliseront Mythos Preview dans leurs activités de sécurité défensive, et qu'elle partagera ses conclusions avec l'ensemble du secteur.
Anthropic a également indiqué qu'elle étendait l'accès à environ 40 organisations supplémentaires responsables d'infrastructures logicielles critiques. Elle s'est engagée à verser jusqu'à 100 millions de dollars en crédits d'utilisation et 4 millions de dollars de dons à des groupes de sécurité open-source.
La start-up d'IA a ajouté que son objectif final est de permettre à "nos utilisateurs de déployer en toute sécurité des modèles de la classe Mythos à grande échelle".
L'entreprise a précisé qu'elle maintenait des discussions suivies avec le gouvernement américain concernant les capacités du modèle.
L'année dernière, Anthropic avait révélé que des pirates avaient exploité des failles de son IA Claude pour attaquer une trentaine d'organisations mondiales. Par ailleurs, 67% des 1 000 dirigeants interrogés dans le cadre d'une étude menée par IBM et Palo Alto Networks ont déclaré avoir été visés par des attaques liées à l'IA au cours de l'année écoulée.
