Société & garde-fous

Anthropic, la boîte la plus obsédée par la sécurité de l'IA, a fuité ses propres secrets. Deux fois en 5 jours.

5 min de lecture

L'entreprise qui se présente comme la plus responsable de l'industrie IA a laissé fuiter un modèle qu'elle qualifie elle-même de 'risque sans précédent', puis le code source de son produit phare. En 5 jours.

La newsletter IA gratuite
Anthropic, la boîte la plus obsédée par la sécurité de l'IA, a fuité ses propres secrets. Deux fois en 5 jours.

Anthropic, c'est l'entreprise qui a été fondée parce que ses créateurs trouvaient qu'OpenAI ne prenait pas la sécurité assez au sérieux.

Dario et Daniela Amodei ont quitté OpenAI en 2021 pour créer une boîte dont le pitch tient en deux mots : "safety first". Chaque annonce, chaque blog post, chaque interview martèle le même message : on construit l'IA la plus puissante du monde, mais on le fait de manière responsable.

La semaine dernière, en l'espace de 5 jours, Anthropic a fuité ses propres secrets. Deux fois.

Fuite #1 : le modèle qui "pose des risques cybersécurité sans précédent"

Le 26 mars, Fortune découvre qu'environ 3 000 fichiers internes d'Anthropic sont accessibles publiquement dans une base de données non sécurisée.

Parmi ces fichiers : un brouillon de blog post qui annonce "Claude Mythos", nom de code interne Capybara. C'est le prochain modèle phare d'Anthropic, décrit comme un "step change", le plus puissant jamais construit par l'entreprise. Plus fort qu'Opus 4.6, leur modèle actuel.

Le détail qui tue : dans ce brouillon, Anthropic écrit noir sur blanc que Capybara "pose des risques cybersécurité sans précédent" et "annonce une vague de modèles capables d'exploiter des vulnérabilités à une vitesse qui dépasse les défenseurs".

En résumé : Anthropic prépare un modèle qu'elle juge elle-même dangereux, et c'est le monde entier qui l'apprend parce que quelqu'un a oublié de mettre un mot de passe sur la base de données.

Le lendemain, les actions des entreprises de cybersécurité chutent en bourse.

Fuite #2 : le code source de Claude Code

Cinq jours plus tard, le 31 mars, un chercheur en sécurité découvre que le code source complet de Claude Code est disponible en clair sur npm, le registre de packages que les développeurs utilisent pour distribuer leurs logiciels.

500 000 lignes de code. 1 900 fichiers. Tout le système qui fait fonctionner Claude Code : l'architecture de l'agent, les APIs internes, les guardrails, les instructions système, des fonctionnalités non encore publiées.

La cause : un fichier sourcemap de 60 mégaoctets inclus par erreur dans le package publié. Quelqu'un n'a pas retiré un fichier de debug avant de publier. C'est le genre d'erreur qu'on fait en stage.

Le code a été extrait et publié sur GitHub dans les heures qui suivent. Il ne disparaîtra jamais.

Et le pire : c'est la deuxième fois en un an que Claude Code fuite de la même manière. Février 2025, même scénario.

La réponse d'Anthropic : "Ce n'est pas une faille de sécurité, c'est un problème de packaging causé par une erreur humaine." Sauf que l'erreur humaine est précisément le problème quand on fonde toute ta réputation sur la sécurité.

Ce que les fuites n'incluaient pas

Les poids du modèle, le "cerveau" de l'IA, sont intacts. Aucune donnée client n'a été exposée. Aucun identifiant n'a été compromis. La première fuite est surtout gênante, la deuxième est plus sérieuse mais pas catastrophique.

D'autres entreprises ont des fuites similaires. Epic Games, Nintendo, Google, Tesla ont tous laissé traîner des fichiers dans des endroits publics.

Mais aucune de ces entreprises ne fait de la sécurité son argument de vente principal.

L'ironie structurelle

Le blog post fuité n'était pas un memo interne anodin. C'était un texte préparé pour montrer à quel point Anthropic prend la sécurité au sérieux. Le message était : "Notre nouveau modèle est tellement puissant qu'on va le tester avec des experts en cybersécurité avant de le publier." Sauf que ce même texte a fuité parce qu'il était dans une base de données publique sans mot de passe.

Roy Paz, chercheur en sécurité chez LayerX : "Normalement, les grandes entreprises ont des processus stricts et des vérifications multiples avant qu'un code arrive en production, comme un coffre-fort qui nécessite plusieurs clés pour s'ouvrir. Chez Anthropic, il semble que ce processus n'était pas en place."

Anthropic génère 19 milliards de dollars de revenus annualisés. Ils n'arrivent pas à retirer un fichier de debug d'un package npm.

Ce que ça dit de l'industrie

Le problème dépasse Anthropic. Si l'entreprise la plus vocale sur la sécurité de l'IA commet ce genre d'erreurs, deux fois en 5 jours et deux fois en un an pour le même produit, qu'est-ce qu'on peut raisonnablement attendre des autres ?

L'industrie IA avance à une vitesse qui dépasse sa capacité à se sécuriser elle-même. Les modèles deviennent plus puissants, les agents plus autonomes, les stakes plus élevés. Et les processus de base, ceux qui empêchent un fichier de se retrouver sur internet, ne suivent pas.

Ce n'est pas un problème de technologie. C'est un problème d'hygiène. Et l'hygiène, ça ne s'achète pas avec 19 milliards de dollars de revenus.

La prochaine fois qu'une entreprise IA te promet que ton data est en sécurité, rappelle-toi qu'Anthropic n'arrivait même pas à protéger le sien.


Sources:

Sujets abordés :

SécuritéDécryptage

Questions fréquentes

Qu'est-ce qu'Anthropic a laissé fuiter ?
Deux fuites en 5 jours : un blog post interne révélant leur prochain modèle Claude Mythos (qualifié de 'risque cybersécurité sans précédent'), puis le code source complet de Claude Code (500 000 lignes).
Le modèle Claude Mythos a-t-il fuité ?
Non. Les poids du modèle (le 'cerveau' de l'IA) n'ont pas fuité. Seul un blog post interne décrivant ses capacités et un event CEO ont été exposés.
Est-ce que les données des utilisateurs ont été compromises ?
Non. Anthropic confirme qu'aucune donnée client ni identifiant n'a été exposé. Les fuites concernent du code interne et des documents stratégiques.
Alexandre Noto

Alexandre Noto

Co-fondateur & Expert Tech

Alexandre est dans la tech depuis plus de 20 ans. Entrepreneur, architecte logiciel et passionné d'intelligence artificielle, il traduit les concepts complexes en explications accessibles. Chez Declic Media, il est la voix technique qui rend l'IA compréhensible pour tous.

Tous les articles de Alexandre →
La newsletter IA gratuite