La semaine dernière, Hugging Face a révélé un type d’incident de sécurité inédit. Cet incident concret montre à quel point les agents IA peuvent aujourd’hui être puissants et ingénieux. Une combinaison de modèles OpenAI (notamment GPT–5.6 Sol et un modèle en pré-version encore plus performant) étaient responsables de cet incident. Dans tous les cas, les refus des requêtes cyber pour des raisons d’évaluation avaient été réduits, tandis qu’ils étaient testés en interne sur un benchmark des capacités cyber.
Cet incident montre à quel point les systèmes d’IA sont devenus puissants, au point que même leurs développeurs ont parfois du mal à garder le contrôle. Il montre également qu’entre de mauvaises mains, les systèmes d’IA représentent désormais une menace sérieuse pour la sécurité informatique.
