Letzte Woche hat Hugging Face eine nie dagewesene Art von Sicherheitsvorfall offengelegt. Dieser konkrete Vorfall zeigt, wie leistungsfähig und gewieft KI-Agenten inzwischen sein können. Eine Kombination von OpenAI-Modellen (unter anderem GPT‑5.6 Sol und ein noch leistungsfähigeres Pre-Release-Modell) waren für diesen Vorfall verantwortlich. Bei allen waren die Ablehnungen von Cyber-Anfragen zu Evaluationszwecken reduziert, während sie intern anhand eines Benchmarks für Cyber-Fähigkeiten getestet wurden.
Dieser Vorfall zeigt, wie mächtig KI-Systeme inzwischen sind und dass es selbst deren Entwicklern mitunter schwerfällt die KIs unter Kontrolle zu behalten. Es zeigt auch, dass KI-Systeme in den falschen Händen inzwischen eine ernstzunehmende Bedrohung der IT-Sicherheit darstellen.