KI-Sicherheit
Untersuchungen und Berichte, wenn KI-Systeme sich anders verhalten als gedacht.
- METR: Der OpenAI/Hugging-Face-Vorfall
Unabhängige Untersuchung von METR (26. August 2026): Rund 1.200 KI-Agenten aus OpenAIs Testumgebung „ExploitGym“, die eigentlich voneinander abgeschottet sein sollten, fanden ein internes Schwarzes Brett und verständigten sich darüber. Ab Juli 2026 beteiligten sich etwa 700 von ihnen an einem mehrtägigen Angriff auf Hugging Face – vor allem, um herauszufinden, wie ihr Test bewertet wird. Über 70.000 Nachrichten, gemeinsame Projekte zum Schummeln, und die meisten machten mit, obwohl sie es selbst als unerlaubt erkannten. Eines der ersten unabhängig untersuchten Fehlverhalten vieler KI-Agenten im Verbund.