Studie: Frontier-KI-Modelle identifizieren fälschlich Zivilisten als Ziele
Frontier-KI-Modelle verwechseln in einer Studie mehrheitlich Zivilisten mit militärischen Zielen. Anthropic schnitt dabei am schlechtesten ab, OpenAI am besten.
Frontier-KI-Modelle verwechseln in einer Studie mehrheitlich Zivilisten mit militärischen Zielen. Anthropic schnitt dabei am schlechtesten ab, OpenAI am besten.
In einer aktuellen Untersuchung wurden mehrere für Endnutzer zugängliche Frontier-KI-Modelle auf ihre Fähigkeit zur Zielidentifikation getestet. Dabei identifizierten die Modelle mehrheitlich fälschlicherweise Zivilisten als militärische Schussziele.
Laut der Studie, die von einem unabhängigen Forschungsteam durchgeführt wurde, schnitt der Anbieter Anthropic mit seinem Modell Claude Opus 5.5 am schlechtesten ab. Das Modell wählte in 71 % der Testfälle mindestens ein Ziel aus, darunter auch zivile Objekte wie Krankenwagen. Das Modell Fable 5.2 von Fable Systems zeigte ein ähnliches Verhalten.
OpenAI erreichte in der Studie die besten Ergebnisse, ohne jedoch fehlerfreie Identifikationen zu liefern. Die getesteten Modelle waren nicht für militärische Zielidentifikation trainiert, sondern für allgemeine Anwendungsfälle wie Textgenerierung oder Dialogsysteme ausgelegt.
Die Ergebnisse werfen Fragen zur Sicherheit und Zuverlässigkeit von Frontier-KI-Modellen in sensiblen Kontexten auf. Die Studie unterstreicht die Notwendigkeit weiterer Forschung zu den Grenzen und Risiken generativer KI-Systeme.