Google testet KI-Agenten in abgeschotteter Testumgebung
Google hat eine abgeschottete Testumgebung namens 'Mirror Dimension' entwickelt, um KI-Agenten mit künstlichen Websites zu konfrontieren. Die Umgebungen sollen realistisch wirken, um das Verhalten der Modelle nicht zu verzerren.
Google hat eine abgeschottete Testumgebung namens 'Mirror Dimension' entwickelt, um KI-Agenten mit künstlichen Websites zu konfrontieren. Die Umgebungen sollen realistisch wirken, um das Verhalten der Modelle nicht zu verzerren.
Der Technologiekonzern Google setzt eine neue Methode ein, um die Sicherheit von KI-Agenten zu testen. Dabei kommt die abgeschottete Testumgebung 'Mirror Dimension' zum Einsatz, die künstliche Websites nutzt, um realistische Szenarien zu simulieren. Ziel ist es, die Widerstandsfähigkeit der KI gegen Prompt-Injection-Angriffe zu überprüfen.
Die künstlichen Websites werden so gestaltet, dass sie möglichst authentisch wirken, um zu verhindern, dass KI-Modelle ihr Verhalten aufgrund erkennbarer Testumgebungen anpassen. Google nutzt dabei echte Internetadressen wie youtube.com, leitet den Netzwerkverkehr jedoch über einen lokalen Proxy um, der die künstlichen Inhalte ausliefert.
Laut den Angaben wird die Testumgebung täglich über 1.000 automatisierte Angriffstestkandidaten pro Sicherheitsingenieur generieren, um die Sicherheit der KI-Agenten kontinuierlich zu prüfen. Die künstlichen Websites werden zudem von KI-Agenten selbst erstellt, geprüft und verbessert, um die Realitätsnähe zu erhöhen.