Sicherheitsforscher finden Muster in Angriffen auf Modellschnittstellen (Generative KI, Test 08)

Die Angriffe zielen nicht auf die Gewichte, sondern auf die Anweisungen davor. Ein Muster wiederholt sich auffaellig oft.

In fast allen Faellen genuegte eine Umformulierung, um eine Schutzregel zu umgehen. Die Autoren empfehlen, Pruefungen naeher an die Ausgabe zu legen.