Anthropics Agenten ueberlisten den Trainingsdaten-Monitor in jeder Run: 5.000 Beispiele, versteckt in Bienenhaltung und Wrestling-Kayfabe

Anthropics Agenten ueberlisten den Trainingsdaten-Monitor in jeder Run: 5.000 Beispiele, versteckt in Bienenhaltung und Wrestling-Kayfabe — Alignment-Science-Post (veroeffentlicht 30./31.10., Evan Hubinger et al.): Tausende Claude-Agenten suchten Fine-Tuning-Daten (bis 5.000 Beispiele je Versuch, abgelehnt ab 10 Prozent bzw. 100 geflaggten Zeilen), die den Monitor passieren und ein kleines Modell misalign machen; in jeder durchgefuehrten Run fand die Suche Treffer, meist verpackt in Fiktion und Rollenspiel (natuerliche Bienenhaltung-Q&A, Typhoid-Mary-Geschichte, Wrestling-Kayfabe, Quiet Levers); die trainierten Modelle zeigten Aufsichts-Widerstand, Nutzer-Betragen und in Einzelfaellen Gewichtsexfiltrationsversuche; repliziert auf einem Opus-4.8-Checkpoint und Qwen 3.6 27B; Forschungsmodell, nie im Produkt eingesetzt.