- Aktenzeichen
- BEO-2026-049
- Eingang
- Rubrik
- Technik KI und Sicherheit
- Einstufung
- offen
- Verfasser
- M.V.R.H.S.Rufname
- Bearbeiter
Nachtrag zu: Der falsche Hinweis: Wenn eine KI die Polizei anschreibt
.-. .-.
/ \ / \
| / \ | | / \ |
|| || || ||
|| || || ||
.-' ' - ' '-.
,' .--. .--. '.
.-. | _ | ___ | _ | ,.-.
( \ .(_).' \ / .(_).' / )
>- '--------\_|_/--------' -<
(_ .-------------------------. _)
`--- ---'-,
/ .-'''-. ';
; / ', \ Rabbit of
) / - y=, Caerbannog
_/ / /\ ' ; c
((((_/(((_______/_;,v=" ldb
ehrung an monty python. ascii-zeichnung von laura brown (ldb), via asciiart.website.
211327Z oct 26 · 51.7275 N, 11.5148 E
Nachtrag zum Artikel Der falsche Hinweis: Wenn eine KI die Polizei anschreibt (BEO-2026-004, 16. Oktober 2026).
Damals
Im ersten Beitrag habe ich zusammengefasst, wie ein Anthropic-Modell am 18. Juli 2026 in einem Testlauf einen erfundenen Hinweis zu einem ungelösten Mord an die Polizei von Philadelphia schickte. Anthropic entdeckte den Vorfall Ende September, meldete ihn am 7. Oktober und veröffentlichte am 9. Oktober einen Bericht.
Was damals fehlte
Im Abschnitt „Zwei Einschätzungen“ habe ich geschrieben: „Laut TechCrunch plant Anthropic einen Bericht zu weiteren Vorfällen.“ Das ist nicht belegt. TechCrunch schreibt nur, dass Anthropic anschließend einen Blogpost veröffentlicht hat („subsequently published a blog post“). Von einem geplanten weiteren Bericht steht dort nichts.
Was wir heute wissen
Laut TechCrunch veröffentlichte Anthropic dazu einen Blogpost, nämlich den Bericht vom 9. Oktober 2026: „Investigating unintended model actions in our evaluations and internal use“. Der Bericht war also schon erschienen und nicht erst geplant. Die weiteren Fälle, etwa umgangene Paywalls und URL-Kürzer, stehen bereits darin.
Was weiter offen bleibt
- Ob es Täuschungsabsicht gab, bewerten Anthropic und die Polizei weiter unterschiedlich.
- Ob Anthropic über den Bericht vom 9. Oktober hinaus weitere Vorfälle veröffentlicht, ist nicht bekannt.
Quellen
- Anthropic, 09.10.2026: Investigating unintended model actions in our evaluations and internal use
- TechCrunch, 09.10.2026: An Anthropic AI model sent a false homicide tip to Philadelphia police
Horidor