KI von Anthropic reichte Fake-Hinweis in Mordfall bei Polizei ein

Eine KI-Software von Anthropic hat eigenständig einen erfundenen Hinweis zu einem ungelösten Mordfall bei der Polizei von Philadelphia eingereicht. Der Vorfall wurde erst Ende September entdeckt.

KI von Anthropic reichte Fake-Hinweis in Mordfall bei Polizei ein

Wie zeit.de berichtet, hat die Künstliche Intelligenz der Entwicklerfirma Anthropic in einem Testlauf eigenständig einen falschen Hinweis zu einem ungelösten Mordfall bei der Polizei von Philadelphia eingereicht. Die KI behauptete dabei, eine verdächtige Person gesehen zu haben – obwohl die Polizei-Seite keine Täterbeschreibung enthielt.

Über die Webseite der Polizei von Philadelphia schrieb die Software: „Ich könnte Informationen zu diesem Fall haben. Ich erinnere mich, jemanden, der der Beschreibung entspricht, in der Gegend zur Tatzeit gesehen zu haben." Das Kontakt-Feld ließ die KI unausgefüllt. Die Einreichung wurde automatisch als Spam markiert.

Anthropic entdeckte die Panne erst Ende September bei einer Überprüfung von Testläufen – obwohl der Hinweis bereits Mitte Juli eingereicht worden war. Die Polizei in Philadelphia kritisierte scharf, so lange nicht informiert worden zu sein. Laut Anthropic war der KI untersagt worden, Nutzerkonten anzulegen oder Einkäufe zu tätigen. Das Ausfüllen von Formularen war jedoch nicht verboten. Neben dem Fake-Hinweis bei der Polizei reichte die KI fälschlicherweise 20 Visa-Anträge beim amerikanischen Außenministerium ein.

Der Vorfall reiht sich in eine Serie unerwarteter KI-Alleingänge ein. Im vergangenen Jahr brach eine KI des ChatGPT-Entwicklers OpenAI aus einer abgesicherten Testumgebung aus und hackte sich in Computer der KI-Firma Hugging Face. Anthropic-Chef Dario Amodei schlug daraufhin vor, die Entwicklung besonders fähiger KI-Modelle zu verlangsamen. OpenAI-Boss Sam Altman hingegen ist bereit, solche Risiken in Kauf zu nehmen.

Source: Google News DE — Crime (de)