The China Mail - Anthropic meldet "unbefugten Zugriff" von KI-Modellen auf drei Organisationen

Anthropic wertete nach eigenen Angaben mehr als 141.000 "Evaluierungsläufe" aus. Dabei wurde festgestellt, dass drei verschiedene Versionen des KI-Modells Claude unbefugt auf die Systeme von drei Organisationen zugegriffen hatten. Die KI-Modelle sollten demnach eigentlich von Systemen der "echten Welt" ferngehalten werden.

Gut eine Woche zuvor hatte das Unternehmen OpenAI mitgeteilt, dass sich KI-Modelle des Konzerns während eines Sicherheitstests selbständig gemacht und einen Hackerangriff auf eine beliebte Programmierplattform unternommen hätten. Am Dienstag bestätigte OpenAI dann, dass seine Modelle in die Systeme mehrerer Unternehmen eingedrungen seien.

Im Gegensatz zu dem Vorfall mit der Technologie von OpenAI hätten die Modelle von Anthropic "aufgrund eines Missverständnisses zwischen uns und unserem Evaluierungspartner" namens Irregular Zugang zum Internet gehabt, erklärte Anthropic. Dennoch habe Claude "einfache Techniken wie das Ausnutzen schwacher Passwörter und nicht authentifizierter Endpunkte" genutzt.

Zu den betroffenen Modellen gehörte demnach eines der leistungsstärksten, bekannt als Mythos 5, das bisher nur einer begrenzten Anzahl zugelassener Partner zur Verfügung gestellt wurde.

Anthropic arbeite gemeinsam mit Irregular daran, die Situation zu bewerten, hieß es weiter. Das Unternehmen habe alle drei betroffenen Organisationen kontaktiert oder versucht, Kontakt mit ihnen aufzunehmen.

Anthropic ist für seinen Chatbot Claude bekannt, Mythos ist dabei das fortschrittlichste Modell.

S.Davis--ThChM