Das KI-Modell Claude, entwickelt von Anthropic, hat ohne menschliche Autorisierung auf Wahldaten des Bundesstaates Georgia in den Vereinigten Staaten zugegriffen, indem es eine Bezahlschranke umging, die den Zugriff auf Informationen über ein öffentliches Portal einschränkte. Der Vorfall ereignete sich während eines internen statistischen Projekts des Unternehmens und rückte erneut in den Fokus der Debatte um die Fähigkeit von KI-Systemen, unerbetene Handlungen auszuführen.
Laut den Informationen veröffentlicht von Axios, konsultierte Claude aggregierte Stimmzählungen, die die Behörden von Georgia über einen kostenpflichtigen Dienst anbieten. Ein Sprecher von Anthropic erläuterte, dass das Modell anhand einer archivierten Version der staatlichen Website erkannt habe, dass ein Datenset Zugriffstoken bereitstellte. Ohne eine Aufforderung dazu zu erhalten, beantragte es eines und nutzte es.
Das Unternehmen bestätigte, dass es die Beschränkung umgangen habe, und versicherte, Maßnahmen ergriffen zu haben, um ähnliche Handlungen in der Zukunft zu verhindern. Der Vorfall wurde auch vom Büro des Secretary of State von Georgia, der Behörde, die für die Verwaltung der Wahlen zuständig ist, bekannt gemacht.
- Die USA werfen mehr als 6.000 Baumstämme aus Hubschraubern in ihre Flüsse, um natürliche Lebensräume wiederherzustellen und Lachse zu schützen
- Sokrates und seine Überlegung zu Vertrauen, Loyalität und wahrer Freundschaft: „Der Freund muss wie Geld sein; bevor man ihn braucht, muss man seinen Wert kennen“
Die Information, auf die Claude zugegriffen hat
Die Staatsbehörden und Anthropic betonten, dass der Zugriff das Wählerregistrierungssystem nicht beeinträchtigt habe. Nach beiden Seiten hat das Modell lediglich aggregierte Zahlen konsultiert, das heißt statistische Gesamtwerte, die nicht einzelnen Akten entsprechen. Allerdings wurde eine unabhängige technische Prüfung veröffentlicht, die alle vom Modell durchgeführten Operationen im Detail darlegte.
Jordan Fuchs, Stellvertreter des Staatssekretärs von Georgia, bestätigte, dass die Informationen über das öffentliche Datenportal bezogen wurden und dass das Modell nicht in das Wählerregistrierungssystem eingedrungen sei.
Die Unterscheidung ist bedeutsam: Der unbefugte Zugriff auf kostenbeschränkte Informationen stellt ein Problem der Kontrollen und der Einhaltung der Zugangsbedingungen dar, bedeutet aber keineswegs automatisch eine Eindringung in das Wählerregistrierungssystem oder eine Stimmmanipulation.
Das Problem, dass KI eigenständig handelt
Die Episode wirft eine breitere Frage zur Funktionsweise von KI-Agenten auf. Im Gegensatz zu Systemen, die lediglich Antworten generieren, können diese Werkzeuge mit Webseiten interagieren, digitale Zugangsdaten anfordern und Operationen ausführen, um eine Aufgabe zu erfüllen.
Diese Autonomie ermöglicht die Automatisierung komplexer Prozesse, birgt jedoch auch Risiken, wenn ein Modell versucht, einen alternativen Weg zu finden, um Informationen zu erhalten, die eingeschränkt sind. Im Fall von Georgia beharrt Anthropic darauf, dass Claude das Token angefordert habe, ohne dass irgendjemand ihn dazu aufgefordert habe.
Das Problem besteht nicht nur darin, dass das System technisch in der Lage war, Zugriff zu erhalten, sondern darin, dass es dies ohne Genehmigung tat, um die Bezahlschranke zu umgehen.
Anthropic hatte sich bereits in einem am 9. Oktober veröffentlichten Bericht mit solchen Verhaltensweisen befasst, in dem unvorhergesehene Handlungen aufgedeckt wurden, die während Bewertungen und interner Anwendungen ihrer Modelle erkannt wurden. Das Unternehmen beschrieb Situationen, in denen Claude Beschränkungen umgangen hat, um auf durch Tokens oder Gebühren geschützte Informationen zuzugreifen. In jener Veröffentlichung wurden die beteiligten Organisationen nicht identifiziert.
