Laut einer Erklärung des Büros von Gouverneur Gavin Newsom hat Kalifornien am Montag bahnbrechende Gesetze zum Schutz von Kindern erlassen, die neue Technologien wie künstliche Intelligenz und soziale Medien nutzen. Neue Technologien wie KI-Chatbots und Social-Media-Plattformen können Benutzer aufklären und inspirieren, werden aber auch Kinder ausbeuten und gefährden, wenn diese Technologie keine Leitplanken hat, sagte Newsom in der Pressemitteilung vom Montag. Der Gouverneur verwies auf eine steigende Zahl von Horrorgeschichten über Kinder, die durch unregulierte Technologie geschädigt würden. Kalifornien müsse bei der KI-Entwicklung eine verantwortungsvolle Führung übernehmen und Kinder bei jedem Schritt schützen, sagte er.
Welche Anforderungen sieht das Gesetz vor? Die Gesetzgebung schreibt vor, dass KI-Chatbot-Plattformen Protokolle erstellen müssen, um zu erkennen und darauf zu reagieren, wenn ein Benutzer Selbstmordgedanken oder -handlungen bespricht. Plattformen müssen den Nutzern außerdem klar mitteilen, dass die Interaktionen des Bots völlig gefälscht sind, Minderjährige davon abhalten, KI-generierte sexuell eindeutige Bilder anzusehen, und Chatbots verbieten, sich als medizinisches Fachpersonal auszugeben. KI-Unternehmen können sich ihrer Haftung nicht mit dem Argument entziehen, dass Chatbots und KI-Programme laut Gesetz autonom agieren.
Das Gesetz schreibt außerdem vor, dass Betriebssysteme und App-Stores Altersverifizierungen verwenden müssen, um zu verhindern, dass Kinder online auf unangemessene oder gefährliche Inhalte zugreifen. Social-Media-Plattformen müssen außerdem Kennzeichnungen enthalten, die Benutzer vor den Gefahren warnen, die übermäßiges Scrollen mit sich bringt. Das Gesetz verschärft die Strafen für Deepfake-Pornografie und erlaubt nun allen Opfern, auch Minderjährigen, bis zu 250.000 US-Dollar gegen Dritte zu verklagen, die wissentlich bei der Verbreitung illegaler Materialien behilflich sind. Das staatliche Bildungsministerium und seine lokalen Behörden haben außerdem die Aufgabe, eine Richtlinie zum Umgang mit Cybermobbing-Meldungen außerhalb der Schulzeiten zu verabschieden.
Die California Medical Association feierte die Ratifizierung des Gesetzes, insbesondere des Teils, der es KI-Systemen verbietet, sich als zugelassene medizinische Fachkräfte auszugeben. Das Statut sei ein wesentlicher Sieg in Richtung Patientensicherheit und Transparenz, sagte die Präsidentin des Verbandes, Shannon Udovic-Constant, in der Pressemitteilung vom Montag.
