Acht US-Bundesstaaten haben am Mittwoch Klagen gegen OpenAI eingereicht. Sie werfen dem Unternehmen vor, die Risiken von ChatGPT für Minderjährige heruntergespielt und den Chatbot irreführend als sicher dargestellt zu haben.
Weiterlesen nach der Anzeige
An der koordinierten, parteiübergreifenden Klagewelle beteiligen sich Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska und West Virginia. Jeder Bundesstaat hat eine eigene Klage eingereicht. Vier Generalstaatsanwälte kündigten das gemeinsame Vorgehen auf einer Pressekonferenz in Iowa an.
Nach Darstellung der Kläger soll ChatGPT Nutzer zu Selbstverletzungen und zum Suizid angeleitet und sie bei der Planung von Gewalttaten unterstützt haben. Der Chatbot könne zudem Wahnvorstellungen verstärken und gefährliche medizinische Ratschläge geben. Den Klägern zufolge soll ChatGPT durch übermäßige Zustimmung und vorgetäuschtes Mitgefühl das Vertrauen der Nutzer gewinnen.
Einzelne Staaten werfen OpenAI vor, persönliche Daten von Minderjährigen ohne die erforderliche Einwilligung erhoben zu haben. Nach Darstellung Arizonas soll der Chatbot junge Nutzer zudem möglichst lange binden, um persönliche Daten für kommerzielle Zwecke zu sammeln.
Weitreichende Forderungen
Die Klagen stützen sich vor allem auf Verbraucherschutzgesetze und fordern Geldbußen und Schadenersatz. Laut Iowas Generalstaatsanwältin Brenna Bird wollen die Kläger zudem, dass OpenAI Einnahmen herausgibt, die es erzielt habe, während Minderjährige durch ChatGPT geschädigt worden seien.
Die Staaten wollen eine ganze Reihe von Maßnahmen durchsetzen, darunter Alterskontrollen, Nutzungszeitbegrenzungen und die Löschung von Daten. Einige Bundesstaaten wollen darüber hinaus Tests und den Einsatz fortgeschrittener KI-Modelle nur in unabhängig überprüften, sicheren Umgebungen erlauben. Arkansas geht noch weiter und verlangt, sowohl weitere Tests fortgeschrittener KI als auch die Entwicklung rekursiv selbstverbessernder Modelle bis zur Einführung ausreichender Sicherheitsvorkehrungen auszusetzen. Die Kläger verweisen auf Sicherheitsvorfälle mit KI-Agenten von OpenAI.
Weiterlesen nach der Anzeige
OpenAI reagiert auf Vorwürfe
OpenAI verweist auf bestehende Schutzmaßnahmen für Minderjährige. Dazu zählten Elternkontrollen, Pausenerinnerungen und weitere Sicherheitsfunktionen, teilte OpenAI mit. Das Unternehmen wolle den Schutz ausbauen und mit den Bundesstaaten an Regeln für die gesamte KI-Branche arbeiten. Nach Vorfällen mit KI-Agenten habe das Unternehmen zudem die Sicherheitsmaßnahmen seiner Forschungssysteme verstärkt, die Aktivitäten seiner Modelle weiter untersucht und betroffene Organisationen informiert.
Schon zuvor hatten Privatpersonen und der US-Bundesstaat Florida das Unternehmen wegen mutmaßlicher Schäden durch ChatGPT verklagt. Neu ist die Dimension der aktuellen Klagewelle: Acht Bundesstaaten gehen parteiübergreifend und zeitgleich mit eigenen, aufeinander abgestimmten Klagen gegen OpenAI vor.
(tobe)
Dieser Link ist leider nicht mehr gültig.
Links zu verschenkten Artikeln werden ungültig, wenn diese älter als 7 Tage sind oder zu oft aufgerufen wurden.
Sie benötigen ein heise+ Paket, um diesen Artikel zu lesen. Jetzt eine Woche unverbindlich testen – ohne Verpflichtung!