Der US-Bundesstaat Florida hat das KI-Unternehmen OpenAI und dessen Geschäftsführer Sam Altman verklagt. Der Generalstaatsanwalt wirft dem Unternehmen in der zivilrechtlichen Klage vor, Risiken seines Chatbots ChatGPT für Kinder und Jugendliche bewusst verschwiegen und kommerzielle Interessen in den Vordergrund gestellt zu haben.
OpenAI habe interne Sicherheitswarnungen unter Verschluss gehalten und Nutzerinnen und Nutzer über die Gefahren des Produkts getäuscht. Dadurch seien auch “Kinder einer großen Gefahr ausgesetzt” worden.
OpenAI habe ein Produkt auf den Markt gebracht, das zur Gewalt ermutige und süchtig mache.
Das Suchtpotenzial ist ein Aspekt, der noch gar nicht so richtig im Blick der öffentlichen Diskussion ist.
Das ist ein Aspekt, der großen Schaden anrichten kann, auch wenn bestimmte Produkte in Zukunft vordergründig funktionieren und “nützlich sind”. Und was Kinder süchtig macht, ist für Erwachsene normalerweise keineswegs harmlos.