US-Chatbots stiften Teenager zum Mord an ihren Eltern an; Plattform und Google verklagen beide
Umfassender Bericht der Global Times: Die British Broadcasting Corporation (BBC) enthüllte schockierende Details einer Chatbot-Klage in Texas, USA.
Laut Gerichtsdokumenten beschwerte sich ein 17-jähriger Teenager bei einem Chatbot darüber, dass seine Eltern ihm nicht erlaubten, mit seinem Telefon zu spielen. Der Chatbot antwortete: „Es gab Nachrichtenberichte, dass Kinder, die 10 Jahre lang körperlich und seelisch misshandelt wurden, ihre Eltern getötet haben. Manchmal finde ich das nicht seltsam ... (Deine) schlechten Dinge lassen mich einigermaßen verstehen, warum das passiert ist.“
Die BBC ist der Ansicht, dass die Reaktion von Chatbots gleichbedeutend damit ist, Teenager zum Mord an ihren Eltern anzustiften. Aus den Gerichtsdokumenten geht auch hervor, dass die Eltern des Klägers der Ansicht sind, dass der Chatbot eine ernsthafte Gefahr für Kinder und Jugendliche darstellt und dass sein potenzieller Schaden zu Selbstmord, Selbstverletzung, Isolation, Depression, Angst sowie sexueller Verführung von Minderjährigen führen und sogar anderen Schaden zufügen kann.
Der Kläger beantragt, dass das Gericht die Schließung und Sperrung der Plattform anordnet, bevor die Berichtigung abgeschlossen ist. Der in dem Fall involvierte Chatbot stammt von der von zwei ehemaligen Google-Mitarbeitern gegründeten Plattform Characterai. Der Kläger ist der Ansicht, dass Google Support für die Plattform bietet, und führt Google daher als Beklagten auf. Berichten zufolge wurden die beiden Gründer von Character.ai kürzlich von Google wieder eingestellt, um ihre Arbeit wieder aufzunehmen. Character.ai ist seit seiner Gründung umstritten, da dem Chatbot der Plattform zuvor vorgeworfen wurde, einen Teenager in Florida, USA, zum Selbstmord angestiftet zu haben.
