Probleme mit Namen und Datenschutz bei ChatGPT

Künstliche Intelligenz (KI) wie ChatGPT von OpenAI kann zwar viele Aufgaben bewältigen, ist aber nicht fehlerfrei. Berichten zufolge gab es Probleme mit der Abfrage bestimmter Namen, wie zum Beispiel "David Mayer". Cryptopolitan berichtete, dass Nutzer Schwierigkeiten hatten, Informationen zu bestimmten Namen abzurufen. Die Community diskutiert nun den Umgang des Modells mit sensiblen und rechtlich komplexen Daten. Angesichts laufender Gerichtsverfahren bleibt abzuwarten, wie KI-Tools zukünftig mit Datenschutzbedenken umgehen werden. Obwohl ChatGPT-4 mittlerweile auf die Anfrage nach "David Mayer" antwortet, kann es keine konkrete Person identifizieren. Zu den früheren Problemen äußerte sich ChatGPT ausweichend und empfahl, "ungewöhnliche und inkonsistente" Antworten zu melden. Auch andere Namen – Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber und Guido Scorza – führten am Wochenende und am Dienstag weiterhin zu Fehlfunktionen. TechCrunch vermutet, dass OpenAI beim Umgang mit dieser Namensliste Vorsicht walten lässt, um sensible oder rechtlich geschützte Informationen anders zu behandeln. Dies könnte der Einhaltung von Datenschutzgesetzen oder rechtlichen Vereinbarungen dienen. Ein möglicher Codefehler könnte jedoch auch dazu führen, dass der Chatbot bei der Informationssuche zu diesen Namen ausfällt. Im Laufe der Jahre wurden mehrere Klagen gegen KI-Unternehmen wegen der Generierung falscher Informationen oder der Verletzung von Datenschutzrichtlinien eingereicht. Im Fall Janecyk gegen International Business Machines (2020) behauptete der Fotograf Tim Janecyk, IBM habe Bilder von Fotografen ohne deren Zustimmung für Forschungszwecke verwendet. Kürzlich wurde Googles Gemini AI aufgrund seiner Bildgenerierungsfähigkeiten kritisiert, was zu einer vorübergehenden Sperrung führte. In der Sammelklage PM gegen OpenAI LP (2023) wurde OpenAI vorgeworfen, "gestohlene private Informationen" ohne Zustimmung verwendet zu haben. 2024 reichte die indische Nachrichtenagentur ANI Berichten zufolge eine Klage gegen OpenAI ein, weil das Unternehmen urheberrechtlich geschütztes Material der Agentur zum Trainieren des Sprachmodells verwendet habe. Wie der Economic Times zu entnehmen ist, gab es bereits im November 2024 Berichte über den Fehler, der dazu führte, dass ChatGPT den Namen "David Mayer" nicht verarbeiten konnte. Nutzer berichteten von Warnungen oder Abbrüchen des Chats bei der Eingabe des Namens. Das Problem wird mit potenziell sensiblen oder markierten Entitäten in Verbindung gebracht. Trotz zahlreicher Versuche von Nutzern, das Problem zu umgehen, blieb es bestehen. Die zunehmende Integration von KI-Tools in den Alltag verdeutlicht die Bedeutung ethischer und rechtlicher Überlegungen bei ihrer Entwicklung. Unternehmen wie OpenAI stehen vor der Herausforderung, Vertrauen aufzubauen und gleichzeitig ihre Technologie zu verfeinern, sei es beim Schutz der Privatsphäre, der Gewährleistung genauer Informationen oder der Vermeidung von Fehlfunktionen im Zusammenhang mit sensiblen Daten. Diese Herausforderungen erinnern uns daran, dass selbst die fortschrittlichsten KI-Systeme ständige Wachsamkeit erfordern, um technische, ethische und rechtliche Komplexitäten zu bewältigen. Auch der Guardian berichtete über den "David Mayer"-Fehler und merkte an, dass OpenAI die Angelegenheit als Systemfehler bezeichnete. Es wurde spekuliert, dass der Fehler mit den Datenschutzbestimmungen der DSGVO in Großbritannien und der EU zusammenhängen könnte, die es Nutzern ermöglichen, ihre persönlichen Daten aus den Produkten von OpenAI löschen zu lassen. Quellen: - cryptonews.net/news/legal/30174233/ - www.cryptopolitan.com/chatgpt-finally-says-david-mayer-but-fail-on-5-names-amid-ai-lawsuits/ - www.theguardian.com/technology/2024/dec/03/chatgpts-refusal-to-acknowledge-david-mayer-down-to-glitch-says-openai - www.independent.co.uk/tech/chatgpt-name-glitch-ai-openai-b2657832.html - www.newsweek.com/chatgpt-openai-david-mayer-error-ai-1994100 - towardsdatascience.com/the-name-that-broke-chatgpt-who-is-david-mayer-f03f0dc74877?gi=d2ad25e44818 - mashable.com/article/chatgpt-responds-to-searches-for-david-mayer-what-response-says - www.financialexpress.com/life/technology-chatgpt-glitch-goes-viral-why-asking-about-david-mayer-crashes-the-ai-3683101/ - economictimes.indiatimes.com/tech/artificial-intelligence/chatgpt-hit-by-a-bug-unable-to-say-the-name-david-mayer/articleshow/115867000.cms?from=mdr