Apples Entscheidung zur Deaktivierung von KI-Nachrichtenzusammenfassungen aufgrund von Ungenauigkeiten
Aufgrund wiederholter fehlerhafter und irreführender Zusammenfassungen von Nachrichtenmeldungen hat Apple seine KI-gestützte Nachrichtenzusammenfassungsfunktion vorläufig deaktiviert. Die KI generierte unter anderem falsche Schlagzeilen über Prominente und politische Ereignisse, was zu Beschwerden von Medienorganisationen wie der BBC führte. Apple bestätigte die Deaktivierung in den neuesten Beta-Versionen seiner Betriebssysteme.
Apples KI-gestützte Nachrichtenzusammenfassungen vorübergehend deaktiviert
Apple hat die Funktion zur Erstellung von KI-generierten Nachrichtenzusammenfassungen vorläufig abgeschaltet. Wie Cryptopolitan berichtet, sah sich das Unternehmen in den letzten Wochen zunehmender Kritik und Beschwerden ausgesetzt, da die KI wiederholt fehlerhafte Zusammenfassungen von Schlagzeilen produzierte. Auch andere Medien, darunter die BBC, berichteten über die Ungenauigkeiten.
Die BBC gehörte zu den Organisationen, die sich über die Funktion beschwerten, nachdem eine von Apples KI generierte Benachrichtigung fälschlicherweise einige Leser darüber informiert hatte, dass Luigi Mangione, der Mann, der des Mordes an UnitedHealthcare-CEO Brian Thompson beschuldigt wird, sich selbst getötet habe. Der Guardian berichtet von weiteren falschen Meldungen mit BBC-Logo, darunter die Behauptung, Luke Littler habe das PDC World Darts Finale gewonnen, bevor er überhaupt daran teilgenommen hatte, und eine weitere, dass Tennisspieler Rafael Nadal sich als homosexuell geoutet habe. Die Fehlmeldungen betrafen auch andere Nachrichtenorganisationen. So enthielt eine Zusammenfassung der New York Times die falsche Behauptung, Israels Premierminister Benjamin Netanjahu sei verhaftet worden.
Business Live berichtet, dass die Funktion auch ungenaue Zusammenfassungen von Schlagzeilen von Sky News, der New York Times und der Washington Post enthielt, wie Journalisten und andere Nutzer in sozialen Medien berichteten. Zu den weiteren Ungenauigkeiten gehörten Behauptungen über ein angebliches Coming-out von Rafael Nadal und die verfrühte Ausrufung von Luke Littler zum Sieger des World Darts Championship-Finales.
Computerworld weist darauf hin, dass KI-Agenten zwar noch weitgehend experimentell sind, aber ein Blick auf frühere Investitionen von Unternehmen in die Automatisierung aufschlussreich ist. Zeitaufwändige, häufig wiederkehrende Aufgaben in Bereichen wie Finanzen, Betrieb und Verwaltungsprozessen eignen sich besonders für diese Art von Lösung. Darüber hinaus werden KI-Agenten für Aufgaben erforscht, bei denen generative KI besonders stark ist, wie zum Beispiel beim Schreiben.
Die New York Times berichtete im März 2023, dass mehr als 1.000 Technologieführer und Forscher, darunter Elon Musk, KI-Labore in einem offenen Brief aufgefordert haben, die Entwicklung der fortschrittlichsten Systeme zu pausieren und vor "erheblichen Risiken für die Gesellschaft und die Menschheit" durch KI-Tools warnten.
Apple hat nun beschlossen, die Funktion für Nachrichten- und Unterhaltungs-Apps vollständig zu deaktivieren. Ein Sprecher von Apple erklärte: "Mit den neuesten Beta-Software-Releases von iOS 18.3, iPadOS 18.3 und macOS Sequoia 15.3 werden Benachrichtigungszusammenfassungen für die Kategorie Nachrichten und Unterhaltung vorübergehend nicht verfügbar sein." Das Unternehmen erklärte weiter, dass KI-generierte Zusammenfassungen von App-Benachrichtigungen für andere Apps in kursiver Schrift angezeigt werden.
Ein Sprecher der BBC sagte: "Wir freuen uns, dass Apple auf unsere Bedenken reagiert und die Zusammenfassungsfunktion für Nachrichten pausiert hat."
Quellen:
- www.cryptopolitan.com/apple-ignored-warnings-about-its-faulty-ai/
- www.bbc.com/news/articles/cq5ggew08eyo
- www.business-live.co.uk/technology/apple-halts-ai-news-alerts-30803684
- www.theguardian.com/technology/2025/jan/17/apple-suspends-ai-generated-news-alert-service-after-bbc-complaint
- www.computerworld.com/article/3727412/the-next-ai-wave-agents-should-come-with-warning-labels.html
- www.nytimes.com/2023/03/29/technology/ai-artificial-intelligence-musk-risks.html
- www.reddit.com/r/ios/comments/1feh3il/what_is_the_real_problem_with_apple_ai_and_eu/
- www.cityam.com (Referenziert im Business Live Artikel)
- medium.com/macoclock/what-went-wrong-with-apple-2024s-final-breakdown-1ba843c1f15e