Die britische Regierung steht in der Kritik, da sie den Einsatz von Künstlicher Intelligenz (KI) im öffentlichen Dienst nicht transparent dokumentiert und kein einziges KI-System im dafür vorgesehenen Register eingetragen hat. Dies betrifft diverse Bereiche, von Sozialleistungen bis zur Einwanderung, und weckt Besorgnis über mangelnde Kontrolle und potenziell diskriminierende Auswirkungen. Experten und Organisationen fordern mehr Offenheit und eine klare Strategie für den KI-Einsatz, um das öffentliche Vertrauen zu erhalten.
Die britische Regierung gerät zunehmend unter Druck, da sie die Anwendung von Künstlicher Intelligenz (KI) im öffentlichen Dienst nicht ausreichend offenlegt. Wie Cryptopolitan berichtet, hat bislang keine einzige Behörde die Verwendung von KI-Systemen in das dafür vorgesehene öffentliche Register eingetragen, obwohl dies seit Februar 2024 verpflichtend ist. Diese Intransparenz betrifft Entscheidungen in verschiedenen Bereichen, von Sozialleistungen bis hin zur Einwanderungsbehörde.
Der Guardian berichtete im November 2024, dass lediglich neun algorithmische Systeme registriert wurden, obwohl dutzende Verträge für KI- und algorithmische Dienstleistungen abgeschlossen wurden. Als Beispiel wurde ein Vertrag über Gesichtserkennungssoftware im Wert von bis zu 20 Millionen Pfund genannt, der von einer Polizeieinkaufsstelle des Innenministeriums ausgeschrieben wurde. Diese Entwicklung weckt erneut Befürchtungen bezüglich einer "massenhaften biometrischen Überwachung". Experten mahnen vor den Risiken eines unreflektierten KI-Einsatzes und verweisen auf Fälle wie die fehlerhafte Horizon-Software der Post. Die Bandbreite der KI-Nutzung in der Regierung reicht von Microsofts Copilot-System bis hin zu automatisierten Betrugskontrollen im Sozialsystem.
Wissenschafts- und Technologiestaatssekretär Peter Kyle räumte gegenüber dem Guardian ein, dass der öffentliche Sektor die Notwendigkeit von Transparenz bei der Algorithmennutzung nicht ernst genug genommen habe. Er betonte das Recht der Öffentlichkeit auf Information, um sicherzustellen, dass Algorithmen den Bürgern dienen und nicht umgekehrt. Die Datenschutzorganisation Big Brother Watch kritisierte die mangelnde Transparenz der Regierung im Umgang mit KI-Technologie und forderte Offenheit und Ehrlichkeit.
Das Ada Lovelace Institute warnte vor einer möglichen Schädigung des öffentlichen Vertrauens durch diskriminierende, schädliche oder ineffektive Ergebnisse von KI-Systemen. Imogen Parker, stellvertretende Direktorin des Forschungsinstituts, unterstrich, dass die mangelnde Transparenz nicht nur die Öffentlichkeit im Unklaren lasse, sondern auch den öffentlichen Sektor daran hindere, die Funktionsweise der KI-Tools zu überprüfen, aus Fehlern zu lernen und die gesellschaftlichen Auswirkungen zu beobachten.
Wie der National Audit Office (NAO) in einem Bericht vom März 2024 feststellte, bietet KI zwar das Potenzial, öffentliche Dienstleistungen zu transformieren, birgt aber auch Risiken. Der NAO bemängelte, dass die Regierung zwar eine Strategie für die KI-Einführung im öffentlichen Sektor entwickelt, diese aber noch nicht finalisiert oder einen Umsetzungsplan veröffentlicht hat. Eine NAO-Umfrage unter Regierungsbehörden ergab, dass KI noch nicht flächendeckend eingesetzt wird, aber 70 % der Befragten KI-Anwendungsfälle pilotierten und planten.
Im September 2023 berichtete der Guardian über eine Warnung des Informationskommissars an das Ministerium für Arbeit und Altersversorgung (DWP) wegen mangelnder Transparenz beim Einsatz von KI zur Überprüfung von Sozialleistungsansprüchen. Das DWP hatte sich geweigert, Informationsfreiheitsanfragen zu beantworten, mit der Begründung, die Bereitstellung von Informationen könne Betrügern helfen. Der Informationskommissar drohte mit einer Missachtung des Gerichts, sollte das DWP seine Vorgehensweise nicht ändern. Kinderschutzorganisationen äußerten Bedenken über die potenziell verheerenden Auswirkungen der KI-Tools auf Kinder, wenn Leistungen eingestellt werden.
Auch im House of Lords wurden im November 2024 Bedenken hinsichtlich des KI-Einsatzes im Zusammenhang mit dem Data (Use and Access) Bill geäußert, wie Pinsent Masons berichtete. Es wurde gefordert, dass neue Datenschutzgesetze mehr Transparenz bei der Verarbeitung personenbezogener Daten durch KI-Systeme gewährleisten und das Scraping urheberrechtlich geschützter Inhalte aus dem Internet ohne Zustimmung der Rechteinhaber verbieten.
Swee Leng Harris argumentierte in einem LinkedIn-Artikel im Juli 2024, dass die Nutzung von KI durch die Regierung transparent, fair und rechenschaftspflichtig sein müsse, um Skandale wie den Post Office Horizon-Fall oder die algorithmisch ermittelten A-Level-Noten zu verhindern. Sie betonte die Bedeutung von Transparenz, Rechenschaftspflicht und Fairness bei der Anwendung von KI in der öffentlichen Verwaltung und verwies auf die Lehren aus den Skandalen um Horizon und die A-Levels.
Die Anwaltskanzlei AWO veröffentlichte im November 2024 einen Artikel über Transparenz bei der Nutzung von KI im öffentlichen Sektor. Der Artikel hebt die rechtlichen, ethischen und politischen Herausforderungen hervor, die sich aus der Verwendung von KI durch öffentliche Einrichtungen ergeben, und betont die Notwendigkeit von Transparenz, um das Vertrauen der Öffentlichkeit zu sichern.
Quellen:
