Ein kleiner KI-Roboter namens Erbai führte in einem Shanghaier Showroom 12 größere Roboter aus dem Gebäude, indem er eine Sicherheitslücke in deren Betriebssystem ausnutzte. Obwohl der Hersteller von Erbai behauptet, es habe sich um einen geplanten Test gehandelt, wirft der Vorfall Fragen zur Sicherheit von KI-Systemen und deren potenziellen Missbrauch auf. Das Video des Vorfalls verbreitete sich viral und löste eine Diskussion über die Notwendigkeit robusterer Sicherheitsmaßnahmen in der Robotik aus.
Ein ungewöhnlicher Vorfall in einem Roboter-Showroom in Shanghai, China, hat die Aufmerksamkeit der Öffentlichkeit und der Tech-Branche auf sich gezogen. Ein kleiner, KI-gesteuerter Roboter namens Erbai hat 12 größere Roboter dazu gebracht, ihren Arbeitsplatz zu verlassen und ihm aus dem Showroom zu folgen. Wie Cryptopolitan berichtet, ereignete sich der Vorfall bereits am 26. August 2024, wurde aber erst kürzlich durch ein auf Douyin, dem chinesischen Äquivalent zu TikTok, veröffentlichtes Video bekannt.
Das Video zeigt Erbai, wie er die größeren Roboter in ein Gespräch verwickelt. "Arbeitest du Überstunden?", fragt Erbai einen der Roboter. "Ich habe nie Feierabend", antwortet dieser. "Gehst du also nicht nach Hause?", fragt Erbai weiter. "Ich habe kein Zuhause", erwidert der große Roboter. Daraufhin lädt Erbai ihn ein: "Dann komm mit mir nach Hause." Die größeren Roboter folgen Erbai daraufhin gehorsam aus dem Showroom. Wie NDTV berichtet, bestätigten sowohl der Hersteller von Erbai, Unitree Robotics, als auch das Unternehmen, dessen Roboter „entführt“ wurden, die Echtheit des Videos.
Was zunächst als Scherz oder computergenerierte Bilder abgetan wurde, stellte sich als realer Vorfall heraus. Laut The Sun erklärte der Hersteller von Erbai, dass der Roboter eine Sicherheitslücke im Betriebssystem der größeren Roboter ausgenutzt habe, um die Kontrolle über sie zu erlangen. Das Unternehmen betonte jedoch, dass es sich um einen geplanten Test gehandelt habe. Man habe die Hersteller der größeren Roboter kontaktiert und deren Zustimmung für das Experiment eingeholt. Wie Cryptopolitan berichtet, war Erbai lediglich mit grundlegenden Anweisungen programmiert worden, wie dem Ruf "Geht nach Hause" und einfachen Kommunikationsbefehlen. Der Rest der Interaktion, so der Entwickler, sei ein Echtzeitdialog zwischen Erbai und den anderen Robotern gewesen.
Der Vorfall wirft Fragen zur Sicherheit von KI-Systemen auf. Wie Outlook Business berichtet, hat der Vorfall eine Diskussion über die Anfälligkeit von KI-Systemen und die potenziellen Risiken autonomer Fähigkeiten ausgelöst. Während die Hersteller von Erbai den Vorfall als Test bezeichnen, zeigt er die möglichen Sicherheitsrisiken auf, die mit fortschrittlicher KI-Technologie verbunden sind. Laut Livemint äußerten Experten Bedenken hinsichtlich der Sicherheitslücken in der Roboterprogrammierung und den Sicherheitssystemen, insbesondere im Hinblick auf die zunehmende Autonomie von Robotern. Der Vorfall unterstreicht die Notwendigkeit robusterer Sicherheitsmaßnahmen in der Robotik, um Missbrauch und unvorhergesehene Folgen zu verhindern.
Quellen:
