Vitalik Buterin warnt vor konkreten Gefahren der Künstlichen Allgemeinen Intelligenz (AGI), wie Software-Schwachstellen, Desinformation und der Kontrolle über Infrastruktur, anstatt sie als abstrakte Macht zu sehen. Er sieht Kryptowährungen als Teil einer größeren Strategie zur Informationsabwehr im Kontext der wachsenden Bedeutung von AGI und betont die Notwendigkeit, menschliche Intelligenz zu fördern statt superintelligente Lebensformen zu entwickeln.
Ethereum-Mitbegründer Vitalik Buterin hat sich jüngst zu den Risiken Künstlicher Allgemeiner Intelligenz (AGI) geäußert und konkrete Bedrohungsszenarien aufgezeigt. Anstatt AGI als unbesiegbare abstrakte Macht zu betrachten, empfiehlt er laut u.today, sich auf spezifische Angriffspunkte zu konzentrieren. Buterin nennt hier die Ausnutzung von Software-Schwachstellen, die Manipulation von Menschen durch Desinformation, die Verbreitung digitaler Biowaffen, die Übernahme der Kontrolle über physische Infrastruktur und die signifikante Überschreitung menschlicher Intelligenz.
Buterins Äußerungen fallen in eine Zeit erneuter Diskussionen über das scheinbar bevorstehende Eintreffen von AGI, angestoßen durch die Veröffentlichung von o3, dem neuesten bahnbrechenden Modell von OpenAI. Dieses Modell erreichte im ARC-AGI-Benchmark, der den Fortschritt in Richtung allgemeiner Intelligenz misst, einen Wert von 87,5 Prozent. Die anhaltende Sorge besteht darin, dass eine AGI die Menschheit bedrohen könnte, sobald sie deren kognitive Fähigkeiten übertrifft.
In einem Social-Media-Beitrag erklärte Buterin zudem, Kryptowährungen seien "nur ein Teil einer größeren Geschichte". Er präsentierte ein Diagramm, das die Verbindungen zwischen verschiedenen Definitions- und Wachstumsstrategien veranschaulicht. Buterins Modell stellt die physische "Welt der Atome" der digitalen "Welt der Bits" gegenüber. Maßnahmen zur Bio- und Cyberabwehr sollen vor entsprechenden Bedrohungen schützen. Zusätzlich gibt es Instrumente zur Informationsabwehr und zur Stärkung der physischen Widerstandsfähigkeit.
Rasche Fortschritte im Gesundheitswesen sowie Gehirn-Computer-Schnittstellen könnten die Lebenserwartung deutlich erhöhen. Kostengünstiges Bauen und andere Innovationen könnten zu physischem Überfluss führen. Laut dem kanadischen Programmierer wird die Blockchain-Technologie, die Kryptowährungen zugrunde liegt, wahrscheinlich zu den genannten Bemühungen im Bereich der Informationsabwehr und in anderen Sektoren beitragen. Wie Binance News berichtet, hatte Buterin bereits zuvor die Definition von AGI diskutiert und Bedenken hinsichtlich des Kontrollverlusts durch AGI und ASI (Künstliche Superintelligenz) geäußert. Er befürwortete die Fokussierung auf die Entwicklung von Werkzeugen zur Verbesserung der menschlichen Intelligenz anstelle von superintelligenten Lebensformen.
Quellen:
