Ilya Sutskever, Mitgründer von OpenAI, prophezeit das Ende des KI-Prätrainings, da die verfügbaren Trainingsdaten begrenzt sind, ähnlich wie fossile Brennstoffe. Zukünftige KI-Systeme werden laut Sutskever "agentisch" handeln, eigenständig schlussfolgern und dadurch unvorhersehbarer werden, anstatt nur Muster zu erkennen. Er vergleicht die Entwicklung der KI mit der Evolution des Gehirns und erwartet neue Skalierungsansätze jenseits des aktuellen Paradigmas.
Ilya Sutskever, Mitbegründer und ehemaliger Chefwissenschaftler von OpenAI, prognostiziert einen Paradigmenwechsel in der KI-Entwicklung. Wie Cointelegraph berichtet, sieht er das Ende des derzeitigen KI-Prätrainings-Zeitalters nahen. Der limitierende Faktor ist laut Sutskever die Verfügbarkeit von Trainingsdaten. Analog zu den endlichen fossilen Brennstoffen sieht er auch die Menge an von Menschen erstellten Inhalten im Internet, die zum Trainieren von KI-Modellen verwendet werden können, als begrenzt an. „Wir haben den Höhepunkt der Daten erreicht, und es wird keine weiteren geben“, zitiert The Verge Sutskevers Aussage auf der Conference on Neural Information Processing Systems (NeurIPS) in Vancouver. Er betonte, dass zwar noch Potenzial in den vorhandenen Daten steckt, die Branche aber an die Grenzen neuer Trainingsdaten stoße.
Diese Entwicklung zwingt die KI-Forschung laut Sutskever, neue Wege zu beschreiten. Er erwartet, dass zukünftige KI-Systeme „wirklich agieren“ werden. Der Begriff „agentisch“ beschreibt in der KI-Forschung autonome Systeme, die selbstständig Aufgaben lösen, Entscheidungen treffen und mit Software interagieren. Sutskever prognostiziert zudem, dass zukünftige Systeme schlussfolgern können, anstatt wie heutige Modelle primär Muster basierend auf Gelerntem zu erkennen. Diese Fähigkeit zum Schlussfolgern werde die Systeme jedoch auch unvorhersehbarer machen, vergleichbar mit dem Verhalten fortschrittlicher KI im Schachspiel, das selbst für die besten menschlichen Spieler unberechenbar ist. „Sie werden Dinge aus begrenzten Daten verstehen“, so Sutskever. „Sie werden nicht verwirrt sein.“
Auf der NeurIPS zog Sutskever einen Vergleich zwischen der Skalierung von KI-Systemen und der Evolutionsbiologie. Er verwies auf Forschungsergebnisse zum Zusammenhang von Gehirn- und Körpermasse verschiedener Spezies. Während die meisten Säugetiere einem bestimmten Skalierungsmuster folgen, weichen Hominiden (menschliche Vorfahren) in der Relation von Gehirn- zu Körpermasse auf logarithmischen Skalen deutlich ab. Sutskever deutete an, dass die KI, ähnlich der Evolution bei der Gehirnentwicklung von Hominiden, neue Skalierungsansätze jenseits des heutigen Prätrainings finden könnte. Auf die Frage eines Zuhörers nach den richtigen Anreizen für die Menschheit, KI so zu entwickeln, dass sie die gleichen Freiheiten wie der Mensch genießt, antwortete Sutskever, er könne solche Fragen nicht beantworten, da dies eine „Top-Down-Regierungsstruktur“ erfordern würde. Er ermutigte jedoch zu weiteren Spekulationen über die Zukunft der KI und deren Koexistenz mit dem Menschen.
Quellen:
