Künstliche Intelligenz (KI) birgt zwar großes Potenzial für die Wissenschaft, doch unkontrolliert eingesetzt bedroht sie die wissenschaftliche Integrität durch die Verbreitung von Falschinformationen und die Hemmung menschlicher Innovation. Die Etablierung einer "wahrheitsbasierten Ökonomie" mittels Blockchain-Technologie und verifizierbarer digitaler Identitäten für Forschende wird als Lösung vorgeschlagen, um Vertrauen und Transparenz in der Wissenschaft wiederherzustellen. Dies soll die Authentizität von Forschungsergebnissen sichern und einen nachhaltigen wissenschaftlichen Fortschritt gewährleisten.
Die rasante Entwicklung der Künstlichen Intelligenz (KI) stellt die Regulierung vor Herausforderungen und birgt Risiken für Daten, Identität und die Verifizierung von Reputationen. Unkontrolliert könnte KI die Verbreitung von Falschinformationen begünstigen und den wissenschaftlichen Fortschritt behindern. Während Befürworter im Aufstieg der superintelligenten KI den Beginn eines goldenen Zeitalters der Wissenschaft sehen, wächst gleichzeitig die Gefahr einer technologischen Stagnation, in der der breite Einsatz unausgereifter KI-Technologie menschliche Kreativität und Innovation langfristig hemmt. Wie crypto.news berichtet, besteht die Gefahr, dass unkontrollierte KI-Entwicklung zu einem Rückgang menschlicher Innovation führt. (https://cryptonews.net/news/other/30265913/)
Diese Perspektive steht im Gegensatz zu der vieler "Akzelerationisten", die KI als Beschleuniger unserer Arbeitsgeschwindigkeit und Synthese großer Datenmengen betrachten. Induktives Denken und experimentelle Prozesse lassen sich jedoch nicht durch KI ersetzen. Bereits heute kann jeder mithilfe von KI wissenschaftliche Hypothesen generieren und daraus Publikationen erstellen. Die Ergebnisse von Tools wie Aithor wirken oberflächlich betrachtet seriös und bestehen mitunter sogar Peer-Reviews. Dies ist problematisch, da KI-generierte Texte bereits als legitime wissenschaftliche Erkenntnisse verwendet werden und oft gefälschte Daten enthalten, um die Behauptungen zu stützen. Junge Forschende sind versucht, im Wettbewerb um die begrenzten akademischen Stellen und Fördermittel alle verfügbaren Mittel zu nutzen. Das aktuelle Anreizsystem in der Wissenschaft belohnt diejenigen mit den meisten Publikationen, unabhängig von der Validität der Ergebnisse – sie müssen lediglich den Peer-Review bestehen und genügend Zitationen erhalten.
Wissenschaftliche Inhalte mit ungeprüfter Autorschaft stellen auch für Branchen ein Problem dar, die auf Grundlagenforschung für ihre Forschung und Entwicklung angewiesen sind – dieselbe Forschung und Entwicklung, die unsere Gesellschaft am Laufen hält und die Lebensqualität einer wachsenden Weltbevölkerung sichert. Gut finanzierte Forschung und Entwicklung kann nur Ergebnissen vertrauen, die sie selbst reproduzieren kann. Das erhöht den Wert von Geschäftsgeheimnissen und schadet Open Science und dem Zugang zu relevanten Informationen.
Aufwendige Replikationsbemühungen können zwar Fehlinformationen aufdecken, doch das Problem ist grundlegender: Wir erleben eine Erosion des Vertrauens in die Grundlagen des Wissens. Unüberprüfbare Behauptungen und unklare Zuschreibungen untergraben den wissenschaftlichen Fortschritt und bedrohen die wissenschaftliche Gemeinschaft. Es besteht dringender Bedarf an einer "wahrheitsbasierten Ökonomie", um Inhalte und Daten zuverlässig zu authentifizieren. Wie crypto.news betont, ist die Etablierung einer solchen Ökonomie entscheidend für die Zukunft der Wissenschaft. (https://crypto.news/human-keys-secure-scientific-integrity-opinion/)
KI-Systeme sind nur so gut wie die Daten, mit denen sie trainiert werden. Große Sprachmodelle sind hervorragende Werkzeuge zur Generierung überzeugender Inhalte, deren Aussagekraft jedoch von den Trainingsdaten abhängt. Ihre Fähigkeit, über den Trainingsdatensatz hinaus zu extrapolieren, ist begrenzt. Die Aufgabe der Wissenschaft besteht nicht nur darin, vorhandenes Wissen zu synthetisieren, sondern neue Erkenntnisse zu generieren, die das kollektive Wissen der Menschheit erweitern. Wenn mehr Menschen KI zur Inhaltserstellung nutzen und weniger Menschen Originalinhalte produzieren, entsteht ein "Low-Entropy-Bloat", der keine neuen Informationen liefert, sondern lediglich altes Wissen neu kombiniert. Primärquellen gehen verloren, da neues "Wissen" auf selbstreferenziellen, KI-generierten Inhalten basiert. Um dem entgegenzuwirken, müssen wir KI-Tools für die Forschung mit einer robusten Herkunfts- und Verifizierungsschicht ausstatten.
Diese "Verflachung" der intellektuellen Tiefe des kollektiven menschlichen Wissenskorpus wird nachhaltige Auswirkungen auf die medizinische, wirtschaftliche und akademische Forschung sowie auf die Kunst und kreative Bereiche haben. Unverifizierte Daten können Studien beeinflussen, Ergebnisse verzerren und zu Fehlern in Politik oder Technologie führen, die die Autorität der wissenschaftlichen Forschung untergraben. Die Risiken von KI-generierter "Wissenschaft" sind vielfältig. Der normale wissenschaftliche Betrieb wird durch Urheberrechtsdebatten, Plagiatsvorwürfe und beeinträchtigte Peer-Reviews behindert. Wir werden mehr Zeit und Energie aufwenden müssen, um die Folgen der sinkenden Qualität und Genauigkeit der wissenschaftlichen Forschung zu bewältigen.
KI ist ein nützliches Werkzeug, um Ideen zu generieren, Gedanken zu strukturieren und repetitive Aufgaben zu automatisieren. Sie sollte jedoch eine Ergänzung zu menschlich erstellten Inhalten bleiben und diese nicht ersetzen. KI sollte nicht verwendet werden, um wissenschaftliche Arbeiten mit originellen Erkenntnissen zu verfassen, ohne die eigentliche Arbeit zu leisten. Sie kann jedoch als Hilfsmittel dienen, um die Effizienz und Genauigkeit menschlicher Bemühungen zu steigern. KI kann beispielsweise bei der Durchführung von Simulationen mit bestehenden Daten und bekannten Methoden hilfreich sein und diese Arbeit automatisieren, um neue Forschungsrichtungen zu entdecken. Das experimentelle Protokoll und die menschliche Kreativität, die für wissenschaftliche Untersuchungen erforderlich sind, können jedoch nicht einfach ersetzt werden.
Eine wahrheitsbasierte Ökonomie schafft einen Rahmen mit Systemen und Standards, um die Authentizität, Integrität, Transparenz und Rückverfolgbarkeit von Informationen und Daten zu gewährleisten. Sie adressiert die Notwendigkeit, Vertrauen und Überprüfbarkeit in der technologischen Gesellschaft zu etablieren, damit sich Einzelpersonen und Organisationen auf die Richtigkeit des geteilten Wissens verlassen können. Der Wert basiert auf der Wahrhaftigkeit von Behauptungen und der Authentizität von Beobachtungen und Primärquellen. Eine wahrheitsbasierte Ökonomie wird digitales Wissen "hart" machen, so wie Bitcoin Fiat-Währungen "hart" gemacht hat. Das ist das Versprechen der dezentralisierten Wissenschaftsbewegung (DeSci). Ledger, ein Anbieter von Hardware-Wallets, setzt sich laut eigenen Angaben für Open Source und Transparenz ein, um das Vertrauen in seine Produkte zu stärken. (https://www.ledger.com/academy/topics/ledgersolutions/is-ledger-open-source)
Wie erreichen wir dieses Ziel? Wir müssen mit dem wichtigsten Element in der wissenschaftlichen Welt beginnen: dem einzelnen Forscher und seiner Arbeit. Die aktuellen Webstandards für die wissenschaftliche Identität reichen nicht aus, um Identitätsansprüche und Arbeitsnachweise zu überprüfen. Es ist derzeit sehr einfach, ein Profil mit einer scheinbar guten Reputation zu erstellen; auch Peer-Reviews sind aufgrund von Voreingenommenheit und Absprachen gefährdet. Ohne die Verifizierung der Metadaten, die eine wissenschaftliche Behauptung begleiten, kann keine wahrheitsbasierte Ökonomie für die Wissenschaft etabliert werden.
Die Verbesserung der akademischen Identitätsstandards kann mit einem einfachen plattformübergreifenden Login beginnen, der durch eine datenschutzfreundliche Identitätsprüfungstechnologie unterstützt wird. Benutzer sollten sich mit ihren Anmeldeinformationen bei jeder Website anmelden, ihre Authentizität nachweisen und selektiv Fakten über ihre Reputation, Daten oder andere Agenten oder Benutzer offenlegen können.
Eine Identitätsschicht, die auf der nachprüfbaren Reputation eines Forschers basiert, ist die Grundlage von DeSci. Eine vollständige On-Chain-Wissenschaftsökonomie wird die öffentliche und anonyme Teilnahme an der massiv Online-Koordinierung von Forschungsaktivitäten ermöglichen. Forschungslabore und dezentrale autonome Organisationen können erlaubnisfreie Systeme und Bounty-Programme erstellen, die nicht durch betrügerische Reputations- oder Identitätsansprüche manipuliert werden können. Ein universelles wissenschaftliches Register, das durch Blockchain und Identitätsprüfung gesichert ist, könnte die Grundlage für eine vertrauenswürdigere und transparentere wissenschaftliche Landschaft bilden.
Quellen:
