„Trusted AI“ – ein Modell für Europa

Wie die Kombination von Blockchain und AI mehr Vertrauen
in zukünftige Anwendungen künstlicher Intelligenz herstellen kann

Ein Aufruf an Politik, Wirtschaft und Gesellschaft / Berlin, 15. Januar 2025

Einleitung: Die Herausforderung exponentieller Technologien

Auch mehr als zwei Jahre nach der Einführung erster Massenmarkt-Applikationen sind viele Grundsatzfragen im breiten Feld der Künstlichen Intelligenz (KI) noch zu klären. Das Web 2.0, das ‘klassische Internet’, wird aktuell von wenigen Plattform-Playern dominiert. Diese starke Konzentration und deren daten-basierte Geschäftsmodelle haben zu immensen gesellschaftlichen und globalen Problemen geführt, die nicht ausreichend eingedämmt wurden und werden – man denke nur an Stichworte wie Fake News, Wahl-Manipulationen, viele Formen von Online-Betrug oder Cyber-Mobbing. Für exponentielle, also noch wesentlich mächtigere Technologien wie die KI sollten Gesellschaft, Politik und Wissenschaft insbesondere angesichts der schnellen technologischen Entwicklung sehr gründlich nachdenken –und strategische Diskussionen über die sich abzeichnenden Herausforderungen des Zusammenspiels von KI, Blockchain und Web3 forcieren.

Deshalb betont der Bundesblock, dass innovationsfreundliche Regulierungsansätze und pro-aktive Gestaltungs-Maßnahmen an dieser technologischen Schnittstelle dringend erforderlich sind. Nicht zuletzt durch die in den letzten Jahren – gerade auch im Bereich der Blockchain-Technologien – stark vernachlässigte Innovationspolitik fordern wir die kommende Bundesregierung sowie beratende Gremien dazu auf, eine umfassende Diskussion und strategische Bewertung der hier folgenden Themen voranzutreiben. Nur so kann das dringend benötigte Fundament aus Wissen und Expertise geschaffen werden, welches für die anstehenden und wegweisenden Entscheidungen unabdingbar ist.

Aus Sicht des Bundesblocks ist klar, dass KI und Blockchain zu den treibenden Werkzeugen des digitalen Fortschritts gehören werden. Der Einfluss beider Technologien – sowohl einzeln als auch in Kombination –wächst rasant. Insbesondere deren Verbindung birgt entsprechend großes
Potenzial. Aber die Fähigkeiten dieser Technologien werfen auch ethisch komplexe, regulatorische und handwerkliche Fragen auf, die es zu adressieren gilt.

Der aktuelle Rechtsrahmen, insbesondere der 2024 beschlossene AI Act der EU, bietet leider noch keine ausreichenden Antworten auf diese Herausforderungen, die durch die Verschmelzung von KI, Blockchain und künftig auch Quantencomputing entstehen werden. Blockchain-
Technologie ist dabei die Technologie, mit der sich Governance-Strukturen und jede Art regel-basierter Steuerung in diesem ‚Backend der Zukunft‘ etablieren und aufrechterhalten lässt und so für Vertrauen sorgen kann.

Denn ohne eine klare Strategie zur Kombination und Anwendungen von exponentiellen Technologien könnten wir eine Entwicklung in Gang setzen, die nur noch schwer zu kontrollieren sein könnte. Dies bedeutet aber nicht, dass wir weitere oder umfassendere Regulierung fordern. Der
Zweck dieses Papieres ist es vielmehr, die Auseinandersetzung über die Ziele, die besten Wege dorthin und die Grenzen des Einsatzes exponentieller Technologien voranzubringen. Ein Wunsch wäre es – abhängig vom spezifischen Bereich – passende Maßnahmen zu identifizieren, Stolpersteine zu antizipieren und gezielte Innovations-Förderung anzustoßen (von Bildungs-Offensiven bis hin zur Schaffung klarer und auch innovations-freundlicher gesetzlicher Regelungen).
Diese Aufzählung versteht sich keinesfalls als abschließend.

Warum der AI Act der Europäischen Union nicht ausreicht

Der EU AI Act fußt auf einem risikobasierten Ansatz und zielt auf Transparenz, Datenschutz und menschliche Aufsicht ab. Doch er vernachlässigt wesentliche Zukunfts-Aspekte:

Fehlende Verzahnung von Technologien: Blockchain kannTransparenz und Nachvollziehbarkeit schaffen – genau das, was für KI-Anwendungen, etwa in der kritischen Infrastruktur – in demokratisch angelegten Staaten erforderlich sein sollte. Dies kann
im Idealfall zu Vertrauensbildung führen, aber auch wirtschaftliche Relevanz entfalten (z.B. mit Blick auf den Umgang von für Deep Learning-Trainingsprozesse für KIs genutzten und urheberrechtlich geschützten Datensätze) und Kontrolle bei weitergehender Automatisierung schaffen. Diese Aspekte werden
aktuell nur unzureichend vom Gesetzgeber adressiert.
Der EU AI Act berücksichtigt insbesondere in dezentralen Kontexten, wie sie bei Blockchain-Projekten und Web3-Anwendungen vorkommen, nicht hinreichend die Frage der Verantwortlichkeit. Durch das Fehlen zentraler Instanzen in verteilten Governance-Strukturen entsteht eine Regulierungslücke, die der risikobasierte Ansatz des EU AI Act bisher nicht klärt.
Unzureichende Prüfung der Datenquellen: Der AI Act regelt nicht ausreichend, wie etwa KI-Trainingsdaten auf ihre Herkunft und Integrität geprüft werden sollen. Dies führt – neben der Gefahr, dass KIs eine diskriminierende “Erziehung” im Deep Learning-Prozess erfahren – zu rechtlichen Unsicherheiten und gefährdet damit nicht nur den gesellschaftlichen Zusammenhalt, sondern auch die Grundlage von Innovation (und auch Investitionen) weltweit. Zumindest Teile des Entscheidungsprozesses einer KI sollten transparent über die Blockchain nachverfolgbar werden. Dies kann z.B. in Form von NFTs (Non-Fungible Tokens), die als digitale Objekte, die einzigartig sind und in keiner Weise geändert oder
ersetzt werden können, geschehen. Auch Open-Source-Projekte geraten so ins Visier: Der EU AI Act
bietet zwar Ausnahmen für Forschungszwecke, lässt aber viele Detailfragen offen. Gerade dezentrale KI-Projekte, die auf gemeinschaftlicher Entwicklung basieren, benötigen ein klares Regelwerk für den Umgang mit Daten, Urheberrechten und
Qualitätskontrollen.
Gefahr für Grundrechte: KI-Systeme können Verfassungsgüter wie Menschenwürde und den umfassenden Schutz persönlicher Daten gefährden, wenn sie nicht auf ausreichend transparenten Prozessen beruhen. Hier fehlt es an überprüfbaren Mechanismen, die durch Blockchain geschaffen werden können. Beim Deep-Learning-Prozess kann es passieren, dass nicht die Werte unserer normenbasierten, freiheitlichen Gesellschaft berücksichtigt werden, insbesondere wenn das Training in weniger regulierten Ländern unter möglicherweise unzureichender Aufsicht stattfindet. Dies könnte
ethische Standards verfälschen. Ein Beispiel ist die in Deutschland strafbare Volksverhetzung gemäß § 130 StGB: Wird darauf beim Training der LLMs nicht geachtet, können in schwierigen Zeiten gefährliche Ergebnisse mit beträchtlicher Folgewirkung entstehen.
Langfristige Umsetzbarkeit: Die Implementierung des AI Acts erfolgt in kleinen Schritten und deckt nur einen begrenzten geographischen Raum ab. Darunter fallen die Europäische Union (EU), der Europäische Wirtschaftsraum (EWR) und Anbieter von KI-Systemen aus Drittstaaten, die ihre KI in der EU anwenden, sowie Unternehmen, Organisationen und Einzelpersonen, die KI-Systeme innerhalb der EU einsetzen. Dies wird aktuell weder der exponentiellen Entwicklung von KI noch der Blockchain-Technologien gerecht. Dies ist insbesondere mit Blick auf ein grenzenloses Internet richtig zu adressieren, um eine solide Grundlage bei der Ausgestaltung mächtiger technischer Steuer-Systeme zu gewährleisten. In Anbetracht globaler Wettbewerber wie den USA oder China, die nach dem Prinzip ‘Innovation trumps Regulation’ vorgehen, könnte Europa ins Hintertreffen geraten, wenn der EU AI Act nicht rasch weiterentwickelt wird, um dezentralen Strukturen und neuen KI-Anwendungsfällen gerecht zu werden.
Gefahreneindämmung: Gleichzeitig dürfen die potenziellen Gefahren von KI nicht unterschätzt werden, etwa die Möglichkeit einer Verselbstständigung von KI über dezentrale Protokolle, wie beispielsweise Sharding-Mechanismen auf Nodes (Knotenpunkten). Szenarien, in denen eine KI sich über eine DAO (Dezentrale Autonome Organisation) selbst verwaltet oder eine DAO eine KI koordiniert, müssen frühzeitig antizipiert und reguliert werden und entsprechende Lösungen auditiert werden, sodass die Betriebs- und Entscheidungsprozesse auf Manipulation und ungewollte Autonomie überprüft sind. Ähnliche Überlegungen müssen auch für autonome Software-Agenten-Netzwerke angestellt werden, die durch das Füttern mit Daten aus Sensoren oder KIs ganze Kaskaden von Prozessen ausführen und von der Finanzwirtschaft über die Industrie-Produktion und Energieversorgung bis hin zur Medizin zur Verwendung kommen werden.

Blockchain und KI: Eine strategische Verbindung

Die Integration von Blockchain und KI kann dazu beitragen, viele dieser bevorstehenden Aufgaben positiv zu beeinflussen. Beispiele für solche Synergien sind:

Nachweisbare Datenintegrität: Blockchain-basierte Register können kritische Prozesse, etwa für die Überprüfbarkeit von Trainingsdaten oder die Zulassung von Mitarbeitern an KI-Systemen, transparent und manipulationssicher dokumentieren.
Dezentrale Identitäten (SSI): Durch die Kombination von Blockchain und KI können sichere, selbstverwaltete digitale Identitäten geschaffen werden, die Manipulationen durch KI-Agenten verhindern, aber auch Raum für Maschinen-Identitäten und autonome Prozesse schaffen.
Transparente Audits: Blockchain ermöglicht die Rückverfolgbarkeit von KI-Entscheidungen, was insbesondere für kritische Sektoren wie Gesundheit, autonome Fahrzeuge, das Finanzwesen, aber auch in Bereichen von Lizenzvergaben und Patenten entscheidend werden wird. Gerade in Open-Source- und Web3-Projekten können solche Audits automatisiert und dezentral ablaufen, um Bias zu reduzieren und eine regelkonforme Datenverarbeitung sicherzustellen. Dies stärkt das Vertrauen in die Technologie und erfüllt die Anforderungen an Transparenz und Nachvollziehbarkeit, die der EU AI Act zwar vorsieht, aber im dezentralen Kontext bisher nicht hinreichend konkretisiert.
Compliance-Token: Verpflichtende Einführung DLT-basierter Zertifizierungs-Token, die bestätigen, dass die in Art. 43 AI Act vorgeschriebene Konformitätsbewertung und die Prüfung der Voraussetzungen für Smart Contracts aus Art. 36 Data Act erfolgreich durchgeführt wurden.

Diskussions-Empfehlungen

Um die Potenziale von Blockchain und KI optimal zu nutzen und gleichzeitig Risiken zu minimieren, schlagen wir tiefgehende Diskussionen zu den folgenden Themenfeldern vor:

1. Förderung orchestrierender Innovation:

o Bereitstellung von umfassenden Fördermitteln für Forschungsprojekte, die etwa die Verbindung von Blockchain und KI untersuchen.
o Gezielte Anreizsetzung und Förderung von europäischen Unternehmen, die dezentrale KI-Anwendungen entwickeln
oder Blockchain und KI verbinden wollen.
o Schaffung eines Förderungspools für KI-Forschung und dezentrale Ansätze mit dem Ziel, diese in die Realwirtschaft zu überführen
o Finanzielle Förderung von Start-ups, die diese beiden Bereiche (KI und Blockchain) verbinden.

2. Einrichtung eines Innovations-Roundtables:

o Initiierung eines interdisziplinären Forums mit Vertretern aus Politik, Wirtschaft und Wissenschaft, um konkrete
Maßnahmen und Standards zu entwickeln.
o Dieses Gremium sollte unbedingt tagen, über ein Budget
verfügen, eine zentrale Anlaufstelle (ein Büro) haben mit
festen Mitarbeitern und als Think Tank im Bereich von KI und Blockchain Technologien wirken, aber auch lange überfällige Umsetzungen, etwa bei der Beschleunigung der
Digitalisierung, mit vorantreiben

3. Regulatorische Anpassungen:

o Einführung eines gemeinsamen Regelwerks für KI und Blockchain, das Transparenz, Datenintegrität und Sicherheit gewährleistet und rechtlich nachhaltig aufgesetzte Geschäftsmodelle ermöglicht.
o Schaffung eines verpflichtenden blockchainbasierten Registers für KI-Anwendungen in ausgewählten, kritischen Infrastrukturen (z.B. im öffentlich-rechtlichen Nachrichtenwesen), um Herkunft, Authentizität und Qualität der Daten sicherzustellen.

4. Aufklärung und Bildung:

o Diskussion und Ausarbeitung geeigneter Bildungsprogramme, die das Verständnis für die Synergien
von KI und Blockchain stärken.
o Unterstützung von Initiativen, die die gesellschaftliche Akzeptanz und das Vertrauen in diese Technologien fördern.

Fazit:

Rasches Handeln ist für die Zukunft unabdingbar. Sonst wird unsere Zukunft eine andere sein. Die Kombination von KI und Blockchain ist kein Zukunftsszenario, sondern bereits Realität. Die Entscheidungen, die in diesem Bereich in den
kommenden fünf Jahren getroffen werden, dürften die digitale Infrastruktur und damit die Grundlagen unserer Gesellschaft auf Jahrzehnte hinaus formen. Um die Potenziale dieser Technologien im Einklang mit unserer freiheitlich-demokratischen Verfassung, zum Wohle der Bürger, der Wirtschaft und der Umwelt zu nutzen, braucht es einen proaktiven Ansatz. Der Blockchain Bundesverband fordert daher die zukünftige Bundesregierung und den zukünftigen Deutschen Bundestag auf, diese Diskussion zu begleiten und zu beschleunigen, die Faktenlage gründlich zu prüfen und bis Ende 2025 konkrete, strategisch nachhaltige Maßnahmen zu entwickeln, auf den Weg zu bringen und im Idealfall bereits zu beschließen.