Vitalik Buterin, Mitbegründer von Ethereum, hat sich kritisch über den Einsatz von Künstlicher Intelligenz (KI) in Governance-Systemen geäußert. Er bezeichnete dies als eine **
Buterin warnte davor, sich bei Governance-Entscheidungen zu stark auf KI zu verlassen, da solche Systeme anfällig für Manipulationen seien. Er argumentierte, dass Einzelpersonen versuchen würden, die Systeme durch sogenannte „Jailbreak Prompts“ zu manipulieren, um sich unrechtmäßig Vorteile zu verschaffen, wenn KI beispielsweise für die Zuweisung von Geldern eingesetzt würde.
Ein Jailbreak Prompt ist ein Code, der verwendet wird, um Einschränkungen aufzuheben und administrativen Zugriff zu erhalten. Sicherheitsexperten haben angemerkt, dass große Sprachmodelle (LLMs) nicht zwischen echten und bösartigen Anweisungen unterscheiden können, was sie anfällig für Manipulationen macht.
Eito Miyamura, Mitbegründer von EdisonWatch, demonstrierte, wie Angreifer das neue Model Context Protocol (MCP) von OpenAI ausnutzen könnten, um auf private Benutzerdaten zuzugreifen.
Als Alternative schlägt Buterin einen „Info Finance“-Ansatz vor. Dieser Ansatz beinhaltet einen offenen Markt, auf dem verschiedene Entwickler ihre Modelle anbieten können. Diese Modelle können bei Bedarf von Teilnehmern zur Überprüfung angefordert werden, wobei eine Jury aus Menschen die endgültige Bewertung vornimmt.
Buterin argumentiert, dass dieser Ansatz die Vielfalt fördert und Anreize für die Teilnehmer schafft, sich gegenseitig zu überwachen und Fehler zu korrigieren, was ihn sicherer macht als das Vertrauen auf eine einzelne KI. Er erklärte, dass einzelne menschliche Juroren durch große Sprachmodelle (LLMs) unterstützt würden.
Buterin betont die Bedeutung der menschlichen Aufsicht in KI-gesteuerten Krypto-Governance-Systemen, um Transparenz, Rechenschaftspflicht und die Einhaltung dezentraler Prinzipien zu gewährleisten. Durch die Integration menschlicher Bewertungen in Governance-Modelle können Blockchain-Netzwerke Risiken wie algorithmische Verzerrungen und Manipulationen mindern.
