Shaw Walters, Gründer von Eliza Labs, warnt vor dem unbedachten Einsatz von KI-Agenten in der Finanzverwaltung. Obwohl KI-Systeme administrative Aufgaben automatisieren und bei der Datenanalyse helfen können, existieren erhebliche Risiken. Es fehlen ausgereifte Governance-Rahmen, um die verantwortungsvolle Verwaltung von realen Finanzmitteln zu gewährleisten.
Ein Hauptproblem ist die fehlende Governance. Autonome KI-Agenten benötigen robuste Strukturen, bevor sie mit der Verwaltung von Kapital betraut werden. Der Einsatz in unregulierten Umgebungen birgt zusätzliche Risiken, da KI-gestützte Tools unzutreffende oder irreführende Anlagetipps geben könnten.
KI-Systeme können Verzerrungen aus ihren Trainingsdaten übernehmen und verstärken, was zu einer gefährlichen Illusion von Kompetenz führt. Zudem sind öffentlich verfügbare KI-Tools nicht verpflichtet, im besten Interesse der Nutzer zu handeln. Die Europäische Wertpapier- und Marktaufsichtsbehörde (ESMA) warnt daher vor den Risiken und rät, sich nicht ausschließlich auf KI-gestützte Tools zu verlassen.
Die Monetary Authority of Singapore (MAS) hat 2024 Richtlinien für das Risikomanagement von KI veröffentlicht, die Transparenz und technische Schutzmaßnahmen betonen. Solche Initiativen sind entscheidend.
Trotz der Risiken bieten KI-Agenten auch Potenziale. Sie können administrative Aufgaben automatisieren, Kundendaten verarbeiten, Markttrends vorhersagen und personalisierte Finanzprodukte empfehlen. Eliza Labs entwickelt KI-Agenten, die nahtlos in Web3-Anwendungen integriert werden können, um beispielsweise Portfolios zu verwalten und intelligente Trades auszuführen.
In Deutschland zeigt eine Studie der Teambank, dass vier von zehn Deutschen KI-gestützter Finanzberatung positiv gegenüberstehen. Mehr als die Hälfte bevorzugt jedoch weiterhin menschliche Finanzprofis. Dies unterstreicht die Notwendigkeit, die Risiken zu verstehen und sich gegebenenfalls von einem professionellen Finanzberater beraten zu lassen.
Regulierungsbehörden und Institutionen arbeiten an Initiativen wie dem Projekt Moonshot, um Risiken zu mindern. Die Entwicklung robuster Governance-Rahmen und Regulierungen ist entscheidend, bevor KI-Agenten eine größere Rolle in der Finanzverwaltung übernehmen.
