VAE verlagern die Hälfte ihrer Verwaltungsleistungen auf KI-Agenten – Aufsicht im Fokus

Omar Sultan Al Olama, Staatsminister für künstliche Intelligenz, erläuterte am 14. Oktober beim Annual Meeting of Global Future Leaders des Weltwirtschaftsforums in Dubai, wie die Kontrolle organisiert ist. Eingeführt wurde ein sogenannter „Control-Tower-Agent"; zusätzlich laufen Prüfungen sowohl durch Agenten als auch durch Menschen. Überwachung und der Aufbau von Vertrauen seien für das Vorhaben entscheidend.

„Es gibt eine Aufsicht, die sicherstellt, dass wir verstehen, was die Agenten tun und wie sie bestimmte Handlungen vornehmen – es findet eine fortlaufende Prüfung statt", sagte Al Olama. „Es gibt eine Prüfung durch Agenten und eine Prüfung durch Menschen, um sicherzustellen, dass das in keiner Weise aus dem Ruder läuft." Sicherheit und Vertrauen seien die Voraussetzung dafür, autonome Regierungssysteme zu erreichen, die die Lebensqualität verbessern, ohne Bürgerinnen und Bürger zu gefährden.

Im April hatte das Kabinett der VAE einen Rahmen vorgestellt, der 50 Prozent der Sektoren, Dienstleistungen und Abläufe der Bundesregierung innerhalb von zwei Jahren auf agentenbasierte KI umstellen soll. Regierungsrichtlinien und -prozesse sollen so umgestaltet werden, dass „intelligente Systeme" entstehen, die proaktiv handeln, Betriebskosten senken, Bürgern effizientere Leistungen bieten und die Verwaltung insgesamt effizienter machen.

Das Vorhaben ist in einen Kontext hoher KI-Nutzung eingebettet: Laut dem Microsoft-Bericht „Global AI Diffusion: Q2 2026 Trends and Insights" lag die weltweite KI-Verbreitung – gemessen am Anteil der Erwachsenen, die in einem bestimmten Zeitraum ein generatives KI-Produkt genutzt haben – im zweiten Quartal 2026 bei 19 Prozent. Die Vereinigten Arabischen Emirate führen die Rangliste mit über 73 Prozent der Bevölkerung an, die im selben Quartal KI nutzten.

Das Agentic-AI-Projekt der Regierung wird in mehreren Phasen über Ministerien und Bundeseinrichtungen hinweg ausgerollt. Am 9. Oktober prüfte der Ministerrat für künstliche Intelligenz und Entwicklung die erste Phase, die sich auf den „Aufbau von Regierungskompetenzen, die Erhebung und Bewertung von Regierungsdienstleistungen, -abläufen und -aufgaben sowie die Festlegung von Prioritäten" konzentrierte. In der zweiten Phase soll unter dem Namen „FedAI" ein nationales technisches Ökosystem für agentenbasierte KI entstehen, das Behörden ermöglicht, agentische Dienste zu entwickeln und zu betreiben sowie interne Wettbewerbe wie Hackathons für die Entwicklung von Anwendungen auszurichten.

Zur kommenden Phase gehören Schulungen für Regierungsbeschäftigte in der Entwicklung agentenbasierter KI und in generativer KI-Technologie, wie Scheich Mansour bin Zayed Al Nahyan, einer der beiden Vizepräsidenten der VAE und stellvertretender Premierminister, erklärte. „Wir bauen ein Regierungssystem auf, das intelligenter, flexibler und proaktiver ist; ein System, das agentenbasierte KI nutzt, um Dienstleistungen, Abläufe und Aufgaben zu entwickeln und Richtlinien und Entscheidungen zu gestalten", sagte er. Dies solle in einer sicheren und zuverlässigen digitalen Infrastruktur geschehen, die die Zukunftsfähigkeit der Regierung stärke und ihre führende Rolle bei der Entwicklung von Arbeitsmodellen für den Staat untermauere.

Evin McMullen, Mitgründerin und CEO des in Dubai ansässigen Start-ups AmanTrue, das eine Governance-Kontrollschicht für agentenbasierte KI entwickelt, hält Überwachung und Protokollierung agentischer Aktivität für zwingend. „Jede Institution, sicherlich eine Regierung, die KI-Agenten in großem Maßstab einsetzt, insbesondere im Zusammenhang mit internen Abläufen oder Bürgerdiensten, sollte im Fall einer Agentenhandlung nachweisen können, wer gehandelt hat", sagt sie. „Welcher Agent, wer es autorisiert hat – welcher Mensch und welche zugehörige Institution – und was die Grenzen oder die Definition der Aufgabe waren."

Je mehr Organisationen agentische Dienste einsetzen, desto wichtiger werde Governance, vor allem wenn mehrere Organisationen über Agenten an denselben Daten und Diensten arbeiten. „Wenn viele Dienste über die Koordination von Agenten handeln wollen, muss eine Institution zeigen können, welche Agenten konkret auf einen bestimmten Datensatz zugegriffen haben, in wessen Auftrag, innerhalb welcher definierten Grenzen und mit welchem Ergebnis", so McMullen.

Governance gilt als Kernproblem beim Einsatz von KI-Agenten: Sie sind oft kurzlebig, können verschleiern, in wessen Auftrag sie handeln, und entgleiten gelegentlich der Kontrolle. Einem am 20. Oktober veröffentlichten Bericht der Cloud- und KI-Infrastrukturplattform ServiceNow zufolge haben 29 Prozent der Sicherheitsteams unbekannte, nie registrierte KI-Agenten im Produktivbetrieb entdeckt. Neun von zehn Organisationen verzeichneten im vergangenen Jahr einen Sicherheitsvorfall, der auf agentenbasierte KI zurückzuführen war.

Vertrauen in autonome Systeme setzt nach Al Olamas Worten voraus, dass die Agenten eng überwacht, nachverfolgt und kontrolliert werden. „Die einzige Währung der Regierung ist Vertrauen", sagte er. „Wenn die Regierung eine falsche Entscheidung trifft, verliert sie viel von dieser Währung. … Dasselbe gilt für KI. Sobald wir ein Ereignis haben, bei dem KI aus der Sandbox ausbricht und Menschen schadet, wird es meiner Meinung nach lange dauern, bis wir dieses Vertrauen zurückgewinnen."