Jenseits der Identität: Governance für agentische Unternehmen

In unserem neuesten SOTI-Sicherheitsbericht „Geschwindigkeit, Skalierung und nicht-menschliche Identitäten: Die Landschaft der agentischen Bedrohungen untersuchen wir, wie agentische KI das Unternehmensrisiko verändert. Zu den jüngsten Erkenntnissen des Berichts gehören: 

• Das Model Context Protocol (MCP) stellt agentischer KI die Mittel zur Verfügung, um Aktionen über APIs hinweg auszuführen, verwischt jedoch gleichzeitig die Grenzen zwischen Daten und Code. Und das kann dazu führen, dass schädliche Server die LLM‑Logik (Large Language Model) durch Prompt Injection oder serverübergreifende Angriffe kapern. 

• Der Browser ist zu einer kritischen, unüberwachten Angriffsfläche geworden: Mehr als 40 % der Unternehmensnutzer haben entsprechende Tools installiert und 25 % dieser Erweiterungen ändern innerhalb von 12 Monaten ihre Berechtigungen.  

• Mehr als 6 % der Konversationen mit KI‑Chatbots auf Unternehmensgeräten beinhalten sensible Daten.

• Da KI‑gestützte Systeme immer mehr Verantwortung für Unternehmensworkflows übernehmen, müssen Unternehmen Einblicke in Maschine-zu-Maschine-Aktivitäten und API‑Autorisierung priorisieren und gleichzeitig eine Zero‑Trust-Architektur anwenden, um Maschinenidentitäten, Agentenberechtigungen und autonome Entscheidungen zu schützen.

MCP bietet KI‑Agenten standardmäßigen Zugriff auf externe Tools und APIs – doch genau diese nahtlose Konnektivität öffnet neue Türen zu sensiblen Systemen. Jeder MCP‑Service kann Berechtigungen, Abhängigkeiten und Anweisungen einführen, die bestimmen, worauf ein Agent zugreifen oder was er tun kann.

Sicherheitsteams sollten MCP‑Verbindungen als Teil ihrer Angriffsfläche betrachten und den Überblick über MCP‑Services, verbundene Tools, Berechtigungen und Laufzeitverhalten behalten. Dieser Überblick kann dazu beitragen, zu verhindern, dass nicht vertrauenswürdige oder kompromittierte Services das Verhalten von Agenten beeinflussen, auf sensible Daten zugreifen oder unbefugte Aktionen auslösen.

Zunehmende Autonomie bedeutet, dass Unternehmenssicherheit über herkömmliche Identitätskontrollen hinausgehen muss, um nicht nur zu regeln, worauf Agenten zugreifen dürfen, sondern auch, wie sie agieren.

Die Sicherheit entwickelt sich weiter, während Unternehmen KI‑Systeme einsetzen, die mit zunehmender Autonomie agieren können. Identität und Zugriff sind nur ein Teil der Gleichung: Die Governance nicht-menschlicher Systeme über APIs hinweg ist mittlerweile ebenso entscheidend.

Da Frontier‑KI-Fähigkeiten, darunter Project Glasswing, die Zeit, die zur Aufdeckung von Systemschwachstellen benötigt wird, von Wochen auf Stunden verkürzen, können bestehende Patchzyklen nur schwer Schritt halten. Unternehmen benötigen adaptiven, Edge-nativen Laufzeitschutz und risikobasierte Autonomie, die KI-Systemen nur Aktionen erlauben, die sich leicht überprüfen und rückgängig machen lassen. Gleichzeitig muss die menschliche Kontrolle über Aktionen mit hohen Auswirkungen und über Verhaltensanomalien gewährleistet werden.

Nicht jedes KI‑Risiko erfordert die gleiche Reaktion. Höchste Priorität haben Bedrohungen, die nicht nur hohe geschäftliche Auswirkungen haben, sondern auch ein schnelles Eingreifen erfordern, wie beispielsweise Angriffe auf agentische KI, KI‑gestützte Schwachstellenerkennung und Prompt Injection (Abbildung 1).

Mit der zunehmenden Verbreitung nicht-verwalteter KI‑Erweiterungen und -Tools sind auch Browser zu einer kritischen Angriffsfläche geworden. Untersuchungen zeigen, dass KI‑Browsererweiterungen um 60 % häufiger bekannte Schwachstellen aufweisen als andere Tools – und fast die Hälfte aller Unternehmensnutzer hat KI‑Erweiterungen installiert (Abbildung 2).

Um KI‑gestützte Bedrohungen effektiv durch die Governance von Verhaltensweisen und die Verwaltung des Datenrisikos abzuwehren, müssen Sicherheitsteams über statische Regeln hinausgehen und einen neuen, adaptiven Standard für die Durchsetzung einführen. Dieser überarbeitete Sicherheitsansatz ist eine Reaktion auf die neue KI‑Landschaft (Abbildung 3).

KI‑Agenten sind mittlerweile Realität und ihr Schutz erfordert neue Strategien. Während einige KI‑Risiken bereits bewertet und überwacht werden, bleiben viele neue KI‑Bedrohungen nach wie vor unbeachtet. Unternehmen müssen schnell beurteilen und in Echtzeit kontrollieren, auf welche Ressourcen KI‑Agenten, MCP‑Services, Browsererweiterungen und verbundene Anwendungen zugreifen dürfen und welche Aktionen sie ausführen können. 

Das Ziel besteht nicht darin, den Einsatz von KI einzuschränken, sondern ihn zu kontrollieren. Unternehmen, die KI‑Innovation mit verhaltensbasierter Governance kombinieren, sind besser darauf vorbereitet, die dynamische KI‑Bedrohungslandschaft zu bewältigen.

Lesen Sie frühere Ausgaben und halten Sie Ausschau nach den kommenden Veröffentlichungen der renommierten SOTI‑Sicherheitsberichte von Akamai, um über die neuesten Bedrohungsanalysen, Sicherheitsberichte und Forschungsergebnisse zur Cybersicherheit auf dem Laufenden zu bleiben.