Künstliche Intelligenz verändert nicht nur die Arbeitsweise von Unternehmen, sondern auch die Art der Cyberbedrohungen. KI-Systeme können Informationen analysieren, Entscheidungen treffen und Aktionen ohne direkte menschliche Beteiligung ausführen. Dadurch erhalten Cyberkriminelle neue Möglichkeiten zur Automatisierung von Angriffen, während Organisationen Sicherheitslösungen benötigen, die ebenfalls schneller und kontextbezogener agieren können.
Microsoft entwickelt in diesem Bereich ein neues, auf KI-Agenten basierendes Cybersecurity-Konzept. Eine der wichtigsten Komponenten ist Project Perception – ein System, das zur kontinuierlichen Risikoerkennung, Bedrohungsanalyse und Einleitung von Schutzmaßnahmen entwickelt wurde.
Was bedeutet das für Unternehmen? Und warum erfordert KI-Sicherheit zunehmend einen völlig anderen Ansatz als der klassische Schutz der Infrastruktur?
Die wichtigsten Informationen auf einen Blick
- Project Perception ist das Konzept eines agentenbasierten Sicherheitssystems, das Risiken kontinuierlich erkennen, analysieren und Schutzmaßnahmen einleiten soll.
- Das System nutzt drei Gruppen spezialisierter Agenten: Red Team, Blue Team und Green Team.
- Microsoft entwickelt einen sogenannten Cyber-Stack, der Daten aus der gesamten IT-Umgebung, Sicherheitskontext, KI-Modelle, Agenten und ausführende Mechanismen zusammenführt.
- Eine der neuen Bedrohungen ist Prompt Injection, also der Versuch, ein KI-System mithilfe speziell formulierter Anweisungen zu manipulieren.
- Microsoft entwickelt den KI-Schutz auch im Rahmen von Defender, Microsoft Agent 365, Entra und Purview weiter.
- Project Perception ging am 3. August 2026 laut Microsoft in die öffentliche Vorschau. Microsoft – Rethinking security for the age of AI
Warum erfordert KI-Sicherheit einen neuen Ansatz?
KI verändert nicht nur die Arbeitsweise der Nutzer. Sie verändert auch Umfang und Geschwindigkeit potenzieller Angriffe.
Ein herkömmlicher Cyberangriff erfordert vom Angreifer häufig Zeit, um die Infrastruktur zu analysieren, eine Kampagne vorzubereiten, Schwachstellen zu identifizieren oder die weiteren Phasen des Angriffs anzupassen. KI-Modelle können Teile dieser Aktivitäten automatisieren und ermöglichen eine schnellere Analyse großer Informationsmengen.
Microsoft weist darauf hin, dass mit der Entwicklung autonomer Systeme zugleich die Zahl der Komponenten steigt, die eine Organisation schützen muss. Dazu gehören nicht mehr nur Computer, Server und Benutzerkonten, sondern auch KI-Anwendungen, Agenten, von Modellen verwendete Daten und die Beziehungen zwischen diesen Komponenten. Microsoft – Rethinking security for the age of AI
Was ist Microsoft Project Perception?
Project Perception ist ein von Microsoft entwickeltes agentenbasiertes Sicherheitssystem für Umgebungen, in denen KI Teil der Infrastruktur einer Organisation ist.
Es soll mehrere Elemente zusammenführen:
- Sicherheitssignale,
- Informationen über die Umgebung der Organisation,
- KI-Modelle,
- spezialisierte Agenten,
- Mechanismen zur Ausführung von Schutzmaßnahmen.
In der Praxis bedeutet dies die Abkehr von einzelnen, unabhängig voneinander arbeitenden Tools hin zu einem System, das Informationen aus vielen Bereichen zusammenführen und daraus ein einheitliches Lagebild der Sicherheit erstellen kann.
Microsoft kündigte die öffentliche Vorschau von Project Perception ab dem 3. August 2026 an. Microsoft – Rethinking security for the age of AI
Red Team, Blue Team und Green Team – wie arbeiten die Agenten von Project Perception?
Eine der interessantesten Komponenten von Project Perception ist die Aufteilung der Agenten in drei Gruppen.
Red Team – Schwachstellen aufspüren
Die Agenten des Red Teams sollen ähnlich wie ein Team agieren, das kontrollierte Angriffe durchführt.
Ihre Aufgabe besteht darin, potenzielle Pfade zu identifizieren, die zu einer Kompromittierung der Umgebung führen können, bevor ein tatsächlicher Angreifer sie ausnutzt.
Dazu kann die Analyse folgender Aspekte gehören:
- Schwachstellen in Software,
- Fehlkonfigurationen,
- übermäßigen Berechtigungen,
- Abhängigkeiten zwischen Systemen,
- potenziellen Wegen, auf denen sich ein Angreifer durch die Infrastruktur bewegen kann.
Entscheidend ist hierbei der Blick auf die Abhängigkeitskette und nicht nur auf eine einzelne Warnmeldung.
Eine Schwachstelle in einer Anwendung allein kann beispielsweise nur begrenzte Bedeutung haben. Hat die Anwendung jedoch Zugriff auf sensible Daten, verwendet sie ein privilegiertes Konto und ist mit anderen Systemen verbunden, ist ihre Bedeutung für die Sicherheit der gesamten Organisation deutlich größer.
Blue Team – Analyse und Bewertung des tatsächlichen Risikos
Die Agenten des Blue Teams sollen Signale zu potenziellen Bedrohungen analysieren und mit dem verfügbaren Kontext verknüpfen.
Dies ist besonders in großen Organisationen wichtig, in denen Sicherheitssysteme eine enorme Anzahl von Ereignissen erzeugen können.
Eine Warnmeldung allein zeigt häufig noch nicht, ob die Organisation tatsächlich gefährdet ist.
Von Bedeutung können unter anderem sein:
- die Identität des Nutzers,
- das Gerät, von dem die Verbindung hergestellt wurde,
- Ort und Zeitpunkt des Ereignisses,
- die verwendete Anwendung,
- frühere Aktivitäten des Kontos,
- der Datenzugriff des Nutzers,
- Beziehungen zwischen Systemen,
- frühere Vorfälle,
- Informationen über aktuelle Kampagnen von Cyberkriminellen.
Der Agent kann ein Ereignis somit in einem breiteren Kontext analysieren, anstatt jedes Signal als isolierten Fall zu behandeln.
Green Team – von der Analyse zur Aktion
Der größte Unterschied zeigt sich in der nächsten Phase.
Die Agenten des Green Teams sollen für Korrekturmaßnahmen und die Stärkung der Sicherheitsvorkehrungen zuständig sein.
Je nach Szenario kann es beispielsweise um Folgendes gehen:
- die Einschränkung des Zugriffs,
- die Änderung der Konfiguration,
- die Stärkung der Sicherheitsrichtlinie,
- die Reaktion auf eine erkannte Schwachstelle,
- die Absicherung einer bestimmten Ressource.
Auf diese Weise bilden die drei Agentengruppen einen geschlossenen Sicherheitskreislauf:
Red Team → erkennt eine Schwachstelle → Blue Team → bewertet das Risiko → Green Team → leitet Maßnahmen ein → das System analysiert die Umgebung erneut.
Microsoft beschreibt genau ein solches Modell als kontinuierlichen Prozess zur Erkennung, Bewertung und Verbesserung des Sicherheitsniveaus. Microsoft – Rethinking security for the age of AI
Der neue Cyber-Stack: Woraus besteht KI-basierte Sicherheit?
Project Perception ist Teil eines umfassenderen Konzepts, das Microsoft als Cyber-Stack.
bezeichnet. Es lässt sich auf mehrere Ebenen vereinfachen.
-
Signale – Daten und Signale
Die erste Ebene liefert Informationen darüber, was in der Umgebung geschieht.
Zu den Quellen können unter anderem gehören:
- Geräte,
- Identitäten,
- Anwendungen,
- Cloud,
- Daten,
- KI-Systeme,
- Sicherheitslösungen.
Je mehr Systeme in einer Organisation betrieben werden, desto wichtiger wird ihre Vernetzung.
-
Security Context – Sicherheitskontext
Daten allein reichen nicht aus.
Das System muss wissen, was ein bestimmtes Ereignis für die jeweilige Organisation bedeutet.
Beispielsweise kann eine Anmeldung von einem ungewöhnlichen Standort für einen geschäftlich reisenden Mitarbeiter normal sein. Dasselbe Ereignis kann bei einem privilegierten Konto eine völlig andere Reaktion erfordern.
Der Kontext ermöglicht somit, Informationen zu Ressourcen, Benutzern, Beziehungen, Aktivitäten und Risiken miteinander zu verknüpfen.
Microsoft beschreibt den Security Context als ein kontinuierlich aktualisiertes Abbild der Umgebung, das Agenten eine effizientere Situationsanalyse ermöglicht. Microsoft – Rethinking security for the age of AI
-
Models – KI-Modelle
Ein weiteres Element sind Modelle, die für Schlussfolgerungen und Analysen zuständig sind.
Microsoft weist auf den Ansatz Multi-Model, bei dem nicht jedes Problem durch ein einziges, größtes Modell gelöst werden muss.
Für einfachere Aufgaben kann ein schnelleres und kostengünstigeres Modell eingesetzt werden, während komplexere Analysen einem Modell mit umfassenderen Schlussfolgerungsfähigkeiten überlassen werden.
Dieser Ansatz kann sowohl für die Leistung als auch für die Kosten des gesamten Systems relevant sein.
-
Agents – spezialisierte Agenten
Agenten führen konkrete Aufgaben aus.
Statt eines einzigen „Superagenten“, der für alles zuständig ist, kann das System mehrere Agenten nutzen, die auf bestimmte Funktionen spezialisiert sind.
-
Actuators – Ausführung von Maßnahmen
Die letzte Ebene verbindet die Analyse mit der tatsächlichen Reaktion.
Hier kann die Entscheidung des Systems in eine konkrete Schutzmaßnahme umgesetzt werden.
Microsoft betont, dass diese Ebene tief in die Sicherheitslösungen von Microsoft integriert ist. Microsoft – Rethinking security for the age of AI
Prompt Injection – eine neue Bedrohung für KI-Systeme
Die Entwicklung von KI-Agenten schafft auch neue Bedrohungsklassen.
Eine davon ist Prompt Injection.
Vereinfacht gesagt handelt es sich um den Versuch, das Verhalten eines Modells durch gezielt formulierte Anweisungen zu beeinflussen.
Das Problem wird besonders relevant, wenn KI nicht nur Fragen beantwortet, sondern Zugriff auf Daten und Tools hat und Aktionen ausführen kann.
Stellen wir uns einen Agenten vor, der E-Mails analysiert.
Eine gewöhnliche Nachricht kann eine versteckte oder offen formulierte Anweisung an das Modell enthalten. Behandelt der Agent sie als Befehl statt als nicht vertrauenswürdigen Inhalt, kann sein Verhalten potenziell manipuliert werden.
Die KI-Sicherheit darf sich daher nicht auf den Schutz des Modells selbst beschränken.
Geschützt werden müssen auch:
Modell + Daten + Kontext + Tools + Berechtigungen + Art der Aktionsausführung.
Microsoft informierte im Juli 2026 über die Entwicklung eines Schutzes vor Prompt Injection in Microsoft Defender. Dieser soll E-Mails mit schädlichen Anweisungen für KI-Systeme erkennen und isolieren, bevor sie dem Benutzer zugestellt werden. Die Funktion wurde als Preview-Lösung vorgestellt. Microsoft Security – What’s new in Microsoft Security: July 2026
Ein KI-Agent benötigt eine eigene Sicherheitsebene
Die Einführung eines KI-Agenten im Unternehmen sollte nicht bei der Frage enden:
„Funktioniert der Agent?“
Ebenso wichtig sind die Fragen:
- Auf welche Daten hat er Zugriff?
- Welche Anwendungen kann er nutzen?
- Welche Aktionen kann er selbstständig ausführen?
- Welche Berechtigungen hat er?
- Wird seine Aktivität überwacht?
- Was geschieht, wenn eine verdächtige Aktion erkannt wird?
- Kann ihm der Zugriff schnell entzogen werden?
Deshalb entwickelt Microsoft Microsoft Agent 365.
Laut Microsoft sollen die neuen Defender-Funktionen die Bewertung des Sicherheitsniveaus mit Runtime-Schutz für Agenten verbinden, die unter anderem in Microsoft Foundry, Microsoft Copilot Studio und Verwaltungsumgebungen für Agenten anderer Anbieter ausgeführt werden. Microsoft Security – What’s new in Microsoft Security: July 2026
In der Praxis bedeutet dies, dass sich der Schwerpunkt neben der Sicherheit von Benutzern und Geräten auch in Richtung Sicherheit digitaler Mitarbeiter, also von Agenten, die Aufgaben in der Organisation ausführen, verschiebt.
Microsoft Defender: Schutz für die gesamte KI-Umgebung
Die Entwicklung von Project Perception bedeutet nicht, dass klassische Sicherheitslösungen an Bedeutung verlieren.
Ganz im Gegenteil.
KI muss in die bestehende Cybersicherheitsarchitektur integriert werden.
Microsoft entwickelt in diesem Bereich die Funktionen von Defender, indem Informationen aus unterschiedlichen Bereichen der Umgebung integriert und KI in SecOps-Prozessen eingesetzt werden. Im Juli-Update verwies Microsoft unter anderem auf die Weiterentwicklung des Threat Intelligence Agent sowie auf die Integration weiterer Analyse- und Automatisierungsfunktionen. Microsoft Security – What’s new in Microsoft Security: July 2026
Das ist wichtig, denn KI-Sicherheit ist kein isoliertes Projekt, das losgelöst von der übrigen Infrastruktur besteht.
Ein KI-Agent nutzt:
Identitäten → Geräte → Anwendungen → Daten → Netzwerke → Cloud.
Ist eines dieser Elemente unzureichend geschützt, kann es Teil einer potenziellen Angriffskette werden.
Kann KI vor KI schützen?
Dies ist eine der wichtigsten Fragen im Zusammenhang mit der Entwicklung von Project Perception.
Die Antwort von Microsoft lautet grundsätzlich ja: Wenn KI die Möglichkeiten von Angreifern erweitert, sollten ähnliche Technologien von den für den Schutz verantwortlichen Teams eingesetzt werden.
Das bedeutet jedoch nicht, dass der Mensch nicht mehr benötigt wird.
Microsoft betont das Konzept Human in Control – KI-Systeme sollen Analysen und Maßnahmen automatisieren, aber der Mensch sollte die Kontrolle über zentrale Sicherheitsprozesse behalten. Microsoft – Rethinking security for the age of AI
Dies ist insbesondere bei Maßnahmen mit hoher Auswirkung wichtig.
Das automatische Blockieren eines verdächtigen Prozesses kann vergleichsweise sicher sein. Der automatische Entzug des Zugriffs auf ein kritisches Geschäftssystem für eine gesamte Abteilung erfordert dagegen deutlich mehr Kontrolle.
Deshalb wird die Zukunft der Cybersicherheit wahrscheinlich nicht bedeuten:
„KI statt Mensch“.
Eher:
„KI übernimmt mehr Arbeit, der Mensch trifft Entscheidungen dort, wo Urteilsvermögen und Verantwortung gefragt sind“.
Wie bereiten Sie Ihr Unternehmen auf KI-Sicherheit vor?
Die Einführung von KI sollte nicht allein mit der Auswahl eines Modells oder einer Anwendung beginnen.
Ebenso wichtig ist die Vorbereitung eines geeigneten Sicherheitsmodells.
- Identifizieren Sie alle KI-Anwendungsfälle
Beschränken Sie sich nicht auf offiziell eingeführte Tools.
Prüfen Sie auch, welche KI-Dienste Mitarbeitende individuell nutzen.
- Identifizieren Sie Agenten und ihre Berechtigungen
Jeder Agent sollte einen klar definierten Zugriffsbereich haben.
Die Regel sollte einfach sein:
Ein Agent erhält nur die Berechtigungen, die er tatsächlich benötigt.
- Schützen Sie Ihre Daten
Legen Sie fest, welche Daten an KI-Modelle und externe Anwendungen übermittelt werden dürfen.
- Überwachen Sie Aktivitäten
Es reicht nicht zu wissen, dass ein Agent existiert.
Sie müssen auch wissen, welche Daten er nutzt, mit welchen Anwendungen er kommuniziert und welche Aktionen er ausführt.
- Bereiten Sie Schutzmaßnahmen gegen Prompt Injection vor
Anweisungen aus nicht vertrauenswürdigen Quellen sollten als potenziell gefährliche Daten behandelt werden – nicht automatisch als Befehle für das Modell.
- Planen Sie die Reaktion auf Sicherheitsvorfälle
Bei der Kompromittierung eines Kontos, Agenten oder einer Anwendung sollte die Organisation wissen, wie sie Zugriffe schnell einschränkt und eine mögliche Ausbreitung der Bedrohung stoppt.
7 Fragen, die Sie vor der Einführung von KI-Agenten stellen sollten
Vor der Einführung autonomer Agenten im Unternehmen sollten einige grundlegende Fragen beantwortet werden:
- Auf welche Daten wird der Agent Zugriff haben?
- Welche Aktionen wird er ohne menschliches Eingreifen ausführen können?
- Welche Berechtigungen wird er erhalten?
- Wird jede Aktivität des Agenten protokolliert?
- Wie erkennen wir Prompt Injection oder andere Manipulationsversuche?
- Was tun wir, wenn ein Agent übernommen wird?
- Können wir dem Agenten den Zugriff auf Daten und Anwendungen schnell entziehen?
Hat die Organisation auf eine dieser Fragen keine klare Antwort, sollten zunächst die Sicherheitsgrundlagen geklärt werden, bevor die Autonomie der KI erweitert wird.
Fazit
Das KI-Zeitalter verändert auch die Art und Weise, wie über Cybersicherheit nachgedacht werden muss.
Unternehmen müssen nicht mehr nur Nutzer, Geräte, Anwendungen und Daten schützen, sondern auch KI-Modelle und autonome Agenten, die Aufgaben ausführen und im Umfeld der Organisation Maßnahmen ergreifen können.
Project Perception ist Microsofts Antwort auf diesen Wandel. Statt eines einzelnen Tools erhalten wir das Konzept eines kontinuierlichen, agentenbasierten Sicherheitssystems, das Daten, Kontext, KI-Modelle, spezialisierte Agenten und Mechanismen für automatisierte Reaktionen verbindet.
KI-Sicherheit erfordert zugleich einen Blick, der über das Modell selbst hinausgeht. Entscheidend sind:
Identität + Berechtigungen + Daten + Anwendungen + Agenten + Monitoring + automatisierte Reaktion.
Gerade das Zusammenspiel dieser Elemente wird darüber entscheiden, ob KI für Organisationen zur Quelle neuer Bedrohungen wird oder auch zu einem der wichtigsten Instrumente, um diese zu begrenzen.
Möchten Sie mehr über die Cybersicherheitslösungen von Microsoft erfahren? Unser Expertenteam beantwortet gerne Ihre Fragen und hilft Ihnen bei der Auswahl der besten Lösung:
Besuchen Sie auch unsere Website. Dort finden Sie weitere Informationen zu den Produkten. Schauen Sie vorbei und erfahren Sie mehr: MICROSOFT
