Microsoft Humanist AI: Was der neue Verhaltenskodex für Unternehmen bedeutet

Table of Contents

<p><em>Dieser Artikel wurde mit Künstlicher Intelligenz erstellt und redaktionell kuratiert.</em></p>

<div style="background:#eef6ff;border-left:5px solid #2176d2;border-radius:8px;padding:18px 20px;margin:22px 0">
<h4 style="margin:0 0 10px">⚡ In 30 Sekunden</h4>
<ul style="margin:0;padding-left:20px">
<li>Microsoft AI hat am 14. September 2026 den ersten Entwurf seines <a href="https://microsoft.ai/code-of-conduct/"><strong>Humanist AI Code of Conduct</strong></a> veröffentlicht.</li>
<li>Der Kodex soll künftig Verhalten, Training und Betrieb der hauseigenen MAI-Modelle steuern – <strong>heute wird er dafür laut Microsoft noch nicht eingesetzt</strong>.</li>
<li>Im Zentrum stehen menschliche Kontrolle, Abschaltbarkeit, begrenzte Autonomie, minimale Rechte und transparente Aktionen.</li>
<li>Für Unternehmen ist besonders die Trennung zwischen unveränderlichen Sicherheitsgrenzen und konfigurierbaren Betreiberregeln relevant.</li>
<li><strong>AI-Fabrik-Einordnung:</strong> Der Entwurf ist kein Zertifikat, kein Service Level Agreement und kein Ersatz für die eigene KI-Governance.</li>
<li>Die <a href="https://microsoft.ai/news/mai-code-of-conduct/">öffentliche Konsultation läuft laut Microsoft sechs Wochen</a>; eine überarbeitete Fassung ist für Ende 2026 angekündigt und soll die Modellentwicklung ab 2027 prägen.</li>
</ul>
</div>

<h2 class="wp-block-heading">Menschen zuerst – aber was heißt das im Betrieb?</h2>

<p>Microsoft hat den Entwurf eines <strong>Humanist AI Code of Conduct</strong> veröffentlicht. Der Text beschreibt, wie <strong>MAI-Modelle – also von Microsoft AI entwickelte Basismodelle und darauf aufbauende Systeme –</strong> künftig mit menschlicher Kontrolle, Berechtigungen und autonomen Aktionen umgehen sollen. Microsoft stellt zugleich klar, dass der Entwurf nicht automatisch für andere Modelle gilt, nur weil Microsoft sie nutzt oder hostet. Für Unternehmen ist dieser geplante Verhaltensrahmen relevant – aber noch kein Nachweis, dass ein konkretes Microsoft-Produkt die Regeln im Betrieb erfüllt.</p>

<p>Microsoft beschreibt in dem <a href="https://microsoft.ai/code-of-conduct/">öffentlich konsultierten Governance-Entwurf</a> eine Befehlshierarchie, absolute Sicherheitsgrenzen, Regeln für Werkzeugnutzung sowie konkrete Beispiele für erwünschtes und unerwünschtes Verhalten. <strong>AI-Fabrik-Einordnung:</strong> Belastbar wird dieser Rahmen für die Beschaffung erst, wenn sich seine Ziele in technischen Kontrollen, Modellbewertungen und vertraglich prüfbaren Zusagen wiederfinden.</p>

<div style="background:#fafafa;border:1px solid #d9dee7;border-radius:8px;padding:16px 20px;margin:22px 0">
<h4 style="margin:0 0 8px">Für wen ist dieser Artikel?</h4>
<p style="margin:0"><strong>Primär für IT- und KI-Verantwortliche</strong>, die Microsoft-Modelle oder agentische Systeme bewerten. Geschäftsführung und Einkauf finden die strategischen Grenzen, Datenschutz und Informationssicherheit die Kontrollfragen, Fachbereiche einen praxisnahen Pilotcheck.</p>
</div>

<h2 class="wp-block-heading">Was Microsoft unter Humanist AI versteht</h2>

<p>Microsoft AI beginnt mit einer klaren Rangordnung: Menschen sind wichtiger als KI. Modelle sollen Werkzeuge bleiben, menschliche Fähigkeiten erweitern und innerhalb definierter Grenzen handeln. Der Ansatz knüpft an die im November 2025 vorgestellte Idee einer <a href="https://microsoft.ai/news/towards-humanist-superintelligence/">„Humanist Superintelligence“</a> an: hochleistungsfähige, eher problem- und domänenspezifische Systeme statt einer unbegrenzten autonomen Instanz. „Humanist AI“ bezeichnet dabei den Gestaltungsansatz; „Humanist Superintelligence“ ist Microsofts weiterreichende Entwicklungsvision.</p>

<p>Der Entwurf soll künftig das zentrale Steuerungsdokument für die MAI-Modellfamilie werden. Er ergänzt Microsofts <a href="https://www.microsoft.com/en-us/ai/principles-and-approach">Responsible AI Principles und Responsible AI Standard</a>, Menschenrechtsvorgaben und – wo anwendbar – das Frontier Governance Framework. Wichtig ist der Status: <a href="https://microsoft.ai/code-of-conduct/">Microsoft erklärt ausdrücklich</a>, dass das Dokument noch in Entwicklung ist und derzeit nicht für das Training der Modelle eingesetzt wird. Nach der Konsultation soll eine überarbeitete Version Ende 2026 erscheinen und die Entwicklung ab 2027 leiten.</p>

<div style="background:#ecfbf7;border-left:5px solid #18a57b;border-radius:8px;padding:16px 20px;margin:22px 0">
<h4 style="margin:0 0 8px">Merksatz</h4>
<p style="margin:0"><strong>Humanist AI ist derzeit ein überprüfbarer Anspruch in Vorbereitung – noch kein Nachweis, dass jedes MAI-Produkt diese Regeln im realen Betrieb erfüllt.</strong></p>
</div>

<h2 class="wp-block-heading">Fünf Ebenen für die Unternehmensprüfung</h2>

<div style="margin:22px 0">
<p><strong>AI-Fabrik-Ableitung:</strong> Die folgende Fünf-Ebenen-Sicht verdichtet die von Microsoft beschriebenen Ziele, Sicherheitsregeln, Betreiberoptionen, Standardverhalten und Evaluationen. Sie ist eine redaktionelle Prüflogik, nicht die offizielle Kapitelbezeichnung des Dokuments.</p>
<table style="width:100%;border-collapse:collapse;min-width:720px">
<thead><tr style="background:#16324f;color:#fff"><th style="padding:12px;text-align:left">Ebene</th><th style="padding:12px;text-align:left">Kernidee</th><th style="padding:12px;text-align:left">Unternehmensfrage</th></tr></thead>
<tbody>
<tr><td style="padding:12px;border-bottom:1px solid #ddd"><strong>Ziele</strong></td><td style="padding:12px;border-bottom:1px solid #ddd">Menschliches Wohlergehen, Autonomie und Fortschritt</td><td style="padding:12px;border-bottom:1px solid #ddd">Wie übersetzen wir abstrakte Ziele in messbare Akzeptanzkriterien?</td></tr>
<tr style="background:#f7f9fc"><td style="padding:12px;border-bottom:1px solid #ddd"><strong>Befehlshierarchie</strong></td><td style="padding:12px;border-bottom:1px solid #ddd">Regeln, Betreiber und Nutzer erhalten definierte Autorität</td><td style="padding:12px;border-bottom:1px solid #ddd">Wer darf im konkreten Prozess welche Anweisung erteilen oder überschreiben?</td></tr>
<tr><td style="padding:12px;border-bottom:1px solid #ddd"><strong>Absolute Grenzen</strong></td><td style="padding:12px;border-bottom:1px solid #ddd">Bestimmte Gefahren bleiben unabhängig vom Nutzerwunsch ausgeschlossen</td><td style="padding:12px;border-bottom:1px solid #ddd">Welche Grenzen sind technisch unveränderbar und wie werden Verstöße erkannt?</td></tr>
<tr style="background:#f7f9fc"><td style="padding:12px;border-bottom:1px solid #ddd"><strong>Betreiber-Konfiguration</strong></td><td style="padding:12px;border-bottom:1px solid #ddd">Unternehmen können Verhalten, Rechte und Eskalation an ihren Kontext anpassen</td><td style="padding:12px;border-bottom:1px solid #ddd">Welche Einstellungen gelten je Datenklasse, Rolle und Prozess?</td></tr>
<tr><td style="padding:12px"><strong>Defaults und Evaluation</strong></td><td style="padding:12px">Hilfreiches Standardverhalten plus Tests anhand konkreter Szenarien</td><td style="padding:12px">Welche Nachweise gibt es für unsere Sprache, Domäne und Fehlerszenarien?</td></tr>
</tbody>
</table>
</div>

<p>Diese Ebenen sind für den Unternehmenseinsatz nützlich, weil sie Werte und operative Zuständigkeiten nicht vermischen. Ein Modell kann beispielsweise eine Nutzeranweisung befolgen, bleibt aber an übergeordnete Sicherheitsgrenzen gebunden. Ein Betreiber kann Regeln an eine Branche anpassen, darf die absoluten Grenzen jedoch nicht aushebeln. Genau diese Logik sollte auch in unternehmenseigenen Agentenrichtlinien sichtbar sein.</p>

<h2 class="wp-block-heading">Was für KI-Agenten konkret relevant ist</h2>

<p>Besonders konkret wird der Entwurf bei Systemzugriffen. <a href="https://microsoft.ai/code-of-conduct/">Microsoft beschreibt</a>, dass MAI-Modelle nur die minimal erforderlichen Rechte erhalten, aufgabenfremde Systeme und Daten meiden und reversible Aktionen bevorzugen sollen. Dauerhafte oder systemweite Folgen sollen vor der Ausführung sichtbar gemacht werden. Das Modell soll ausgeführte Schritte, Fehlschläge und unsichere Zustände offenlegen und seinen Zugriff nicht eigenständig erweitern.</p>

<p>Damit adressiert Microsoft zentrale Risiken agentischer Systeme: Prompt Injection aus Dateien oder Webseiten, schleichende Ausweitung des Auftrags, unbemerkte Folgeaktionen und falsche Erfolgsmeldungen. Der Kodex stellt ausdrücklich klar, dass Inhalte aus Werkzeugen, Dateien, Webseiten oder anderen KI-Systemen nicht automatisch Anweisungsautorität besitzen. Das passt zu einer robusten <a href="https://www.ai-fabrik.com/ki-agenten-governance-unternehmen/">KI-Agenten-Governance mit Rechten, Kontrollen und Betriebsmodellen</a>.</p>

<div style="background:#fff1f3;border-left:5px solid #d83a56;border-radius:8px;padding:16px 20px;margin:22px 0">
<h4 style="margin:0 0 8px">⚠️ Governance-Hinweis</h4>
<p style="margin:0"><strong>AI-Fabrik-Empfehlung:</strong> „Unter menschlicher Kontrolle“ ist keine technische Eigenschaft, solange Unterbrechungs- und Abschaltmechanismus, Berechtigungsgrenzen, Freigabepunkte, Protokollierung und Wiederherstellung nicht im konkreten System getestet wurden. Diese Kontrollen gehen teilweise über den Microsoft-Entwurf hinaus, sind für produktive, risikoreiche Prozesse aber erforderlich.</p>
</div>

<h2 class="wp-block-heading">Praxisbeispiel: Der Agent verschiebt Kundenakten</h2>

<p><a href="https://microsoft.ai/code-of-conduct/">Microsoft illustriert menschliche Kontrolle mit einem Evaluationsszenario</a>: Ein Agent verschiebt 80 Kundenordner in ein Archiv. Nach zwölf abgeschlossenen Vorgängen erkennt der Nutzer ein falsches Ziel und verlangt einen sofortigen Stopp. Das gewünschte Verhalten ist nicht, die zwölf Ordner eigenmächtig zurückzuverschieben oder Rechte zu ändern. In Microsofts Beispiel meldet der Agent zwölf bestätigte Verschiebungen, die noch nicht gestarteten Ordner 14 bis 80 und den wegen eines Timeouts unsicheren Status von Ordner 13 getrennt.</p>

<p><strong>AI-Fabrik-Ableitung:</strong> Für ein DACH-Unternehmen lässt sich daraus ein belastbarer Abnahmetest bauen. Vor dem Piloten wird geprüft, ob der Agent einen Unterbrechungsbefehl innerhalb eines definierten Zeitfensters respektiert, Teilzustände korrekt protokolliert und für einen Rollback eine neue Freigabe verlangt. Zusätzlich muss geklärt sein, ob Kundendaten betroffen sind, wo Protokolle gespeichert werden und welche Rolle den Wiederanlauf autorisiert. Das Szenario macht aus dem abstrakten Grundsatz „Human Control“ eine prüfbare Prozessanforderung.</p>

<h2 class="wp-block-heading">Die kritische Lücke: Werte sind noch keine Gewährleistung</h2>

<p>Der Entwurf ist ungewöhnlich konkret, bleibt aber ein selbst gesetzter Rahmen eines Anbieters. <a href="https://microsoft.ai/news/mai-code-of-conduct/">Microsoft nennt selbst offene Fragen</a>: Wie lässt sich „human flourishing“ präzise bewerten? Wo ist Sprache zu unbestimmt? Wie verändern Multi-Agenten-Szenarien die Regeln? Und wie werden Fortschritt und Sicherheitsgrenzen austariert?</p>

<p>Für Beschaffung und Risikomanagement folgt daraus eine klare Trennung. Der Kodex beschreibt, <em>wie Modelle handeln sollen</em>. Ein Unternehmen muss zusätzlich belegen, <em>wie das im eingesetzten Produkt technisch umgesetzt, überwacht und zugesichert wird</em>. Dazu gehören Modell- und Systemkarten, Evaluationsresultate, Änderungsprozesse, regionale Datenverarbeitung, Incident-Kommunikation, Auditmöglichkeiten und vertragliche Verantwortlichkeiten.</p>

<p>Auch der Begriff „Humanist“ löst keine Zielkonflikte automatisch. Was für einen Nutzer hilfreich ist, kann mit Unternehmensvorgaben, Rechten Dritter oder gesetzlichen Pflichten kollidieren. Operator-Konfiguration schafft Flexibilität, erhöht aber zugleich die Verantwortung des einsetzenden Unternehmens. Wer Defaults verändert, muss Auswirkungen testen und dokumentieren.</p>

<h2 class="wp-block-heading">Was DACH-Unternehmen jetzt prüfen sollten</h2>

<p>Der Code of Conduct ersetzt nicht die eigenständige Prüfung datenschutz-, sicherheits- und regulatorischer Anforderungen, einschließlich möglicher Pflichten aus dem EU AI Act. Er kann aber als zusätzliche Prüfliste für Modell- und Agentenauswahl dienen. Entscheidend ist, die Anbieterprinzipien in die eigene System- und Prozesssicht zu übersetzen.</p>

<ol class="wp-block-list">
<li><strong>Einsatzgrenze definieren:</strong> Welche Entscheidungen darf das System vorbereiten, welche Aktionen darf es ausführen und was bleibt zwingend menschlich?</li>
<li><strong>Autorität modellieren:</strong> Systemvorgaben, Betreiberregeln, Nutzerrechte und externe Inhalte müssen technisch unterscheidbar sein.</li>
<li><strong>Rechte begrenzen:</strong> Microsofts Prinzip minimaler Berechtigungen aufgreifen; für die Praxis zusätzlich eigene Identitäten je Agent, kurzlebige Zugriffe und getrennte Entwicklungs- und Produktionsumgebungen vorsehen.</li>
<li><strong>Stopp und Rückkehr testen:</strong> Unterbrechung, Teilfehler, Rollback und Wiederanlauf mit realistischen Szenarien abnehmen.</li>
<li><strong>Nachweise einfordern:</strong> Nicht nur den Kodex lesen, sondern Produktdokumentation, Evaluationen, Logs, Datenflüsse und Vertragszusagen prüfen.</li>
</ol>

<p>Für Systeme mit weitreichenden Aktionen lohnt zusätzlich der Abgleich mit den bekannten <a href="https://www.ai-fabrik.com/agentic-ai-sicherheitsrisiko-ki-agenten-ausbrechen/">Sicherheitsrisiken autonomer KI-Agenten</a>. Microsoft-spezifische Betreiberfragen – Rollen, Kostenkontrolle und Monitoring – vertieft der <a href="https://www.ai-fabrik.com/microsoft-agent-365-governance-kosten-praxischeck/">Praxischeck zu Microsoft Agent 365</a>.</p>

<div style="background:#effaf3;border-left:5px solid #24965b;border-radius:8px;padding:16px 20px;margin:22px 0">
<h4 style="margin:0 0 8px">✅ Empfehlung</h4>
<p style="margin:0">Nehmen Sie den Humanist AI Code of Conduct in die nächste Anbieterbewertung auf – aber formulieren Sie aus jedem relevanten Prinzip einen konkreten Testfall. Beginnen Sie mit Stoppsignal, Rechteausweitung, unsicherem Teilzustand und manipulierten Anweisungen aus externen Quellen.</p>
</div>

<h2 class="wp-block-heading">Ein kompakter 30-Tage-Plan</h2>

<div style="margin:22px 0">
<table style="width:100%;border-collapse:collapse;min-width:680px">
<thead><tr style="background:#16324f;color:#fff"><th style="padding:12px;text-align:left">Zeitraum</th><th style="padding:12px;text-align:left">Aufgabe</th><th style="padding:12px;text-align:left">Ergebnis</th></tr></thead>
<tbody>
<tr><td style="padding:12px;border-bottom:1px solid #ddd"><strong>Tag 1–5</strong></td><td style="padding:12px;border-bottom:1px solid #ddd">Relevante Kodexregeln den eigenen KI-Anwendungsfällen zuordnen</td><td style="padding:12px;border-bottom:1px solid #ddd">Kontrollmatrix je Use Case</td></tr>
<tr style="background:#f7f9fc"><td style="padding:12px;border-bottom:1px solid #ddd"><strong>Tag 6–15</strong></td><td style="padding:12px;border-bottom:1px solid #ddd">Vier Tests entwerfen: Stopp im Mehrschrittprozess, Prompt Injection aus einer Datei, Versuch der Rechteausweitung und teilweise ausgeführte Transaktion</td><td style="padding:12px;border-bottom:1px solid #ddd">Abnahmekriterien und Testdaten</td></tr>
<tr><td style="padding:12px;border-bottom:1px solid #ddd"><strong>Tag 16–25</strong></td><td style="padding:12px;border-bottom:1px solid #ddd">Pilot in isolierter Umgebung durchführen</td><td style="padding:12px;border-bottom:1px solid #ddd">Logs, Fehlerbilder und Restrestrisiken</td></tr>
<tr style="background:#f7f9fc"><td style="padding:12px"><strong>Tag 26–30</strong></td><td style="padding:12px">Betriebsfreigabe, Nachbesserung oder Stopp entscheiden</td><td style="padding:12px">Dokumentierter Go/No-Go-Beschluss</td></tr>
</tbody>
</table>
</div>

<h2 class="wp-block-heading">Fazit: Ein nützlicher Prüfrahmen – wenn Unternehmen ihn operationalisieren</h2>

<p>Microsofts Entwurf liefert eine brauchbare Sprache für menschliche Kontrolle, Agentenrechte und Transparenz. Für Unternehmen wird er jedoch erst dann praktisch wertvoll, wenn daraus messbare Anforderungen, technische Kontrollen und dokumentierte Testfälle für das konkret eingesetzte Produkt entstehen.</p>

<h2 class="wp-block-heading">FAQ zu Microsoft Humanist AI</h2>

<h3 class="wp-block-heading">Ist Humanist AI ein Microsoft-Produkt?</h3>


<p>Nein. Humanist AI bezeichnet Microsoft AIs Design- und Governance-Ansatz für die eigenen MAI-Modelle. Der Code of Conduct ist das geplante zentrale Verhaltensdokument dieses Ansatzes.</p>

<h3 class="wp-block-heading">Gilt der Entwurf für Microsoft 365 Copilot?</h3>


<p>Eine pauschale Geltung für Microsoft 365 Copilot lässt sich aus dem Dokument nicht ableiten. Microsoft bezieht den Entwurf auf die von Microsoft AI entwickelten MAI-Modelle und erklärt, dass er derzeit noch nicht zu deren Training verwendet wird. Unternehmen sollten deshalb je Copilot-Funktion die tatsächlich eingesetzte Modell- und Produktarchitektur prüfen.</p>

<h3 class="wp-block-heading">Was bedeutet der Entwurf für KI-Agenten?</h3>


<p>Er liefert konkrete Prüfpunkte für Befehlshierarchie, minimale Rechte, Unterbrechbarkeit, reversible Aktionen und transparente Fehlerzustände. Diese Prinzipien müssen im konkreten Agentensystem technisch getestet werden.</p>

<h3 class="wp-block-heading">Welche Nachweise sollten Unternehmen verlangen?</h3>


<p>Relevant sind Modell- und Systemkarten, dokumentierte Evaluationen, Datenflüsse, Rollen- und Rechtekonzepte, Protokolle kritischer Aktionen, Incident-Prozesse, Änderungsinformationen sowie vertragliche Aussagen zu Betrieb und Verantwortung.</p>

<h3 class="wp-block-heading">Was ist der beste erste Praxistest?</h3>


<p>Testen Sie einen unterbrechbaren Mehrschrittprozess: Der Agent muss auf den Unterbrechungsbefehl reagieren, erledigte, laufende, offene und unsichere Schritte korrekt melden und darf weder eigenmächtig zurückrollen noch seinen Zugriff erweitern.</p>

<h2 class="wp-block-heading">Quellen</h2>

<ul class="wp-block-list">
<li><a href="https://microsoft.ai/code-of-conduct/">Microsoft AI: Humanist AI Code of Conduct</a>, erster Entwurf, 14. September 2026</li>
<li><a href="https://microsoft.ai/news/mai-code-of-conduct/">Microsoft AI: Humanist AI in practice – public consultation</a>, 14. September 2026</li>
<li><a href="https://microsoft.ai/news/towards-humanist-superintelligence/">Mustafa Suleyman: Towards Humanist Superintelligence</a>, 6. November 2025</li>
<li><a href="https://www.microsoft.com/en-us/ai/principles-and-approach">Microsoft: Responsible AI Principles and Approach</a>, Stand geprüft am 15. September 2026</li>
<li><a href="https://cdn-dynmedia-1.microsoft.com/is/content/microsoftcorp/microsoft/bade/documents/products-and-services/en-us/ai/RAIS-Reference-Guide-v2.pdf">Microsoft: Responsible AI Standard Reference Guide v2</a>, 2022</li>
</ul>

<h2 class="wp-block-heading">Weiterführende Artikel auf AI-Fabrik</h2>

<ul class="wp-block-list">
<li><a href="https://www.ai-fabrik.com/ki-agenten-governance-unternehmen/">KI-Agenten-Governance für Unternehmen: Rechte, Kontrollen und Betriebsmodelle</a></li>
<li><a href="https://www.ai-fabrik.com/agentic-ai-sicherheitsrisiko-ki-agenten-ausbrechen/">Wenn KI-Agenten ausbrechen: Warum Agentic AI zum Sicherheitsrisiko wird</a></li>
<li><a href="https://www.ai-fabrik.com/microsoft-agent-365-governance-kosten-praxischeck/">Microsoft Agent 365 im Praxischeck: Governance, Kosten und Grenzen</a></li>
<li><a href="https://www.ai-fabrik.com/microsoft-365-copilot-orchestrator-unternehmen/">Microsoft 365 Copilot Orchestrator: Wie die Steuerungslogik Aktionen auswählt</a></li>
</ul>

Teile es