KI-Deskilling: Wenn KI uns besser macht – und wir ohne sie schlechter werden

Warum „Human in the Loop“ kein Sicherheitskonzept ist, solange Unternehmen nicht messen, ob der Mensch noch eingreifen kann

Die Nummer, die das Smartphone vergessen lässt

Ich merke mir Telefonnummern noch auswendig. Nicht viele, aber die wichtigen. Aus Prinzip.

Was bei einer Nummer harmlos ist, beschreibt im Beruf ein wachsendes Risiko: KI-Deskilling – den Abbau menschlicher Fähigkeiten, weil eine Maschine wesentliche Teile einer Aufgabe übernimmt.

Das wirkt heute fast anachronistisch. Das Smartphone speichert Kontakte, das Navi kennt den Weg, der Kalender erinnert an Termine. Inzwischen formuliert KI unsere E-Mails, fasst Dokumente zusammen und schreibt Code. Jede einzelne Abgabe ist bequem. Oft ist sie vernünftig. Warum sollte ein Mensch etwas mühsam selbst erledigen, wenn eine Maschine es schneller und besser kann?

Die Antwort lautet: Er muss es nicht immer selbst erledigen. Aber er sollte wissen, welche Fähigkeit er gerade abgibt – und ob er sie später noch benötigt.

Bei einer Telefonnummer ist der Schaden überschaubar. Bei einer medizinischen Diagnose, einer Kreditentscheidung, einer Qualitätsprüfung oder einem Software-Release ist er es nicht. Dort beruhen viele KI-Strategien auf demselben Versprechen: Die Maschine unterstützt, aber der Mensch behält die Kontrolle. Der „Human in the Loop“ soll Fehler erkennen und im Ernstfall eingreifen.

Doch ein Sicherheitsnetz, das nie gespannt wird, hält nicht, wenn jemand fällt.

Die Darmspiegelungsstudie: besser mit KI, schlechter ohne sie

Bei einer Darmspiegelung können KI-Systeme das Kamerabild in Echtzeit analysieren und verdächtige Stellen markieren. Solche Systeme haben einen belegten Nutzen. Eine 2025 veröffentlichte systematische Übersichtsarbeit mit Metaanalyse ermittelte für KI-assistierte Koloskopien eine um 20 Prozent höhere Adenom-Erkennungsrate und eine deutlich geringere Übersehensrate als bei Untersuchungen ohne Assistenz.

Die interessante Frage lautet jedoch nicht nur: Wie gut sind Ärztinnen und Ärzte mit KI? Sondern auch: Was passiert mit ihrer eigenen Leistung, nachdem die Assistenz Teil des Alltags geworden ist?

Eine im August 2025 online und im Oktoberheft von The Lancet Gastroenterology & Hepatology veröffentlichte Studie untersuchte genau das. Die Forschenden werteten vier Endoskopiezentren in Polen aus. Verglichen wurden 1.443 Darmspiegelungen ohne KI: 795 Untersuchungen in den drei Monaten vor der Einführung des Assistenzsystems und 648 in den drei Monaten danach.

Das Ergebnis: Bei den Untersuchungen ohne KI sank die Adenom-Erkennungsrate von 28,4 auf 22,4 Prozent. Das sind sechs Prozentpunkte weniger – ein relativer Rückgang um rund ein Fünftel. Auch nach statistischer Berücksichtigung mehrerer Einflussfaktoren blieb die vorherige Exposition gegenüber der KI mit einer niedrigeren Erkennungsrate verbunden.

Was die Studie belegt – und was nicht

Die Versuchung ist groß, daraus die Schlagzeile „KI macht Ärzte schlechter“ abzuleiten. Wissenschaftlich wäre das zu grob.

Es handelte sich um eine retrospektive Beobachtungsstudie, nicht um ein Experiment, das individuellen Kompetenzverlust bei jeder beteiligten Person zweifelsfrei nachweist. Verglichen wurden Zeiträume und Untersuchungen, nicht dieselben standardisierten Fälle vor und nach der Einführung. Veränderte Arbeitslast, Patientenzusammensetzung, Ermüdung oder weitere nicht vollständig erfasste Faktoren können das Ergebnis beeinflusst haben.

Die Autorinnen und Autoren formulieren entsprechend vorsichtig: Kontinuierliche KI-Exposition könnte die Qualität nicht assistierter Koloskopien verringern und auf eine negative Veränderung des ärztlichen Verhaltens hindeuten.

Das macht die Studie nicht belanglos. Sie liefert erstmals ein reales, quantitatives Signal für ein Risiko, das in der Automationsforschung seit Jahrzehnten bekannt ist: Wer eine Aufgabe dauerhaft an ein System abgibt, übt die zugrunde liegende Wahrnehmung, Entscheidung oder Handlung seltener. Fällt das System aus oder liegt es falsch, soll ausgerechnet eine weniger geübte Person den seltenen und schwierigen Ausnahmefall erkennen.

Deskilling, Mis-Skilling und Never-Skilling

Für das Problem werden inzwischen drei Begriffe verwendet:

Nicht jede verlorene Fähigkeit ist ein Problem. Kaum ein Unternehmen muss Beschäftigte darin trainieren, mit Papier-Lohnbüchern, Rechenschiebern oder Lochkarten zu arbeiten. Technologie ersetzt Tätigkeiten, und das ist häufig ihr Zweck.

Kritisch wird es, wenn Unternehmen gleichzeitig zwei widersprüchliche Annahmen treffen:

1. Die KI übernimmt den Normalfall so vollständig, dass menschliche Übung kaum noch stattfindet.
2. Der Mensch soll im Fehler-, Grenz- oder Ausfallfall weiterhin als verlässliche letzte Instanz dienen.

Beides zusammen funktioniert nicht automatisch.

Merksatz: Eine Fähigkeit darf bewusst automatisiert und aufgegeben werden. Sie kann aber nicht zugleich verlernt und als belastbare Rückfallebene eingeplant werden.

Warum „Human in the Loop“ oft nur auf dem Prozessbild funktioniert

In Präsentationen sieht menschliche Aufsicht einfach aus: Die KI erzeugt einen Vorschlag, ein Mensch prüft ihn, danach wird entschieden. In der Praxis hängt die Wirksamkeit dieser Kontrolle von mindestens fünf Bedingungen ab.

1. Der Mensch muss den Fehler erkennen können

Wer die Ausgangsdaten nicht sieht, die Fachlogik nicht beherrscht oder nur ein flüssig formuliertes Endergebnis erhält, kann häufig lediglich Plausibilität prüfen. Plausibel klingende Fehler sind aber gerade die gefährlichen.

2. Er muss aufmerksam bleiben

Wenn eine KI hundertmal hintereinander richtigliegt, wird die 101. Freigabe zur Routine. Die Kontrolle wird zum Klick. Dieses Phänomen heißt Automationsbias: Menschen neigen dazu, automatisierten Empfehlungen zu folgen oder eigene widersprechende Hinweise geringer zu gewichten.

3. Er muss widersprechen dürfen

Eine formale Freigabe hilft wenig, wenn Zeitdruck, Leistungskennzahlen oder Hierarchie signalisieren, dass Abweichungen unerwünscht sind. Wer jede Ablehnung ausführlich rechtfertigen muss, die Bestätigung aber nur einen Klick kostet, erhält keine neutrale Kontrollentscheidung.

4. Er braucht Zeit und Informationen

Ein Prüfschritt ist keine wirksame Kontrolle, wenn eine Person in zehn Minuten 80 KI-generierte Fälle freigeben soll. Die Organisation hat dann menschliche Aufsicht etikettiert, aber nicht finanziert.

5. Seine Kompetenz muss erhalten bleiben

Die seltensten Fälle sind oft die schwierigsten. Genau diese Fälle landen beim Menschen, während die Routinefälle – an denen Mustererkennung und Erfahrung wachsen – automatisiert werden. Aufsicht wird dadurch nicht leichter, sondern anspruchsvoller.

Der EU AI Act erkennt dieses Problem ausdrücklich an. Für Hochrisiko-KI verlangt Artikel 14 eine wirksame menschliche Aufsicht. Die damit betrauten Personen sollen die Fähigkeiten und Grenzen des Systems verstehen, Anzeichen von Fehlfunktionen erkennen, Ergebnisse richtig interpretieren, das System überstimmen oder stoppen können und sich der Gefahr des automatischen Übervertrauens bewusst sein. Das ist deutlich mehr als ein Freigabefeld in einer Softwaremaske.

Das Muster zeigt sich auch in der Wissensarbeit

Die medizinische Studie ist besonders anschaulich, weil dort ein messbarer Qualitätsindikator und ein hoher Einsatz zusammenkommen. Für allgemeine Wissensarbeit ist die Datenlage weniger eindeutig – aber sie wächst.

Forschende von Microsoft Research und der Carnegie Mellon University befragten für die CHI-Konferenz 2025 insgesamt 319 Wissensarbeiter zu 936 konkreten KI-Anwendungen im Beruf. Höheres Vertrauen in die KI hing mit weniger selbst berichtetem kritischem Denken zusammen; höheres Vertrauen in die eigene Fachkompetenz dagegen mit mehr kritischer Prüfung. Gleichzeitig verschob sich kritisches Denken: weg von der Erstellung, hin zur Überprüfung und Integration von KI-Ergebnissen.

Das ist keine Messung eines objektiven Intelligenzverlusts. Die Untersuchung beruht auf Selbstauskünften und zeigt Zusammenhänge, keine Kausalität. Für Unternehmen ist der Befund dennoch wichtig: Mit KI verschwindet Denkarbeit nicht. Sie verändert ihren Ort. Beschäftigte müssen Quellen prüfen, Widersprüche erkennen, Ergebnisse in den Kontext einordnen und Verantwortung übernehmen. Wer nur die Produktion beschleunigt, aber diese neuen Prüffähigkeiten nicht aufbaut, spart an der falschen Stelle.

Ein kleiner randomisierter Versuch von Anthropic aus dem Jahr 2026 macht den Zielkonflikt in der Softwareentwicklung greifbar. 52 überwiegend jüngere Entwickler arbeiteten mit oder ohne KI-Unterstützung an einer ihnen unbekannten Python-Bibliothek. Die KI-Gruppe erledigte die Aufgabe im Mittel etwas schneller, der Zeitvorteil war jedoch statistisch nicht signifikant. Im anschließenden Wissenstest erzielte sie durchschnittlich 50 statt 67 Prozent. Besonders groß war die Lücke beim Debugging – also gerade bei der Fähigkeit, fehlerhaften Code zu erkennen und zu verstehen.

Auch hier gelten klare Einschränkungen: kleine Stichprobe, kurzfristiger Test, Preprint und Forschung eines KI-Anbieters. Bemerkenswert war jedoch die qualitative Differenz. Teilnehmende, die vollständige Lösungen delegierten, lernten wenig. Wer die KI für Erklärungen und konzeptionelle Fragen nutzte, schnitt deutlich besser ab.

KI muss nicht dümmer machen

Deskilling ist kein Naturgesetz. Das Design der Arbeit entscheidet.

In drei vorregistrierten Experimenten zur Schreibkompetenz fanden Forschende um Todd Rogers von der Harvard Kennedy School, dass Teilnehmende mit KI-Unterstützung ihre Fähigkeiten stärker verbessern konnten als Vergleichsgruppen ohne KI oder mit anderen Hilfen. Eine mögliche Erklärung: Gute, auf die Aufgabe zugeschnittene Beispiele können Lernen beschleunigen.

Die scheinbar widersprüchlichen Ergebnisse lassen sich auflösen. KI kann zwei sehr verschiedene Rollen übernehmen:

• Krücke: Sie liefert das fertige Ergebnis und minimiert die geistige Auseinandersetzung.
• Coach: Sie erklärt, stellt Rückfragen, zeigt Beispiele und unterstützt den Menschen dabei, selbst ein Urteil zu bilden.

Für kurzfristige Produktivität ist die Krücke oft attraktiver. Für langfristige Kompetenz ist der Coach wertvoller. Gute KI-Einführung optimiert deshalb nicht nur die Bearbeitungszeit, sondern die Kombination aus Leistung, Lernen und Ausfallsicherheit.

Wo Unternehmen besonders genau hinsehen sollten

Nicht jeder Copilot braucht ein aufwendiges Kompetenzerhaltungsprogramm. Entscheidend ist, ob die automatisierte Fähigkeit später noch als Kontrolle oder Rückfalloption gebraucht wird.

Eine einfache Risikofrage lautet:

Wenn die KI morgen für eine Woche ausfällt: Welche Arbeit bleibt sicher möglich, wie stark sinkt die Qualität – und woher wissen wir das?

Wer darauf nur mit Vermutungen antworten kann, hat keinen getesteten Fallback.

DACH-Praxisbeispiel: KI-Sichtprüfung beim Maschinenbauer

Angenommen, ein deutscher mittelständischer Maschinenbauer mit Werken in Deutschland und Österreich führt ein Computer-Vision-System ein. Kameras erkennen Kratzer, fehlerhafte Bohrungen und Oberflächenmängel. Eine Fachkraft bestätigt die markierten Defekte. Die Trefferquote steigt, die Prüfung wird schneller, Ausschuss sinkt. Qualitätsmanagement, IT, Personalentwicklung und Betriebsrat begleiten die veränderte Arbeitsgestaltung.

Nach einem Jahr fällt die Verbindung zum Modellserver aus. Die Belegschaft kann auf manuelle Sichtprüfung umstellen – formal jedenfalls. Praktisch hat das Team aber seit Monaten vor allem markierte Stellen bestätigt. Neue Mitarbeitende haben fehlerfreie und fehlerhafte Teile nie über längere Zeit ohne Vorselektion beurteilt. Seltene Defektarten wurden kaum noch eigenständig gesehen.

Ein belastbares Betriebskonzept würde deshalb nicht erst beim Ausfall reagieren. Es würde bereits im Normalbetrieb Kompetenz erhalten:

• Ein kleiner, wechselnder Anteil der Lose wird zunächst ohne KI-Hinweis geprüft.
• Die menschliche Entscheidung wird vor Einblendung des KI-Ergebnisses dokumentiert.
• Abweichungen zwischen Mensch und Modell werden nach Fehlerklasse ausgewertet.
• Prüfer absolvieren regelmäßig kuratierte Grenzfall-Sets.
• Bei Ausfalltests wird nicht nur die technische Umschaltzeit, sondern auch die manuelle Erkennungsrate gemessen.
• Für kritische Defekte gelten definierte Mindestwerte und Eskalationswege.

So wird aus „Human in the Loop“ eine nachweisbare Kontrollfunktion.

Ein Sieben-Punkte-Plan gegen KI-Deskilling

1. Definieren Sie, welche Fähigkeiten unverzichtbar bleiben

Trennen Sie bewusst zwischen Fähigkeiten, die das Unternehmen vollständig automatisieren und aufgeben darf, und solchen, die als Urteilskompetenz, Kontrolle oder Notbetrieb erhalten bleiben müssen. Diese Entscheidung gehört in die Prozess- und Risikoanalyse.

2. Messen Sie vor dem Rollout eine menschliche Baseline

Wie gut löst das Team die Aufgabe heute – ohne KI? Erfassen Sie Qualität, Zeit, typische Fehler und Unterschiede zwischen Erfahrungsstufen. Ohne Ausgangswert lässt sich später nicht erkennen, ob die gemeinsame Leistung steigt, während die unabhängige Fähigkeit fällt.

3. Lassen Sie Menschen in kritischen Fällen zuerst urteilen

Wer die KI-Empfehlung zuerst sieht, wird davon beeinflusst. Bei hohem Risiko sollte ein unabhängiges Ersturteil vor der KI-Anzeige erwogen werden. Das kostet Zeit und ist nicht für jeden Fall nötig. Es eignet sich besonders für Stichproben, Grenzfälle, Audits und Trainingssituationen.

4. Bauen Sie produktive Reibung ein

Gute Oberflächen maximieren nicht immer den schnellsten Klick. Sie fordern bei kritischen Entscheidungen eine Begründung, zeigen Unsicherheit und Quellen, machen Ablehnung ebenso einfach wie Zustimmung und blenden die KI-Antwort bei ausgewählten Fällen zunächst aus.

5. Trainieren Sie Ausfall und Widerspruch

Führen Sie regelmäßige KI-freie Übungen, simulierte Fehlvorschläge und technische Ausfalltests durch. Messen Sie, ob Beschäftigte falsche Empfehlungen erkennen, das System überstimmen und den Prozess sicher fortführen können.

6. Ändern Sie die Kennzahlen

Eine hohe Zustimmungsrate zur KI ist kein Qualitätsbeweis. Sinnvoller sind Kennzahlen wie Fehlererkennung, Qualität begründeter Overrides, Leistung ohne Assistenz, Bearbeitung von Grenzfällen, Zeit bis zur sicheren Übernahme und Kompetenzentwicklung bei Junioren.

7. Gestalten Sie KI als Lernwerkzeug

Lernmodi, Erklärungen, Gegenfragen und schrittweise Hinweise helfen eher beim Kompetenzaufbau als fertige Lösungen. Für Nachwuchskräfte sollten Aufgaben mit und ohne KI geplant werden. Sonst fehlen später genau die Fachleute, die komplexe Systeme kontrollieren sollen.

DACH-Einordnung: Kompetenz ist Teil der Governance

Seit dem 2. Februar 2025 verpflichtet Artikel 4 des EU AI Act Anbieter und Betreiber von KI-Systemen dazu, Maßnahmen für ein ausreichendes Maß an KI-Kompetenz ihres Personals zu treffen. Dabei sollen unter anderem Vorkenntnisse, Erfahrung, Ausbildung und der Einsatzkontext berücksichtigt werden.

Eine allgemeine Prompt-Schulung erfüllt dieses Ziel in risikoreichen Prozessen kaum. Wer KI beaufsichtigt, braucht mindestens drei Arten von Kompetenz:

• Fachkompetenz, um Fehler inhaltlich zu erkennen,
• Systemkompetenz, um Fähigkeiten, Grenzen und typische Fehlermuster der KI zu verstehen,
• Handlungskompetenz, um Ergebnisse zurückzuweisen, zu eskalieren oder den Betrieb zu stoppen.

Für Hochrisiko-Systeme wird diese Logik in Artikel 14 konkret. Unternehmen sollten deshalb Schulungsnachweise nicht mit tatsächlicher Aufsichtsfähigkeit verwechseln. Entscheidend ist nicht, ob jemand ein Lernmodul abgeschlossen hat, sondern ob die Person unter realistischen Bedingungen richtig eingreifen kann.

Auch der Betriebsrat ist relevant, wenn KI Arbeitsabläufe, Leistungsbewertung, Qualifikationsprofile oder Überwachung verändert. Deskilling ist damit nicht nur ein technisches Risiko. Es berührt Personalentwicklung, Arbeitsgestaltung, Mitbestimmung und die langfristige Beschäftigungsfähigkeit.

FAQ

Macht KI Menschen grundsätzlich weniger kompetent?

Nein. Die Forschung zeigt unterschiedliche Effekte. KI kann vorhandene Leistung verbessern und Lernen unterstützen, etwa durch gute Beispiele oder Erklärungen. Risiken entstehen besonders bei vollständiger Delegation, fehlender Eigenaktivität und dauerhafter Abhängigkeit.

Was ist KI-Deskilling?

KI-Deskilling bezeichnet den Abbau vorhandener Fähigkeiten, weil eine KI wesentliche Teile einer Aufgabe übernimmt und Menschen diese Fähigkeiten seltener anwenden. Davon zu unterscheiden ist Never-Skilling: Neue Beschäftigte erwerben die Fähigkeit gar nicht erst.

Reicht eine menschliche Freigabe für sichere KI?

Nein. Eine Freigabe ist nur wirksam, wenn die prüfende Person fachlich kompetent, aufmerksam, ausreichend informiert, zeitlich handlungsfähig und zum Widerspruch autorisiert ist. Andernfalls entsteht eine Scheinkontrolle.

Muss jede automatisierte Fähigkeit erhalten bleiben?

Nein. Unternehmen dürfen bewusst entscheiden, bestimmte Fähigkeiten nicht mehr vorzuhalten. Dann dürfen sie diese aber nicht zugleich als Notfall- oder Kontrollebene einplanen. Für kritische Prozesse braucht es entweder erhaltene menschliche Kompetenz oder eine andere unabhängige Rückfallebene.

Wie lässt sich Deskilling messen?

Durch wiederholte Tests ohne KI, Blindfälle, simulierte Fehlvorschläge, Ausfallübungen und den Vergleich mit einer Baseline vor Einführung. Gemessen werden sollten nicht nur Geschwindigkeit, sondern Fehlererkennung, Begründungsqualität und sichere Eskalation.

Verbietet der EU AI Act Deskilling?

Der Begriff wird nicht als allgemeines Verbot verwendet. Der AI Act verlangt jedoch KI-Kompetenz nach Artikel 4 und für Hochrisiko-Systeme wirksame menschliche Aufsicht nach Artikel 14. Dazu gehört ausdrücklich das Bewusstsein für automatisches Übervertrauen in Systemausgaben.

Fazit: Das Sicherheitsnetz muss trainiert werden

Die wichtigste KI-Frage lautet nicht, ob Menschen oder Maschinen besser sind. In vielen Aufgaben wird die stärkste Leistung aus ihrer Zusammenarbeit entstehen.

Die wichtigere Frage ist, wie diese Zusammenarbeit den Menschen verändert.

Wenn KI Routine übernimmt, kann sie Fehler reduzieren, Zeit sparen und Fachkräfte entlasten. Gleichzeitig nimmt sie ihnen Übungsgelegenheiten. Das ist vertretbar, solange die abgegebene Fähigkeit nicht mehr gebraucht wird. Es wird gefährlich, wenn derselbe Mensch, der im Alltag kaum noch selbst urteilt, plötzlich die seltene Fehlentscheidung der Maschine erkennen soll.

„Human in the Loop“ ist deshalb keine Rolle im Organigramm und kein Häkchen in einer Freigabemaske. Es ist eine Fähigkeit, die gemessen, geübt und organisatorisch geschützt werden muss.

Die Zukunft gehört nicht Unternehmen, deren Beschäftigte alles weiterhin von Hand erledigen. Sie gehört aber auch nicht denen, die menschliche Kompetenz möglichst schnell aus dem Prozess entfernen. Sie gehört Organisationen, die sehr bewusst entscheiden, was Maschinen übernehmen dürfen – und was Menschen weiterhin können müssen.

Denn dass die KI irrt, ist keine Frage des Ob, sondern des Wann. Ob dann noch jemand eingreifen kann, entscheidet sich lange vorher.

Weiterlesen auf AI-Fabrik

• AI Skills & Technologies Map: Ein Reifegradmodell für KI-Kompetenzen im Unternehmen
• Datenschutz & KI-Recht: DSGVO, EU AI Act und Datensouveränität
• Codex jenseits von Code: Warum KI-Agenten jetzt den Arbeitsalltag erobern

Nichts verpassen: Tragen Sie sich für den AI-Fabrik-Newsletter ein und erhalten Sie praxisnahe Analysen zu Enterprise-KI, Governance und Arbeitsgestaltung direkt ins Postfach.

Quellen

• Budzyń et al.: Endoscopist deskilling after exposure to artificial intelligence in colonoscopy, The Lancet Gastroenterology & Hepatology (2025)
• Lui et al.: Use of artificial intelligence improves colonoscopy performance in adenoma detection – systematische Übersichtsarbeit und Metaanalyse (2025)
• Heudel et al.: Artificial intelligence in medicine – Scoping Review zu Deskilling und Expertiseverlust (2026)
• Lee et al.: The Impact of Generative AI on Critical Thinking, CHI 2025
• Shen und Tamkin: How AI Impacts Skill Formation (Anthropic, Preprint, 2026)
• Lira et al.: Coach not crutch – AI assistance can enhance rather than hinder skill development (2025)
• EU-Verordnung 2024/1689 – EU AI Act, insbesondere Artikel 4 und 14