# Ampel-Matrix: Was funktioniert, was nicht

Begleit-Spiegel zu *Die KI hinter dem Vorhang*, Kapitel 8.
Companion-Version: 0.1.12 · Buchstand: Oktober 2026 (Ampel-Heuristik im Buch: Stand Mitte 2026).
Konservative Heuristik auf Basis heutiger Frontier-Modelle – Orientierungskarte,
kein Dogma. Einzelne Anbieter oder Versionen können abweichen.
Die Ampel ersetzt keine Freigabe, keinen Vertrag und keine Fachprüfung.

Lesefrage: **Was leistet hier das Modell selbst, was der Harness
(Tools, Schleifen, Memory, Validierung) – und wer prüft?**

## Vier Fragen, eine Zelle

Farbe entsteht aus vier Fragen am **delegierten Schritt**, nicht an der Institution,
in der er vorkommt:

1. **Prüfbarkeit.** Woran erkennen Sie, ob das Ergebnis stimmt – Quelle, Test, Compiler, Akte, Fachperson?
2. **Reversibilität.** Lässt sich der Schritt zurücknehmen, bevor Schaden eintritt?
3. **Schaden.** Was geschieht, wenn der Schritt falsch durchgeht?
4. **Wer prüft?** Rolle, Stelle, Verfahren – namentlich, nicht „es sollte geprüft werden“.

- **Grün:** Prüfung dieses Schritts billig und zuordenbar, Fehler reversibel,
  Schaden begrenzt; ein Prüfer ist benannt und kann in der Taktzeit der Aufgabe handeln.
- **Gelb:** Prüfung möglich, aber teuer oder institutionell – oder nur mit Aufwand
  reversibel. Der Prüfer existiert, ist aber nicht der Autor der Ausgabe.
- **Rot:** Prüfung, Reversibilität oder Schaden *dieses Schritts* kippen – oder niemand
  ist als Prüfer benannt. Hoher Schaden einer Branche färbt einen Unterstützungsschritt
  nicht von allein: Symptomlisten eingrenzen kann gelb sein, die Diagnose unterschreiben bleibt rot.

Eine Zelle ohne die vierte Frage ist unvollständig. „Die KI hat geprüft“ zählt nicht.
Grün ist keine Freigabe.

## Grün – das funktioniert heute exzellent

| Aufgabe | Kurzbegründung |
|---------|----------------|
| Formulieren, Umschreiben, Zusammenfassen, Übersetzen | Trägt vor allem das Modell; Qualität zeigt sich am Text selbst. |
| Brainstorming und Strukturieren | Ideenlieferant, nie Autorität. Mensch filtert. |
| Code-Entwurf mit menschlichem Review | Compiler, Tests, Review machen den Output falsifizierbar. Ohne Review: Gelb/Rot. |
| Text-Extraktion aus gegebenem Kontext | Lokalisieren und umformen, kein Weltwissen nötig. Retrieval und Chunking sind Harness-Arbeit; ohne Prüfung der Extraktion gelb. |
| Tutorielle Erklärungen zu bekanntem Stoff | Variieren und verdichten; geprüft an Grundwissen, Lehrbuch oder Lehrperson. |
| Workflows mit klaren Tools und prüfbaren Outputs | Definierte Eingabe, definierter Werkzeugkasten, prüfbares Ergebnis: Modell, Harness und Mensch machen gemeinsam grün. |

## Gelb – das funktioniert mit Vorsicht

| Aufgabe | Kurzbegründung |
|---------|----------------|
| Recherche | Treffer können stimmen und trotzdem falsch verbunden sein. RAG verschiebt die Grenze, löst sie nicht. Quellen selbst ansehen. |
| Längere Planungsketten | Brauchbare Entwürfe; Fehler pflanzen sich fort. Plan = Diskussionsgrundlage. |
| Medizin, Recht, Finanzen als Unterstützung | Hilfe bei der Recherche, nie die Entscheidung. Haftung trägt das Modell nicht. |

## Rot – hier wird die Luft dünn

| Aufgabe | Kurzbegründung |
|---------|----------------|
| Risikoträchtige Faktenfragen ohne Quelle | Ohne angeschlossene aktuelle Datenbank ist die Antwort Halluzination, keine ärztliche Auskunft. Ohne menschliche Fachentscheidung nicht delegieren. |
| Langfristige Autonomie | Fehler akkumulieren und werden schwer rückholbar. Eng begrenzte Schleifen mit Freigabe: ja. Einrichten und sich selbst überlassen: nein. |
| „Die KI kennt mich“-Beziehung | Memory ist Harness-Memory (gespeicherter Kontext), kein Wissen über Sie und keine Beziehung. |
| Neuartige wissenschaftliche Entdeckung als Erwartung | Literaturübersicht und Hypothesen ja; verlässliche Neuentdeckung aus unbearbeiteten Daten nein. |
| Kausalanalysen aus reinem Text | Plausibler Satz, kein Schluss aus einem Weltmodell. |
| Embodiment | Kein Körper. Physische Intelligenz liegt in Roboter, Simulator, Sensorik. |

## Delegierter Schritt – wer prüft

| Delegierter Schritt | Ampel | Warum (technisch) | Wer prüft |
|---|---|---|---|
| Formulieren / Zusammenfassen | Grün | Qualität zeigt sich am Text selbst | Adressat selbst |
| Code mit Tests | Grün | Compiler und Tests falsifizieren | Compiler, Review, Autor der Änderung |
| Recherche | Gelb | Quellen können stimmen und falsch verbunden sein | Redaktion / Fachstelle |
| Schul-Entwurf (Gliederung, Übungsvarianten) | Grün | Prüfung billig, Schritt reversibel | Lehrkraft |
| Feedback zu Schülertexten | Gelb | Stoff, nicht nur Stil | Lehrkraft |
| Note, Versetzung, Elterngespräch | Rot | institutionelle Entscheidung | Lehrkraft; strittig: Fachkonferenz |
| Bescheidentwurf aus Akte | Grün | Text vs. Fundstelle in der Akte | Sachbearbeitung |
| Verfügung, Bekanntgabe | Rot | irreversibel, Schaden hoch | Sachbearbeitung; Rechtsbehelf |
| Medizin / Recht / Finanzen als Unterstützung | Gelb | Recherche, nicht Entscheidung | Fachperson |
| Dieselbe Domäne: Entscheidung delegieren | Rot | Haftung und Professionsethos | Fachperson; Delegieren bleibt rot |

## Was der Fortschritt nicht zurücksetzt

Der Fortschritt ist real. Die Ampel setzt er nicht in Gänze zurück.
Formulierungsgewinne sitzen eher im Modell; Zuverlässigkeit im Einsatz eher
im Harness und im Prozess. Einzelne Schritte können nach Grün wandern.
Gelb und Rot hängen oft an der Autoregression – oder an fehlender
institutioneller Prüfung. Ein größeres Modell benennt nicht die Lehrkraft
und unterschreibt den Bescheid nicht.

## Operatives Prinzip

Mensch in der Schleife: Prüfbarkeit vor Delegation, Abstufung nach Folgen,
kurze Schleifen (Regel 2: bei Fehler, fehlendem Tool-Ergebnis oder Widerspruch
stoppen, loggen, fragen), Simulation vor Produktion. Die Farbe gilt dem Schritt;
wer prüft, steht in der Zelle, nicht in der Farbe.

## Buch

Kapitel 8 · Abbildungen I-8a, I-8b.
Verwandt: Denk-Checkliste (Epilog), Lese-Checkliste (Kap. 10).