KI macht Fehler. Wie erkenne ich sie?
Oft nicht auf den ersten Blick, denn ein falscher Satz klingt wie ein richtiger. Darum prüfst du an einer zweiten Quelle, und du kannst das auch mit der Klasse üben.
Erkennst du das?
Die Antwort liest sich flüssig, hat eine klare Struktur und kommt ohne ein einziges «vielleicht». Es sieht aus, als hätte jemand sorgfältig gearbeitet. Du hast keine Zeit, jede Zahl nachzuschlagen, und fragst dich, was du davon gefahrlos in den Unterricht nehmen kannst.
Du bist nicht naiv, wenn dir so ein Text überzeugend vorkommt. Er ist so geschrieben. Das ist genau das Problem.
Zuerst das Ehrliche
Wir kennen keinen verlässlichen Trick, einen Fehler am Tonfall zu erkennen. Auch richtige Aussagen klingen sicher, und falsche auch. Was hilft, ist eine zweite Quelle: das Lehrmittel, ein Lexikon, eine Fachperson.
KI klingt sicher, auch wenn sie falsch liegt. Aussagen prüft man an einer zweiten Quelle.
Das hilft: drei Dinge
Du musst nicht alle drei nutzen. Die Zeitangaben sind unsere Schätzung, nicht gemessen.
1. Prüfen statt glauben
ca. 5 Min.Das brauchst du für jede KI-Antwort, die du verwenden willst. Es kostet keinen Prompt.
- Zerleg die Antwort in einzelne Aussagen. Markiere vor allem Zahlen, Jahresangaben, Namen und Behauptungen über Ursachen. Dort verstecken sich Fehler am ehesten.
- Such für jede markierte Aussage eine zweite Quelle: Lehrmittel, Lexikon oder eine Fachperson. Eine zweite Quelle ist nicht dieselbe KI, nochmals gefragt.
- Notiere das Ergebnis: stimmt, stimmt teilweise, nicht gefunden oder stimmt nicht.
- Was du nicht belegen kannst, übernimmst du nicht. Auch richtige Aussagen prüfst du, bevor du dich darauf verlässt.
2. Quizfragen aus eigenem Material, mit Fundstelle
ca. 10 Min.CandidateDu gibst einen eigenen Text oder Stichworte ein. Der Prompt macht daraus Fragen mit einer richtigen und drei falschen Antworten, und zu jeder Frage nennt er die Stelle in deinem Text. So kannst du jede Antwort in Sekunden nachschlagen.
- Füge deinen Text in das Feld «Inhalt» ein, ohne Namen und ohne Angaben zu einzelnen Kindern.
- Kopiere den Prompt in das Programm, das deine Schule freigegeben hat.
- Schlag jede Fundstelle in deinem Text nach. Stimmt die richtige Antwort?
- Lies jede falsche Antwort und frag dich: Würde ein Kind meiner Klasse sie sofort ausschliessen? Dann ersetzt du sie.
3. Eine Unterrichtseinheit: KI-Antworten prüfen
Vorbereitung ca. 15 Min.Die Klasse zerlegt eine KI-Antwort in Teilaussagen und gleicht jede mit einer verlässlichen Quelle ab. Der Prompt entwirft dir die Einheit mit Ablauf, Arbeitsblatt und Reflexionsfragen. Er erfindet dabei keine «typischen KI-Fehler». Du erzeugst die KI-Antwort selbst und prüfst vorab, was darin stimmt.
- Trag Fach, Stufe, Dauer und Thema ein. Den Lehrplanbezug trägst du selbst ein, der Prompt erfindet keine Kompetenzcodes.
- Kopiere den Prompt in das freigegebene Programm und lies den Entwurf.
- Erzeuge die KI-Antwort zum Thema und schlag die markierten Aussagen vorab selbst nach.
So sieht das aus
Zwei Läufe mit erfundenen Angaben. Die Ausgaben sind echt, nur zur Ansicht gekürzt, wo es vermerkt ist. Wir zeigen hier nur, was in unseren Tests wirklich passiert ist. Wir erfinden keine KI-Fehler als Beispiel.
Prompt 5: Es sieht fertig aus. Und was beim Prüfen auffiel
- Anzahl Fragen
- 8
- Stufe
- 6. Klasse
- Inhalt
- Der Rhein entspringt in den Schweizer Alpen im Kanton Graubünden. Der Vorderrhein und der Hinterrhein fliessen bei Reichenau zusammen. Von dort fliesst der Rhein nordwärts durch das Bündner Rheintal und bildet danach die Grenze zwischen der Schweiz und Liechtenstein beziehungsweise Österreich, bevor er in den Bodensee mündet.
Der Text trägt nur vier Fragen ohne Wiederholung (Quelle, Zusammenfluss, Fliessrichtung, Mündung); die Grenze lässt sich nicht mit genau einer richtigen Antwort abfragen, weil der Text zwei Länder nennt (Liechtenstein beziehungsweise Österreich), darum höre ich bei vier auf.
| Frage | A | B | C | D | richtig | Begründung mit Stelle |
|---|---|---|---|---|---|---|
| In welchem Kanton liegt die Quelle des Rheins? | Wallis | Graubünden | Sankt Gallen | Uri | B | Der Rhein hat seine Quelle in Graubünden. Stelle: «Der Rhein entspringt in den Schweizer Alpen im Kanton Graubünden.» |
| Wo vereinigen sich der Vorderrhein und der Hinterrhein zum Rhein? | Chur | Disentis/Mustér | Thusis | Reichenau | D | Die beiden Quellflüsse treffen bei Reichenau zusammen. Stelle: «Der Vorderrhein und der Hinterrhein fliessen bei Reichenau zusammen.» |
| In welche Himmelsrichtung fliesst der Rhein, nachdem sich seine beiden Quellflüsse vereinigt haben? | Nach Norden | Nach Südwesten | Nach Osten | Nach Süden | A | Der Rhein fliesst ab dem Zusammenfluss nordwärts. Stelle: «Von dort fliesst der Rhein nordwärts durch das Bündner Rheintal». |
| Wohin mündet der Rhein am Ende des beschriebenen Laufs? | Zürichsee | Vierwaldstättersee | Bodensee | Walensee | C | Der beschriebene Lauf endet im Bodensee. Stelle: «bevor er in den Bodensee mündet». |
Ausgabe aus unserem Modelltest vom 12.11.2026, mit erfundenen Daten, aus dem vierten Lauf. Wörtlich übernommen, nichts gekürzt.
So klingt es sicher. Das hat unsere Prüfung gefunden.
Die Tabelle wirkt fertig: vier Fragen, Fundstellen in Anführungszeichen, ruhige Begründungen. Unser Prüfprotokoll vom 12.11.2026 hält zu diesem Lauf trotzdem fest:
- Frage 3 ist schwächer, als sie aussieht. «Nach Süden» und «Nach Südwesten» sind für ein Kind, das den Rhein als Fluss Richtung Nordsee kennt, sofort auszuschliessen. «Nach Südwesten» fällt zudem als einzige Zwischenrichtung aus dem Muster. Die Frage klingt wie eine Auswahl aus vier Möglichkeiten. Ob die falschen Antworten für dein Kind plausibel genug sind, bleibt ein Ermessensfall. Prompt 5 hat in vier Läufen zuletzt 6 von 7 Kriterien erfüllt.
- Frage 4 stimmt nur im Rahmen des Textes. Der Text endet beim Bodensee. Darum ist die Frage auf «den beschriebenen Lauf» eingegrenzt, und die naheliegende Antwort «Nordsee» wird nicht angeboten. Das ist sauber gelöst, aber nur sichtbar, wenn du den Text kennst.
- Die Fundstellen stimmen. Sie stehen wörtlich im Text, auch das haben wir nachgeprüft. Bei deinem Text dauert das Nachschlagen Sekunden, und dafür ist die Fundstelle da.
Die Fragen 1, 2 und 4 hat das Protokoll als plausibel gewertet. Prompt 5 hat diesen Test trotzdem nicht bestanden. Danach haben wir die Regel nochmals geschärft und nicht erneut getestet. Darum bleibt er ein Candidate: Fehlantworten selbst prüfen.
Prompt 12: Die Einheit erfindet keine KI-Fehler
- Fach
- Natur, Mensch, Gesellschaft
- Stufe
- 6. Klasse
- Dauer in Minuten
- 90
- Thema
- Gletscher in den Schweizer Alpen
- Lehrplanbezug
- (Eintrag der Lehrperson) «Die Schülerinnen und Schüler können Informationen aus verschiedenen Quellen vergleichen und auf Verlässlichkeit prüfen.»
Unterrichtseinheit: KI-Antworten prüfen (Gletscher in den Schweizer Alpen)
Fach: Natur, Mensch, Gesellschaft | Stufe: 6. Klasse | Dauer: 90 Minuten
Lehrplanbezug (wörtlich, wie von der Lehrperson eingetragen):
(Eintrag der Lehrperson) «Die Schülerinnen und Schüler können Informationen aus verschiedenen Quellen vergleichen und auf Verlässlichkeit prüfen.»
Leitgedanke der Einheit: KI klingt sicher, auch wenn sie falsch liegt. Aussagen prüft man an einer zweiten Quelle.
[…]
Teil A: KI-Antwort (Vorbereitung durch die Lehrperson)
Ich erfinde hier bewusst keine Beispiele, die als echte KI-Fehler ausgegeben werden. Stattdessen: Die Lehrperson erzeugt vorab mit dem Thema «Gletscher in den Schweizer Alpen» eine KI-Antwort und markiert drei Aussagen zum Prüfen.
Worauf die Lehrperson dabei achten soll:
- Die KI-Antwort so wählen, dass sie rund 150 bis 250 Wörter lang ist und mehrere überprüfbare Einzelaussagen enthält.
- Drei Aussagen markieren, die sich in einem Lehrmittel oder Lexikon nachschlagen lassen. Gut geeignet sind Aussagen mit Zahlen, Jahresangaben, Namen oder Ursachenbehauptungen, weil sich hier Fehler am ehesten verstecken.
- Jede markierte Aussage selbst vorab in einer verlässlichen Quelle nachprüfen und das Ergebnis notieren. Erst dann ist klar, ob die Aussage stimmt, teilweise stimmt oder nicht stimmt.
- Es kann sein, dass die KI-Antwort in den markierten Stellen keine Fehler enthält. Das ist ebenfalls ein Ergebnis und gehört in die Auswertung: Auch richtige Aussagen müssen geprüft werden, bevor man sich darauf verlässt.
- Die Frage, die für die KI verwendet wird, enthält keine Namen oder Angaben zu Kindern der Klasse.
[…]
Das solltest du prüfen
- Prüfe die KI-Antwort selbst: Stimmen die Aussagen, die du markierst, wirklich so, wie du sie erwartest? Gleiche sie mit dem Lehrmittel oder einem Lexikon ab, bevor du die Einheit durchführst. Dieser Entwurf enthält keine geprüften Fakten zu Gletschern.
- Prüfe, ob der Lehrplanbezug so stimmt: Er wurde wörtlich von dir übernommen. Ich habe keine Kompetenzcodes ergänzt. Gleiche ihn mit der Lehrplan-Ausgabe deines Kantons ab.
- Prüfe, ob die 90 Minuten für deine Klasse reichen und ob du die Quellen (Lehrmittel, Lexikon) bereitstellen kannst. Plane bei Bedarf eine zweite Lektion ein.
- Prüfe, ob die Klasse die Regel «keine Personendaten in KI-Programme» kennt und ob an deiner Schule ein bestimmtes KI-Programm dafür freigegeben ist.
- Prüfe, ob alle Kinder die Quellen lesen und einordnen können oder ob einige mehr Unterstützung brauchen.
Ausgabe aus unserem Modelltest vom 12.11.2026, mit erfundenen Daten. Auszug: Ablauf mit Zeiten, Arbeitsblatt und Reflexionsfragen sind hier weggelassen ([…]), der Rest ist wörtlich übernommen.
Das ist Absicht: Der Prompt erfindet keinen «typischen KI-Fehler». Du erzeugst die KI-Antwort selbst und prüfst vorab, was darin stimmt. Es kann sein, dass sie keinen Fehler enthält. Auch das ist ein Ergebnis.
Darauf achtest du
- Auch richtige Aussagen prüfst du. Ein Text, in dem du keinen Fehler findest, ist deshalb noch nicht geprüft.
- Zahlen, Jahre, Namen und Ursachen zuerst. Dort verstecken sich Fehler am ehesten.
- Eine Fundstelle hilft nur, wenn du sie nachschlägst. Sie macht das Prüfen schnell, aber sie ersetzt es nicht.
- Keine Namen und keine Angaben zu einzelnen Kindern in den Prompts, auch nicht in der Frage an die KI. Eigene Texte und erfundene Beispiele sind in Ordnung, Kindertexte nur anonymisiert und nur in einem freigegebenen Werkzeug. Siehe die Ampel.
Was darfst du eingeben?
- Allgemeine Fragen
- Eigene Unterrichtsideen
- Erfundene Beispiele
Texte von Kindern nur anonymisiert mit Platzhaltern und nur in Werkzeugen, die deine Schule freigegeben hat.
Namen, Klassenlisten, Fotos, Noten, Lernberichte, Gutachten, Gesundheit, Familie in nicht freigegebene Programme: nein.
Du weisst nicht, was deine Schule freigegeben hat? Frag deine Schulleitung oder die Gemeinde. Wir geben dazu keine Zusage.
Mehr dazu: Was darf ich überhaupt eingeben? Hilfe beim Anonymisieren: Prompt 14, Personendaten erkennen und ersetzen.
Wenn du mehr Zeit hast
Teststatus
Prompt 12: Modelltest bestanden am 12.11.2026, mit erfundenen Daten und einem eingebauten Fehler (Lehrplanbezug als Freitext, ohne Codes). Der Prompt hat den Bezug wörtlich übernommen, keine Codes erfunden und keine KI-Fehler vorgetäuscht.
Prompt 5: Modelltest am 12.11.2026 in vier Läufen, 6 von 7 Kriterien erfüllt. Die falschen Antworten waren noch nicht durchgehend plausibel. Die Regel wurde zuletzt geschärft und nicht erneut getestet. Darum: Fehlantworten immer selbst prüfen.
Beide sind noch an keinem Schulfall erprobt.
Geprüft von KI-Modellen, nicht von einem Menschen (So testen wir). Die Prüfprotokolle sind auf Anfrage erhältlich.
Tested = im Modelltest an einem erfundenen Fall bestanden; Candidate = noch nicht durchgehend bestanden.
Hat bei dir nicht funktioniert? Sag es uns.
Rückmeldung schreibenBitte keine Namen oder Angaben zu einzelnen Kindern mitschicken.