Ob man KI-Chatbots sicher einsetzen kann, hängt von der Anwendung ab. Aleksandr Tiulkanov hat deshalb ein Flussdiagramm als Entscheidungshilfe erstellt. Hier eine deutsche Übersetzung und ein paar Anmerkungen zum Korrekturlesen und der Medienkompetenz.
Die Aussage von Aleksandr Tiulkanovs Grafik ist einfach: Wenn der Wahrheitsgehalt des ausgespuckten Textes nicht relevant ist, dann darf man gerne auch ChatGPT nutzen. Wenn aber Korrektheit wichtig ist, muss man die ChatGPT-Resultate unbedingt überprüfen (oder dann eben auf ChatGPT und andere KI-Chatbots verzichten).
Schwieriges Korrekturlesen
Kennen Sie das auch? Beim Korrekturlesen von eigenen Texten müssen Sie immer doppelt so aufmerksam sein wie beim Lesen der Texte Anderer. Zumindest bei mir ist das der Fall und ich weiss noch von etlichen Leuten, denen das auch so geht. Ich vermute, das Gehirn ist so überzeugt davon, dass der Text ja richtig ist, dass es zwischendurch „Energie spart“ und direkt aus der Erinnerung bzw. dem logischen Zusammenhang auto-vervollständigt.
Etwas ähnliches passiert scheinbar bei überzeugend geschriebenen Texten: Wir gehen da weniger kritisch vor, auch wenn wir uns das ursprünglich vielleicht vorgenommen haben. Und von modernen KI-Chatbots wie ChatGPT geschriebener Text klingt oft sehr überzeugend, denn er wurde ja unter anderem aus den überzeugendsten Texten des Internet gefüttert. Auch (oder gerade?) dann, wenn er inhaltlich falsch ist…
Beim Korrekturlesen von ChatGPT-Texten übersieht man Fehler scheinbar häufiger als in anderen Texten. Also ist doppelt Vorsicht geboten!
Medienkompetenz
Wer sich schon einmal mit dem Themenkomplex Medienkompetenz beschäftigt hat, der oder dem ist vielleicht beim Betrachten der Grafik schon folgende Frage durch den Kopf gegangen:
Könnte man eigentlich im Flussdiagramm nicht «ChatGPT» auch durch «Internet», «Google-Suche» oder so ersetzen?
Eigentlich ja. Aber:
- Die Menschen hinter den Artikeln im Internet scheinen weniger häufig Schwachsinn zu schreiben (natürlich gibt es da auch Ausnahmen),
- die Suchmaschinen scheinen diesen Ausnahmen weniger Priorität zu geben
- und wir sind es uns eher gewohnt, da auch mal eine Zweitmeinung einzuholen.
- Durch die Bequemlichkeit von ChatGPT (und die oftmals überzeugend klingenden oder gar eloquenten Antworten) verleiten uns wahrscheinlich eher dazu, dem KI-Text auch zu glauben.
Medienkompetenz ist sowohl bei KI-Texten als auch bei Internetrecherchen wichtig. Wir müssen das unseren Kindern (aber nicht nur denen) frühzeitig beibringen.
Mehr zu KI
Behalten Sie den Überblick über Künstlicher Intelligenz mit meinem Dossier. Hier die neuesten Beiträge:
- Neuralink ist (noch) keine Schlagzeile wertDiese Woche haben einige kurze Tweets von Elon Musk hunderte oder gar tausende von Artikeln ausgelöst. Wieso?
- Die düsteren Datenhintergründe der KIGenerative Sprachmodelle wie beispielsweise ChatGPT erwecken den Eindruck, Neues zu erzeugen. Dabei kombinieren sie nur Muster neu. Wobei: Diese Kombinationen sind … Weiterlesen: Die düsteren Datenhintergründe der KI
- «Quasselquote» bei LLM-SprachmodellenNeulich erwähnte jemand, dass man ChatGPT-Output bei Schülern häufig an der «Quasselquote» erkennen könne. Das ist eine Nebenwirkung der Funktionsweise dieser … Weiterlesen: «Quasselquote» bei LLM-Sprachmodellen
- «KI» und «Vertrauen»: Passt das zusammen?Vor einigen Wochen hat Bruce Schneier einen Vortrag gehalten, bei dem er vor der der Vermischung und Fehlinterpretation des Begriffs «Vertrauen» … Weiterlesen: «KI» und «Vertrauen»: Passt das zusammen?
- Wegweiser für generative KI-ToolsEs gibt inzwischen eine grosse Anzahl generativer KI-Tools, nicht nur für den Unterricht. Hier ein Überblick über verschiedene Tool-Sammlungen.
- KI-VergiftungEine aggressive Alternative zur Blockade von KI-Crawlern ist das «Vergiften» der dahinterliegenden KI-Modelle. Was bedeutet das?
Schreibe einen Kommentar