Ist ChatGPT für Ihre Anwendung ungefährlich?

Ob man KI-Chatbots sicher einsetzen kann, hängt von der Anwendung ab. Aleksandr Tiulkanov hat deshalb ein Flussdiagramm als Entscheidungshilfe erstellt. Hier eine deutsche Übersetzung und ein paar Anmerkungen zum Korrekturlesen und der Medienkompetenz.

Die Aussage von Aleksandr Tiulkanovs Grafik ist einfach: Wenn der Wahrheitsgehalt des ausgespuckten Textes nicht relevant ist, dann darf man gerne auch ChatGPT nutzen. Wenn aber Korrektheit wichtig ist, muss man die ChatGPT-Resultate unbedingt überprüfen (oder dann eben auf ChatGPT und andere KI-Chatbots verzichten).

Schwieriges Korrekturlesen

Kennen Sie das auch? Beim Korrekturlesen von eigenen Texten müssen Sie immer doppelt so aufmerksam sein wie beim Lesen der Texte Anderer. Zumindest bei mir ist das der Fall und ich weiss noch von etlichen Leuten, denen das auch so geht. Ich vermute, das Gehirn ist so überzeugt davon, dass der Text ja richtig ist, dass es zwischendurch „Energie spart“ und direkt aus der Erinnerung bzw. dem logischen Zusammenhang auto-vervollständigt.

Etwas ähnliches passiert scheinbar bei überzeugend geschriebenen Texten: Wir gehen da weniger kritisch vor, auch wenn wir uns das ursprünglich vielleicht vorgenommen haben. Und von modernen KI-Chatbots wie ChatGPT geschriebener Text klingt oft sehr überzeugend, denn er wurde ja unter anderem aus den überzeugendsten Texten des Internet gefüttert. Auch (oder gerade?) dann, wenn er inhaltlich falsch ist…

Beim Korrekturlesen von ChatGPT-Texten übersieht man Fehler scheinbar häufiger als in anderen Texten. Also ist doppelt Vorsicht geboten!

Medienkompetenz

Wer sich schon einmal mit dem Themenkomplex Medienkompetenz beschäftigt hat, der oder dem ist vielleicht beim Betrachten der Grafik schon folgende Frage durch den Kopf gegangen:

Könnte man eigentlich im Flussdiagramm nicht «ChatGPT» auch durch «Internet», «Google-Suche» oder so ersetzen?

Eigentlich ja. Aber:

• Die Menschen hinter den Artikeln im Internet scheinen weniger häufig Schwachsinn zu schreiben (natürlich gibt es da auch Ausnahmen),
• die Suchmaschinen scheinen diesen Ausnahmen weniger Priorität zu geben
• und wir sind es uns eher gewohnt, da auch mal eine Zweitmeinung einzuholen.
• Durch die Bequemlichkeit von ChatGPT (und die oftmals überzeugend klingenden oder gar eloquenten Antworten) verleiten uns wahrscheinlich eher dazu, dem KI-Text auch zu glauben.

Medienkompetenz ist sowohl bei KI-Texten als auch bei Internetrecherchen wichtig. Wir müssen das unseren Kindern (aber nicht nur denen) frühzeitig beibringen.