Vor einigen Wochen hat Bruce Schneier einen Vortrag gehalten, bei dem er vor der der Vermischung und Fehlinterpretation des Begriffs «Vertrauen» gewarnt hat, ganz besonders beim Umgang mit dem, was heute von Firmen als «Künstliche Intelligenz» verkauft wird.
Sein frisch erschienenes Vortrags-Essay ist sehr lesenswert, weshalb ich es für DNIP auf Deutsch zusammengefasst habe. Hier nochmals das Wichtigste des Schneier-Artikels in Kürze:
- Wir dürfen das Vertrauen zwischen befreundeten Personen („zwischenmenschliches Vertrauen“) nicht mit dem Vertrauen in Fremde, Firmen oder Institutionen („gesellschaftliches Vertrauen“) verwechseln.
- Unsere Gesellschaft funktioniert nur dank diesem gesellschaftlichem Vertrauen: Es ist nicht perfekt, skaliert aber.
- Auch wenn Firmen über Werbung und Social Media vorgeben, unsere Freunde zu sein: Sie können es nicht sein; sie sind maximal Dienstleister.
- Dadurch, dass KI-Chatbots sehr menschlich und überzeugend agieren, fällt uns diese Verwechslung zwischen Freund und Dienstleister schwer.
- Insbesondere bei kommerziellen Chatbots stehen aber möglicherweise die Standard-Businessmodelle des Internets im Vordergrund: Manipulation und Überwachungskapitalismus.
- Damit dieses den KIs und ihren Firmen entgegengebrachte Vertrauen nicht ausgenutzt wird (Kräufteungleichgewicht!), muss es wirksame Regulierung geben: Transparenz, Sicherheit, Durchsetzung, Strafen bei Verstössen.
- Wichtiger als die Regulierung der Technik sei aber die Regulierung der Menschen und Organisationen, die diese Technik einsetzen. Denn nur diese seien schuldfähig.
- Zur Umsetzung dieses Vertrauens seien (a) sowohl eine Art KI-Treuhänder nötig, die KI-Dienste im Interesse der Nutzerinnen anbieten und nicht im Interesse der Betreiberfirmen, als auch (b) echte öffentliche KI-Modelle von der Öffentlichkeit für die Öffentlichkeit mit echter Verantwortungsübernahme.
Laut Schneier können wir auch dann KI nicht zu unseren Freunden machen, aber wenigstens zu vertrauenswürdigen Dienstleistern. Dazu müssten aber die Regierungen sich gegen Überwachungskapitalismus einsetzen. Nur so könne hier ein gesellschaftliches Vertrauen aufgebaut werden, welches unsere Gesellschaft für ihr Gedeihen brauche.
Schöne Schlussworte, denen ich 100% beipflichten kann.
Weiterführende Literatur
- Marcel Waldvogel: Marcel pendelt: «KI» und «Vertrauen», DNIP.ch, 2023-12-11.
Die deutsche Langfassung dieses Textes. - Bruce Schneier: AI and Trust, Talk at «AI Cyber Lunch» 2023-09-20, Belfer Center for Science and International Affairs, 2023-11-27.
Das Original zum hier zusammengefassten Text. Ebenfalls veröffentlicht in seinem Blog (mit spannenden Leserkommentaren). - Angela Müller: Einigung zum AI Act: Wichtiger Schutz und gefährliche Schlupflöcher, AlgorithmWatch CH, 2023-12-09.
Analyse der Einigung zum AI Act, das weit weniger weit geht, als Schneier hier fordert. - Marcel Waldvogel: Ist ChatGPT für Ihre Anwendung ungefährlich?, 2023-04-02.
Zeigt auf, dass KI-generierte Texte und andere Outputs uns vor neue Herausforderungen stellen, was das Erkennen von Fehlern in überzeugend klingenden Texten angeht. - Marcel Waldvogel: Wie funktioniert eigentlich ChatGPT?, DNIP, 2023-01-30.
Die Erklärung, dass ChatGPT und andere generative KI nur zufallsgesteuert Muster reproduziert, die aus geshreddertem Internet extrahiert wurden. - Patrick Seemann: Warum trotz ChatGPT Schlagzeilen über den Tod des Internets verfrüht sind, DNIP, 2023-02-24.
Auswirkungen von KI auf Internet und Suchmaschinen. - Daniel Leisegang: Opfer des Hypes, Netzpolitik.org, 2023-03-31.
Erläutert die Hintergründe des Criti-Hype rund um KI: Marketing durch Kritik. - Bianca Kastl: Stumpfer Technologieeinsatz, Netzpolitik.org, 2023-12-10.
Bemängelt, dass einfach nur mehr Technologie auf Probleme zu werfen, diese Probleme nicht automatisch löst. Und schon gar nicht die wirklich wichtigen Probleme löst.
Künstliche Intelligenz
News (mehr…)
- Was verraten KI-Chatbots?
«Täderlät» die KI? Vor ein paar Wochen fragte mich jemand besorgt, ob man denn gar nichts in Chatbot-Fenster eingeben könne, was man nicht auch öffentlich teilen würde. Während der Erklärung… Was verraten KI-Chatbots? weiterlesen - Kritik an KI ist nötig. Aber wie?
KI ist seit 1½ Jahren in aller Munde. Die Meinungen gehen von Woher kommt diese Uneinigkeit? Daran, dass die Kritik an der KI faul geworden sei und nur noch wiederkäue,… Kritik an KI ist nötig. Aber wie? weiterlesen - Die düsteren Datenhintergründe der KI
Generative Sprachmodelle wie beispielsweise ChatGPT erwecken den Eindruck, Neues zu erzeugen. Dabei kombinieren sie nur Muster neu. Wobei: Diese Kombinationen sind nicht immer wirklich neu. Mit ein bisschen Geschick kann… Die düsteren Datenhintergründe der KI weiterlesen
Lange Artikel (mehr…)
- KI-Datenkreisläufe
Hier ein kleiner Überblick über die Datenkreisläufe rund um generative KI, insbesondere grosse Sprachmodelle (Large Language Model, LLM) wie ChatGPT, Gemini oder Claude. - Der Homo Ludens muss Werkzeuge spielend erfahren. Auch KI
Fast alle Werkzeuge, die wir «spielend» beherrschen, haben wir spielend gelernt. Das sollten wir auch bei generativer KI. - Der Turing-Test im Laufe der Zeit
Vor einem knappen Jahrhundert hat sich Alan Turing mit den Fundamenten der heutigen Informatik beschäftigt: Kryptographie, Komplexität/Rechenaufwand, aber auch, ob und wie wir erkennen könnten, ob Computer „intelligent“ seien. Dieses… Der Turing-Test im Laufe der Zeit weiterlesen - «QualityLand» sagt die Gegenwart voraus und erklärt sie
Ich habe vor Kurzem das Buch «QualityLand» von Marc-Uwe Kling von 2017 in meinem Büchergestell gefunden. Und war erstaunt, wie akkurat es die Gegenwart erklärt. Eine Leseempfehlung. - Neuralink ist (noch) keine Schlagzeile wert
Diese Woche haben einige kurze Tweets von Elon Musk hunderte oder gar tausende von Artikeln ausgelöst. Wieso? - «Quasselquote» bei LLM-Sprachmodellen
Neulich erwähnte jemand, dass man ChatGPT-Output bei Schülern häufig an der «Quasselquote» erkennen könne. Das ist eine Nebenwirkung der Funktionsweise dieser Sprachmodelle, aber natürlich noch kein Beweis. Etwas Hintergrund. - «KI» und «Vertrauen»: Passt das zusammen?
Vor einigen Wochen hat Bruce Schneier einen Vortrag gehalten, bei dem er vor der der Vermischung und Fehlinterpretation des Begriffs «Vertrauen» gewarnt hat, ganz besonders beim Umgang mit dem, was… «KI» und «Vertrauen»: Passt das zusammen? weiterlesen - Wegweiser für generative KI-Tools
Es gibt inzwischen eine grosse Anzahl generativer KI-Tools, nicht nur für den Unterricht. Hier ein Überblick über verschiedene Tool-Sammlungen. - KI-Vergiftung
Eine aggressive Alternative zur Blockade von KI-Crawlern ist das «Vergiften» der dahinterliegenden KI-Modelle. Was bedeutet das? - Lehrerverband, ChatGPT und Datenschutz
Der Dachverband der Lehrerinnen und Lehrer (LCH) sei besorgt, dass es in der Schweiz keine einheitliche Regelung gäbe, wie Lehrpersonen mit Daten ihrer Schützlinge umgehen sollen und ob sie dafür… Lehrerverband, ChatGPT und Datenschutz weiterlesen - Goethe oder GPThe?
In «Wie funktioniert ChatGPT?» habe ich die Experimente von Andrej Karpathy mit Shakespeare-Texten wiedergegeben. Aber funktioniert das auch auf Deutsch? Zum Beispiel mit Goethe? Finden wir es heraus! - KI: Alles nur Zufall?
Wer von einer «Künstlichen Intelligenz» Texte oder Bilder erzeugen lässt, weiss, dass das Resultat stark auf Zufall beruht. Vor Kurzem erschien in der NZZ ein Beitrag, der die Unzuverlässigkeit der… KI: Alles nur Zufall? weiterlesen - Hype-Tech
Wieso tauchen gewisse Hype-Themen wie Blockchain oder Maschinelles Lernen/Künstliche Intelligenz regelmässig in IT-Projekten auf, obwohl die Technik nicht wirklich zur gewünschten Lösung passt? Oder es auch einfachere, bessere Ansätze gäbe?… Hype-Tech weiterlesen - 📹 Die Technik hinter ChatGPT
Der Digital Learning Hub organisierte 3 Impuls-Workshops zum Einsatz von ChatGPT in der Sekundarstufe II. Im dritten Teil präsentierte ich die Technik hinter ChatGPT. In der halben Stunde Vortrag werden… 📹 Die Technik hinter ChatGPT weiterlesen - Ist ChatGPT für Ihre Anwendung ungefährlich?
Ob man KI-Chatbots sicher einsetzen kann, hängt von der Anwendung ab. Aleksandr Tiulkanov hat deshalb ein Flussdiagramm als Entscheidungshilfe erstellt. Hier eine deutsche Übersetzung und ein paar Anmerkungen zum Korrekturlesen… Ist ChatGPT für Ihre Anwendung ungefährlich? weiterlesen
Schreibe einen Kommentar