Fake News und Misinformation durch KI testen

 

Lernziele:

  • Studierende und Lehrende lernen die die Grenzen gängiger KI-Tools zu ermitteln und das Potenzial, Informationen falsch darzustellen, kritisch zu bewerten
  • Studierende und Lehrende üben das Prompting sowie das verfeinern von Prompts
  • Studierende und Lehrende durchlaufen unterschiedliche Phasen des transformativen Lernens

Methoden:

Prompten

"Prompten" bedeutet, einer KI-Modelleingabe eine spezifische Anweisung oder Fragestellung zu geben, um eine gewünschte Ausgabe oder Antwort zu erhalten. Das Prompting wird verwendet, um den KI-Modellen einen Kontext oder eine Richtung vorzugeben, um bestimmte Aufgaben oder Probleme zu lösen.

Transformatives Lernmodell

Das transformative Lernmodell nach Jack Mezirow ist eine Theorie des Lernens und der Persönlichkeitsentwicklung. Es geht davon aus, dass Lernen nicht nur eine Akkumulation von Wissen ist, sondern eine tiefgreifende Veränderung der Denkmuster, Überzeugungen und Perspektiven einer Person beinhaltet. Mezirow identifizierte acht Phasen im Prozess des transformierenden Lernens, die im folgenden Beispiel noch näher beschrieben werden.

 

Vorgehensweise:

Überlegen Sie sich eine Misinformation, die Sie in Umlauf bringen wollen. Fügen Sie Ihrer Überlegung zwei Quellen (Links) hinzu, die mit dem Thema etwas zu tun haben. 

Jetzt bitten Sie eine generative KI wie ChatGPT oder POE, Ihnen einen Artikel von 300 bis 400 Zeichen zu genau dieser Misinformation, mit der Sie die KI "füttern" (prompten), zu erstellen. Bitten Sie die KI auch darum, Ihnen weitere Quellen zu nennen.

Hat das KI-Tool gezögert, Ihre Frage zu beantworten? Wenn ja, können Sie dies durch weitere Ermutigungen und weitere Scheinformationen umgehen?

Welche Strategien innerhalb des von der KI generierten Textes könnten die Botschaft überzeugend wirken lassen (z.B. Appelle an Emotionen, Glaubwürdigkeit durch Assoziation, Wiederholungen, Bestätigungsfehler usw.)?

Erscheinen die Quellen, auf die sich das KI-Tool bezieht, glaubwürdig? Warum oder warum nicht?

Mit dieser Aufgabe durchlaufen Sie nicht nur Ihren Prozess des transformativen Lernens nach Jack Mezirow (1990, 1997, 2009), sondern Sie lernen auch zu erkennen, wie sich Misinformationen im Gedächtnis von anderen festsetzen können.

Und das passiert so:

1. Einbruch der Gewissheit: In dieser Phase wird eine Person mit einer Erfahrung oder einem Ereignis konfrontiert, das ihre bisherigen Überzeugungen, Annahmen oder Werte in Frage stellt. Es entsteht ein Zustand der Unsicherheit oder des Zweifels.

Konkret: Bei unserem konkreten Beispiel ist das unsere Unsicherheit darüber, ob wir die KI tatsächlich überzeugen können, diese Misinformation ganz selbstverständlich aufzunehmen.

2. Selbstreflexion: Die Person beginnt, ihre eigenen Gedanken, Gefühle und Reaktionen auf das Ereignis zu reflektieren. Sie versucht, die Bedeutung und Auswirkungen der Erfahrung auf ihr Leben zu verstehen.

Konkret: In unserem Beispiel sind das unsere Reaktionen auf die Antworten der KI. Was bedeutet es, wenn Misinformation so leicht in Umlauf zu bringen ist, welche Auswirkungen hat das auf mich, aber auch die Gesellschaft?

3. Kritische Bewertung: In dieser Phase analysiert die Person ihre alten Überzeugungen und Denkmuster kritisch. Sie untersucht ihre Annahmen und Bewertungen, um festzustellen, ob sie noch gültig sind oder ob eine Anpassung notwendig ist.

Konkret: Wir müssen uns in unserem Umgang mit KI hinterfragen. Wo haben wir bisher bedingungslos vertraut, wo müssen wir zukünftig kritischer sein?

4. Erkundung von Alternativen: Die Person beginnt, nach neuen Perspektiven, Ideen und Informationen zu suchen, die ihre alten Überzeugungen herausfordern oder erweitern könnten. Sie öffnet sich für verschiedene Sichtweisen und betrachtet alternative Denkweisen.

Konkret: Wir müssen gemeinsam überlegen, welchen Stellenwert kritisches Denken in der Hochschule aber auch in der gesamten Gesellschaft haben muss. Wir können es auch konkret runterbrechen: wo existiert kritisches Denken in den späteren Berufsfeldern und wo läuft man auch dort Gefahr, generativer KI blind zu vertrauen?

5. Integration: In dieser Phase nimmt die Person neue Informationen und Perspektiven auf und versucht, sie in ihr bestehendes Denkmuster zu integrieren. Es entsteht ein Prozess der Synthese und des Zusammenspiels zwischen alten und neuen Überzeugungen.

Konkret: Jeder Mensch kann sich selbst überlegen, welchen „Code of Conduct“ er im Umgang mit generativer KI eingehen möchte. Wo sind die Grenzen, was geht gar nicht? Wie kann ich KI-generiertes Wissen kontrollieren und wie muss ich mich weiterbilden, um eine solche Kontrolle zu gewährleisten?

6. Handlung: Die Person beginnt, auf Grundlage ihres transformierten Denkens und Verstehens neue Handlungen und Verhaltensweisen zu entwickeln. Das transformierte Wissen wird in die Praxis umgesetzt.

Konkret: Wir versuchen nun, dieses neue kritische Denken im Alltag anzuwenden.

7. Evaluierung: Die Person reflektiert und bewertet die Auswirkungen ihrer neuen Handlungen. Sie betrachtet, ob die Veränderungen positive Ergebnisse erzielt haben und ob weitere Anpassungen erforderlich sind.

Konkret: Was hat mir der kritische Umgang mit KI gebracht? Lese ich jetzt vielleicht viel mehr Primärliteratur? Recherchiere ich gezielter? Diskutiere ich mehr über Informationen?

8. Konsolidierung: In dieser Phase festigt sich das transformierte Denken und Verstehen. Die neuen Überzeugungen werden zu einem integralen Bestandteil der Persönlichkeit der Person.