KI in der Gesellschaft: Chancen und Risiken

lock
Bevorstehend

Prompt Engineering Halluzinationen Deepfakes und KI in der Arbeitswelt kritisch betrachtet.

Ziele dieses Moduls
  • Die SuS können erklären, wie ein LLM Text generiert (Token-Vorhersage, autoregressiv, Temperatur) und welche Grenzen daraus resultieren (Halluzinationen, Bias).
    Verstehen
  • Die SuS können Prompt-Engineering-Strategien anwenden, um gezielt bessere Ergebnisse von einem LLM zu erhalten.
    Anwenden
  • Die SuS können Chancen und Risiken von KI in der Gesellschaft (Deepfakes, Automatisierung, Bias) kritisch beurteilen.
    Evaluieren

KI in der Gesellschaft: Prompt Engineering Halluzinationen Deepfakes und die Zukunft der Arbeit. Lerne kritisch mit KI umzugehen.

Studienlage: Was sagt die Forschung ueber KI und Lernen?

Ist KI beim Lernen nun hilfreich oder schaedlich? Die Forschung zeigt: Es kommt darauf an, wie man sie nutzt.

Diese Studienlage stammt von Stefanie Mauroux (FHNW, 2024/25) und fasst aktuelle Forschung zusammen.

Warning

De-Skilling: Wenn KI das Lernen schwaecher macht

Kosmyna et al. (2025) — MIT Media Lab
«Over four months, LLM users consistently underperformed at neural, linguistic, and behavioral levels.»
Regelmaessige ChatGPT-Nutzung fuehrt zu geringerer neuronaler Konnektivitaet und schwaecherem Erinnerungsvermoegen.

Bastani et al. (2024) — Mathematik, N ~ 1000 High School SuS
«While GPT Base substantially improved practice performance, it significantly harmed subsequent exam performance.»
KI steigert kurzfristig die Leistung, schwaecht aber langfristig das Lernen, weil die aktive Auseinandersetzung fehlt.

Wecks et al. (2024) — Wirtschaft, N = 193 Studierende
«Students using GenAI tools score on average 6.71 points lower than non-users.»
Messbarer Leistungsabfall durch KI-Nutzung, gerade bei guten Studierenden.

Note

Kehrtwende: Aber es gibt auch Positiveffekte...

Nicht alles ist negativ. Die gleichen Studien zeigen auch: Wer KI richtig nutzt, profitiert. Der Unterschied liegt darin, wie man sie einsetzt.

Up-Skilling: Wenn KI das Lernen verstaerkt

Kestin et al. (2025) — Physik, N = 194, Crossover-RCT
«Students learn significantly more in less time when using the AI tutor, compared with in-class active learning.»
Mit dem KI-Tutor lernen SuS in kuerzerer Zeit mehr und sind engagierter.

Deng et al. (2025) — Systematischer Review (2023-2024)
«ChatGPT improves academic performance, affective-motivational states, and higher-order thinking.»
ChatGPT steigert Leistung, Motivation und hoeheres Denken.

Wang & Fan (2025) — Metaanalyse, 51 Studien
«ChatGPT has a large positive impact on improving learning performance (g = 0.867).»
Grosse positive Effekte auf die Lernleistung.

Lehmann et al. (2024) — N ~ 800 Studierende, Programmierkurs
«Students who use LLMs as personal tutors benefit from usage, whereas students who let LLMs solve exercises for them harm their own learning.»
Erklaerender Tutor = gut. Passiv Aufgaben abgeben = schlecht.

Challenge

Zentrale Erkenntnis: Es kommt auf den Einsatz an

Ambivalenz: KI kann foerderlich oder hinderlich sein — entscheidend ist der konkrete Einsatz.

  • Problematisch: KI als blosse Abkuerzung nutzen
  • Sinnvoll: KI fuer personalisiertes Lernen im Dialog einsetzen

KI kann vor allem schwaechere Lernende unterstuetzen. In mehreren Studien hat sich gezeigt, dass Personen mit geringerer Ausgangsleistung staerker von KI profitieren als leistungsstarke.

Frage an dich: Wann nutzt du KI sinnvoll, wann koennte sie dein Lernen behindern? Diskutiere mit deinem Nachbarn.

Quellen & Attribution

Prompt Engineering: Wie man mit KI spricht

Die Art wie du eine Frage an eine KI stellst beeinflusst massiv die Qualität der Antwort. Das nennt man Prompt Engineering.

Was ist ein Prompt?

Ein Prompt ist die Eingabe die du einer KI gibst also deine Frage oder Anweisung.

Tipps fĂĽr bessere Prompts

  1. Sei spezifisch: Statt "Erkläre Photosynthese" → "Erkläre Photosynthese so dass eine 12-jährige Person es versteht in 3 Sätzen"
  2. Gib einen Kontext: "Ich bin Gymi-SchĂĽler im 2. Jahr und brauche..."
  3. Definiere das Format: "Antworte als Tabelle / in Stichpunkten / als Code"
  4. Iteriere: Wenn die Antwort nicht passt verbessere deinen Prompt
  5. Rollen zuweisen: "Handle als Informatik-Lehrer und erkläre..."

Warning

Halluzinationen: Wenn KI Dinge erfindet

Eines der wichtigsten Dinge die du über KI wissen musst: KI kann Dinge erfinden die völlig falsch sind aber sehr überzeugend klingen. Das nennt man Halluzination.

Warum passiert das?

Sprachmodelle wie ChatGPT sind darauf trainiert wahrscheinliche nächste Wörter vorherzusagen. Sie haben kein echtes Verständnis von Wahrheit. Wenn sie etwas nicht wissen erzeugen sie einfach etwas das plausibel klingt.

Beispiele

  • ChatGPT erfindet nicht existierende Buchtitel und Autoren
  • KI zitiert fiktive Studien mit echten Autorennamen
  • Mathematische Erklärungen die logisch klingen aber falsch sind
  • Quellenangaben die plausibel aussehen aber nicht existieren

Wie schĂĽtzt du dich?

  • Immer verifizieren: Wichtige Fakten bei vertrauenswĂĽrdigen Quellen prĂĽfen
  • KreuzprĂĽfen: Dieselbe Frage auf verschiedene Arten stellen
  • Skepsis: Wenn es zu gut klingt um wahr zu sein ist es wahrscheinlich falsch
  • Quellen fordern: Aber auch diese können erfunden sein!

Deepfakes: Wenn Bilder und Videos lĂĽgen

Deepfakes sind mit KI erzeugte oder verfälschte Bilder Stimmen oder Videos die echt aussehen aber falsch sind.

Wie funktionieren Deepfakes?

KI analysiert tausende Bilder oder Videos einer Person und lernt deren Gesicht Stimme und Bewegungen. Dann kann sie neue Inhalte erzeugen die nie passiert sind.

Gefahren

  • Fake News: Politiker sagen Dinge die sie nie gesagt haben
  • Identitätsdiebstahl: Jemand gibt sich per Video als eine andere Person aus
  • Erpressung: Gefälschte kompromittierende Bilder oder Videos
  • Desinformation: Falsche Beweise in Gerichtsverfahren

Wie erkennt man Deepfakes?

  • UnnatĂĽrliche Blink-Bewegungen
  • Beleuchtung passt nicht (Gesicht vs. Umgebung)
  • Haaransatz oft unsauber
  • Bei Audio: seltsame Pausen oder Betonung

Aber Achtung: Die Technologie wird schnell besser. Was heute noch erkennbar ist kann morgen perfekt aussehen.

KI und die Arbeitswelt

KI verändert die Arbeitswelt grundlegend. Welche Berufe sind betroffen?

Was KI gut kann

  • Texte schreiben und zusammenfassen
  • Bilder und Grafiken erzeugen
  • Code schreiben und debuggen
  • Daten analysieren
  • Kundenbetreuung (Chatbots)

Was KI (noch) nicht kann

  • Empathie und menschliche Beziehungen
  • Kreativität im echten Sinne (echte Innovation)
  • Physische Arbeit in unstrukturierten Umgebungen
  • Ethische Urteile treffen
  • In unvorhersehbaren Situationen handeln

KI als Werkzeug nicht als Ersatz

Experten sagen: "KI wird dich nicht ersetzen. Aber jemand der KI nutzt wird es tun."

Das heisst: KI als Werkzeug verstehen und nutzen zu können wird eine Schlüsselkompetenz.

Diskutiere die folgende Aussage: "KI-Modelle wie ChatGPT sollten an Schulen komplett verboten werden." Nimm Stellung mit mindestens drei Argumenten fĂĽr und drei gegen.

Antwort wird geladen...
Lokal gespeichert — Login, um Antworten dauerhaft zu sichern.

Reflection

Zusammenfassung

  • Prompt Engineering: Die Kunst der richtigen Frage an die KI
  • Halluzinationen: KI erfindet Dinge die ĂĽberzeugend klingen aber falsch sind
  • Deepfakes: KI-erzeugte Bilder Stimmen und Videos die echt aussehen
  • Arbeitswelt: KI verändert Berufe aber ersetzt nicht unbedingt Menschen