Sprachmodelle verstehen

Sprachmodelle verstehen

Drei Module, die von der analogen Simulation zum eigenen Python-Modell fuehren — der Kern des Lernpfads.

Module

  1. Sprachmodell Unplugged: Analoge Simulation mit Grimm-Saetzen
  2. Wie funktioniert ein Sprachmodell?: Token, n-Gramm, Transformer
  3. Mini-Sprachmodell in Python: Eigenes Bigramm-Modell implementieren

Ergaenzende Ethik-Module finden sich in der Unit «Ethik & Reflexion» im uebergeordneten Lernpfad.

lock

Sprachmodell Unplugged

Bevorstehend

Simulieren Sie ein Sprachmodell analog mit Grimm-Sätzen, einer Wahrscheinlichkeitstabelle und einer Münze — und verstehen Sie das Prinzip hinter ChatGPT.

lock

Wie funktioniert ein Sprachmodell?

Bevorstehend

Lernen Sie die Konzepte hinter grossen Sprachmodellen kennen: Token, n-Gramme, Wahrscheinlichkeitsverteilungen und die Transformer-Architektur.

lock

Mini-Sprachmodell in Python

Bevorstehend

Bauen Sie Ihr eigenes Bigramm-Modell in Python: Wörter zählen, Wahrscheinlichkeiten berechnen, Text generieren — und mit ChatGPT vergleichen.