Schulungsübersicht

Einführung in das Fine-Tuning

  • Was ist Feinabstimmung?
  • Anwendungsfälle und Vorteile der Feinabstimmung
  • Überblick über vortrainierte Modelle und Transfer Learning

Vorbereitungen für das Fine-Tuning

  • Sammeln und Bereinigen von Datensätzen
  • Verstehen der aufgabenspezifischen Datenanforderungen
  • Explorative Datenanalyse und Vorverarbeitung

Feinabstimmungstechniken

  • Transferlernen und Merkmalsextraktion
  • Feinabstimmung von Transformatoren mit Hugging Face
  • Feinabstimmung für überwachte und nicht überwachte Aufgaben

Feinabstimmung Large Language Models (LLMs)

  • Anpassung von LLMs für NLP-Aufgaben (z. B. Textklassifizierung, Zusammenfassung)
  • Training von LLMs mit benutzerdefinierten Datensätzen
  • Kontrolle des LLM-Verhaltens mit Prompt Engineering

Optimierung und Auswertung

  • Abstimmung der Hyperparameter
  • Evaluierung der Modellleistung
  • Behandlung von Überanpassung und Unteranpassung

Skalierung von Feinabstimmungsbemühungen

  • Feinabstimmung auf verteilten Systemen
  • Nutzung von Cloud-basierten Lösungen für Skalierbarkeit
  • Fallstudien: Groß angelegte Feinabstimmungsprojekte

Bewährte Praktiken und Herausforderungen

  • Bewährte Praktiken für eine erfolgreiche Feinabstimmung
  • Häufige Herausforderungen und Fehlerbehebung
  • Ethische Überlegungen bei der Feinabstimmung von KI-Modellen

Fortgeschrittene Themen (optional)

  • Feinabstimmung multimodaler Modelle
  • Zero-shot und few-shot Lernen
  • Erforschung von LoRA-Techniken (Low-Rank Adaptation)

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Verständnis der Grundlagen des maschinellen Lernens
  • Erfahrung mit Python-Programmierung
  • Vertrautheit mit vortrainierten Modellen und deren Anwendungen

Zielgruppe

  • Datenwissenschaftler
  • Ingenieure für maschinelles Lernen
  • KI-Forscher
 14 Stunden

Teilnehmerzahl


Price per participant (excl. VAT)

Kommende Kurse

Verwandte Kategorien