Cursusaanbod

Inleiding tot Parameter-Efficient Fine-Tuning (PEFT)

  • Motivatie en beperkingen van volledige fine-tuning.
  • Overzicht van PEFT: doelen en voordelen.
  • Toepassingen en casussen in de industrie.

LoRA (Low-Rank Adaptation)

  • Het concept en de intuïtie achter LoRA.
  • Implementatie van LoRA met Hugging Face en PyTorch.
  • Handson: Fine-tunen van een model met LoRA.

Adapter Tuning

  • Hoe adapter-modules werken.
  • Integratie met transformer-gebaseerde modellen.
  • Handson: Toepassing van Adapter Tuning op een transformer-model.

Prefix Tuning

  • Gebruik van soft prompts voor fine-tuning.
  • Krachten en beperkingen in vergelijking met LoRA en adapters.
  • Handson: Prefix Tuning op een LLM-taak.

Evaluatie en vergelijking van PEFT-methoden

  • Metrics voor het evalueren van prestaties en efficiëntie.
  • Balans in trainingsnelheid, geheugengebruik en nauwkeurigheid.
  • Benchmarkexperiments en interpretatie van de resultaten.

Implementeren van Fine-Tuned Modellen

  • Slaan en laden van fine-getuneerde modellen.
  • Implementatieoverwegingen voor PEFT-gebaseerde modellen.
  • Integratie in applicaties en pipelines.

Best Practices en Uitbreidingen

  • Combineren van PEFT met kwantisatie en distillatie.
  • Toepassing in low-resource- en meertalige contexten.
  • Toekomstige richtingen en actief onderzoeksterrein.

Samenvatting en volgende stappen

Vereisten

  • Een begrip van de basisprincipes van machine learning.
  • Ervaring met het werken met grote taalmodellen (LLMs).
  • Bekend zijn met Python en PyTorch.

Doelgroep

  • Datawetenschappers
  • AI-ingenieurs
 14 Uren

Leveringsopties

PRIVÉGROEPSTRAINING

Onze identiteit draait om het leveren van precies wat onze klanten nodig hebben.

  • Pre-cursusgesprek met uw trainer
  • Aanpassing van de leerervaring om uw doelen te bereiken -
    • Op maat gemaakte overzichten
    • Praktische, praktische oefeningen met gegevens / scenario's die herkenbaar zijn voor de cursisten
  • Training gepland op een datum naar keuze
  • Gegeven online, op locatie/klaslokaal of hybride door experts die ervaring uit de echte wereld delen

Private Group Prices RRP from €4560 online delivery, based on a group of 2 delegates, €1440 per additional delegate (excludes any certification / exam costs). We recommend a maximum group size of 12 for most learning events.

Neem contact met ons op voor een exacte offerte en om onze laatste promoties te horen


OPENBARE TRAINING

Kijk op onze public courses

Voorlopige Aankomende Cursussen

Gerelateerde categorieën