CONTACT ONS

Cursusaanbod

Inleiding tot Parameter-Efficiënt Fine-Tunen (PEFT)

  • Motivatie voor PEFT en de beperkingen van volledig fine-tunen
  • Doelstellingen en voordelen van PEFT technieken
  • Toepassingen en use cases binnen de industrie

LoRA (Low-Rank Adaptation)

  • Concept en werking achter LoRA
  • Implementatie van LoRA met Hugging Face en PyTorch
  • Praktijkopdracht: een model fine-tunen met LoRA

Adapter Tuning

  • Hoe adaptermodules functioneren
  • Integratie van adapters in transformer-gebaseerde modellen
  • Praktijkopdracht: Adapter Tuning toepassen op een transformer-model

Prefix Tuning

  • Het gebruik van soft prompts bij fine-tuning
  • Vergelijking tussen Prefix Tuning, LoRA en adapters op het gebied van kracht en beperkingen
  • Praktijkopdracht: Prefix Tuning toepassen op een taak met een groot taalmodel

Evaluatie en vergelijking van PEFT-technieken

  • Metingen om prestaties en efficiëntie te beoordelen
  • Verschillen in trainingstempo, geheugengebruik en nauwkeurigheid tussen methoden
  • Benchmarking experimenten en interpretatie van resultaten

Implementatie van gefine-tunde modellen

  • Het opslaan en laden van fine-tuneresultaten
  • Praktische overwegingen bij het inzetten van PEFT-gebaseerde modellen
  • Integratie binnen applicaties en data-pipelines

Beste praktijken en vervolgmogelijkheden

  • Het combineren van PEFT met kwantisering en modeldistillatie
  • Gebruik in omgevingen met beperkte middelen of voor meerdere talen
  • Toekomstige ontwikkelingen en actuele onderzoeksvelden<\/li>

Samenvatting en volgende stappen

Vereisten

  • Begrip van basisconcepten binnen machine learning
  • Ervaring met grote taalmodellen (LLMs)
  • Kennis van Python en PyTorch

Doelgroep

  • Data scientists
  • AI-engineers
 14 Uren

Aangepaste bedrijfsopleiding

Opleidingsoplossingen ontworpen exclusief voor bedrijven.

  • Aangepaste inhoud: We passen de syllabus en praktijkopdrachten aan naar de echte doelen en behoeften van uw project.
  • Voor flexibel schema: Datums en tijden aangepast aan het rooster van uw team.
  • Formaat: Online (live), In-company (bij uw kantoren) of Hybride.
Investering

Prijs per privégroep, online live training, startend vanaf 3200 € + BTW*

Neem contact met ons op voor een exacte offerte en om onze laatste promoties te horen

Voorlopige Aankomende Cursussen

Gerelateerde categorieën