Cursusaanbod
Inleiding tot Large Language Models (LLMs)
- Overzicht van LLM's
- Definitie en betekenis
- Toepassingen in AI vandaag de dag
Transformer Architectuur
- Wat is een transformator en hoe werkt het?
- Belangrijkste onderdelen en kenmerken
- Inbedding en positionele codering
- Meerkoppige aandacht
- Feed-forward neuraal netwerk
- Normalisatie en restverbindingen
Transformator Modellen
- Mechanisme voor zelfaandacht
- Encoder-decoder architectuur
- Positionele inbeddingen
- BERT (Bidirectionele Encoder Representaties van Transformers)
- GPT (generatieve voorgetrainde transformator)
Prestatie-optimalisatie en valkuilen
- Lengte van de context
- Mamba- en toestandsruimtemodellen
- Flits aandacht
- Schaarse transformatoren
- Visie transformatoren
- Belang van kwantisatie
Transformers verbeteren
- Ophalen van verbeterde tekstgeneratie
- Mix van modellen
- Boom van gedachten
Fine-tuning
- Theorie van aanpassing van lage rang
- Finetunen met QLora
Schaalwetten en optimalisatie in LLM's
- Belang van schaalwetten voor LLM's
- Schalen van gegevens en modelgrootte
- Computationele schaling
- Schaalbaarheid van parameterefficiëntie
Optimalisering
- Relatie tussen modelgrootte, gegevensgrootte, rekenbudget en deductievereisten
- Optimalisering van de prestaties en efficiëntie van LLM's
- Best practices en tools voor het trainen en verfijnen van LLM's
Training en fine-tuning LLM's
- Stappen en uitdagingen bij het helemaal opnieuw trainen van LLM's
- Data-acquisitie en -onderhoud
- Grootschalige gegevens-, CPU- en geheugenvereisten
- Uitdagingen op het gebied van optimalisatie
- Landschap van open-source LLM's
Grondbeginselen van Reinforcement Learning (RL)
- Inleiding tot Reinforcement Learning
- Leren door positieve bekrachtiging
- Definitie en kernbegrippen
- Markov-besluitvormingsproces (MDP)
- Dynamisch programmeren
- Monte Carlo-methoden
- Leren van temporeel verschil
Diep Reinforcement Learning
- Diepe Q-netwerken (DQN)
- Optimalisatie van proximaal beleid (PPO)
- Elements van Reinforcement Learning
Integratie van LLM's en Reinforcement Learning
- LLM's combineren met Reinforcement Learning
- Hoe RL wordt gebruikt in LLM's
- Reinforcement Learning met menselijke feedback (RLHF)
- Alternatieven voor RLHF
Casestudy's en toepassingen
- Toepassingen in de echte wereld
- Succesverhalen en uitdagingen
Geavanceerde onderwerpen
- Geavanceerde technieken
- Geavanceerde optimalisatiemethoden
- Baanbrekend onderzoek en ontwikkelingen
Samenvatting en volgende stappen
Vereisten
- Basiskennis van Machine Learning
Audiëntie
- Datawetenschappers
- Software-ingenieurs
Leveringsopties
PRIVÉGROEPSTRAINING
Onze identiteit draait om het leveren van precies wat onze klanten nodig hebben.
- Pre-cursusgesprek met uw trainer
- Aanpassing van de leerervaring om uw doelen te bereiken -
- Op maat gemaakte overzichten
- Praktische, praktische oefeningen met gegevens / scenario's die herkenbaar zijn voor de cursisten
- Training gepland op een datum naar keuze
- Gegeven online, op locatie/klaslokaal of hybride door experts die ervaring uit de echte wereld delen
Private Group Prices RRP from €6840 online delivery, based on a group of 2 delegates, €2160 per additional delegate (excludes any certification / exam costs). We recommend a maximum group size of 12 for most learning events.
Neem contact met ons op voor een exacte offerte en om onze laatste promoties te horen
OPENBARE TRAINING
Kijk op onze public courses