Cursusaanbod
Inleiding tot het ontwikkelen van aangepaste operators
- Waarom aangepaste operators bouwen? Gebruiksgevallen en beperkingen
- CANN runtime-structuur en integratiepunten voor operators
- Overzicht van TBE, TIK en TVM in het Huawei AI-ecosysteem
TIK gebruiken voor low-level operator Programming
- Het TIK-programmeer-model en ondersteunde APIs begrijpen
- Geheugenbeheer en tiling-strategie in TIK
- Een aangepaste op creëren, compileren en registreren met CANN
Testen en valideren van aangepaste ops
- Eenheidstesten en integratietesten van ops in de grafiek
- Oplossen van kernelniveau-prestatieproblemen
- Uitvoering van ops en buffergedrag visualiseren
TVM-gebaseerde planning en optimalisatie
- Overzicht van TVM als compiler voor tensor ops
- Een planning schrijven voor een aangepaste op in TVM
- TVM afstellen, benchen en code genereren voor Ascend
Integratie met frameworks en modellen
- Aangepaste ops registreren voor MindSpore en ONNX
- Integriteit van het model en fallbackgedrag verifiëren
- Multi-operatorgrafieken ondersteunen met gemengde precisie
Casussen en gespecialiseerde optimalisaties
- Casus: hoge-efficiëntie convolutie voor kleine invoergrootten
- Casus: geheugenbewuste attentieoperator optimaliseren
- Beste praktijken voor het implementeren van aangepaste ops over apparaten
Samenvatting en volgende stappen
Vereisten
- Sterke kennis van de internals van AI-modellen en berekeningen op operatorniveau
- Ervaring met Python en Linux ontwikkelomgevingen
- Kennis van neural network compilers of graph-level optimizers
Doelgroep
- Compiler engineers die werken aan AI toolchains
- System developers die zich richten op laag-niveau AI-optimisatie
- Developers die custom ops bouwen of zich richten op nieuwe AI-workloads
Leveringsopties
PRIVÉGROEPSTRAINING
Onze identiteit draait om het leveren van precies wat onze klanten nodig hebben.
- Pre-cursusgesprek met uw trainer
- Aanpassing van de leerervaring om uw doelen te bereiken -
- Op maat gemaakte overzichten
- Praktische, praktische oefeningen met gegevens / scenario's die herkenbaar zijn voor de cursisten
- Training gepland op een datum naar keuze
- Gegeven online, op locatie/klaslokaal of hybride door experts die ervaring uit de echte wereld delen
Private Group Prices RRP from €4560 online delivery, based on a group of 2 delegates, €1440 per additional delegate (excludes any certification / exam costs). We recommend a maximum group size of 12 for most learning events.
Neem contact met ons op voor een exacte offerte en om onze laatste promoties te horen
OPENBARE TRAINING
Kijk op onze public courses