Bedankt voor uw aanvraag! Een van onze medewerkers neemt binnenkort contact met u op
Bedankt voor uw boeking! Een van onze medewerkers neemt binnenkort contact met u op.
Cursusaanbod
Prestatiebegrippen en meetwaarden
- Latentie, throughput, energieverbruik, bronbenutting
- Flessen op systeem- vs. modelniveau
- Profilering voor inference vs. training
Profilering op Huawei Ascend
- Gebruik van CANN Profiler en MindInsight
- Diagnostiek van kernels en operators
- Offload-patronen en geheugenmapping
Profilering op Biren GPU
- Prestatiemonitoringsfuncties van de Biren SDK
- Kernel-fusie, geheugenlijning en uitvoeringswachtrijen
- Profilering met inachtneming van vermogen en temperatuur
Profilering op Cambricon MLU
- Prestatiegereedschap van BANGPy en Neuware
- Zichtbaarheid op kernelniveau en loginterpretatie
- Integratie van de MLU-profiler met deployment-frameworks
Optimalisatie op graaf- en modelniveau
- Strategieën voor graaftakking en kwantisering
- Operatorfusie en herstructurering van berekeningsgrafen
- Standarisering van invoergrootte en batch-tuning
Geheugen- en kerneloptimalisatie
- Optimalisatie van geheugenindeling en hergebruik
- Efficiënt bufferbeheer over chipsets heen
- Technieken voor kernelniveau-tuning per platform
Best practices voor multi-platform
- Prestatieportabiliteit: strategieën voor abstractie
- Opzetten van gedeelde tuning-pipelines voor multi-chipomgevingen
- Voorbeeld: tuning van een objectdetectiemodel over Ascend, Biren en MLU heen
Samenvatting en vervolgstappen
Vereisten
- Ervaring met AI-modeltraining of deployment-pipelines
- Kennis van GPU/MLU-computeprincipes en modeloptimalisatie
- Basiskennis van prestatieprofilerings- en meetinstrumenten
Doelgroep
- Prestatie-ingenieurs
- Machine learning infrastructure teams
- AI-systeemarchitecten
21 Uren
Aangepaste bedrijfsopleiding
Opleidingsoplossingen ontworpen exclusief voor bedrijven.
- Aangepaste inhoud: We passen de syllabus en praktijkopdrachten aan naar de echte doelen en behoeften van uw project.
- Voor flexibel schema: Datums en tijden aangepast aan het rooster van uw team.
- Formaat: Online (live), In-company (bij uw kantoren) of Hybride.
Prijs per privégroep, online live training, startend vanaf 4800 € + BTW*
Neem contact met ons op voor een exacte offerte en om onze laatste promoties te horen
