NVIDIA GPU-programmeren – uitgebreide cursus Training Cursus
In deze door een instructeur geleide live-cursus leert u hoe u GPU's programmeert voor parallelle berekeningen, hoe u verschillende platforms gebruikt, hoe u werkt met het CUDA-platform en diens functies, en hoe u diverse optimalisatietechnieken toepast met behulp van CUDA. Deze technieken vinden toepassing in onder andere deep learning, data-analyse, beeldverwerking en technische simulaties.
Cursusaanbod
Inleiding
Grondslagen van heterogene computatiemethoden begrijpen
Waarom parallelle berekeningen? De noodzaak van parallel computing onder de loep genomen
Meerkernprocessoren – architectuur en ontwerp
Inleiding tot threads: basisprincipes en beginselen van parallel programmeren
Grondslagen van softwareoptimalisatie op GPU’s verkennen
OpenMP: een standaard voor richtlijngebaseerd parallel programmeren
Praktische oefeningen/demonstraties met diverse programma’s op meerkernmachines
Inleiding tot GPU-computing
GPU’s inzetten voor parallelle berekeningen
Het programmeermodel voor GPU’s begrijpen
Praktische oefeningen/demonstraties met diverse programma’s op GPU's
SDK, hulpmiddelenpakket en installatie van een GPU-omgeving
Werken met verschillende softwarebibliotheken
Demonstatie van GPU-technologie en gereedschappen aan de hand van voorbeeldprogramma’s en OpenACC
Het CUDA-programmeermodel verklaren
De architectuur van CUDA leren kennen
CUDA-ontwikkelomgevingen instellen en gebruiken
Werken met de CUDA Runtime API
Het geheugenmodel in CUDA begrijpen
Aanvullende functies van de CUDA-API ontdekken
Efficiënt gebruik van globaal geheugen in CUDA: optimalisatie technieken
Data-overdrachten optimaliseren met CUDA Streams
Gedeeld geheugen effectief benutten in CUDA
Atomaire bewerkingen en instructies in CUDA gebruiken en begrijpen
Casestudy: Basisbeeldverwerking met behulp van CUDA
Programmeren op meerdere GPU’s aanpakken
Gevorderde analyse- en bemonsteringstechnieken voor NVIDIA/CUDA-hardware
De CUDA Dynamic Parallelism API benutten voor dynamische kernelopstartingen
Samenvatting en conclusie
Vereisten
- C-programmeren
- GCC op Linux
Aangepaste bedrijfsopleiding
Opleidingsoplossingen ontworpen exclusief voor bedrijven.
- Aangepaste inhoud: We passen de syllabus en praktijkopdrachten aan naar de echte doelen en behoeften van uw project.
- Voor flexibel schema: Datums en tijden aangepast aan het rooster van uw team.
- Formaat: Online (live), In-company (bij uw kantoren) of Hybride.
Prijs per privégroep, online live training, startend vanaf 4800 € + BTW*
Neem contact met ons op voor een exacte offerte en om onze laatste promoties te horen
(*De eindprijs kan variëren afhankelijk van de technische specialisatie van het cursus, het aangepaste niveau, de methode van levering en het aantal leerlingen)
Hulp nodig bij het kiezen van de juiste cursus?
opleidingen@nobleprog.com of +31 208 080 666
NVIDIA GPU-programmeren – uitgebreide cursus Training Cursus - Navraag
NVIDIA GPU-programmeren – uitgebreide cursus - Consultancyaanvraag
Reviews (1)
De energie en humor van de trainer.
Tadeusz Kaluba - Nokia Solutions and Networks Sp. z o.o.
Cursus - NVIDIA GPU Programming - Extended
Automatisch vertaald
Voorlopige Aankomende Cursussen
Gerelateerde cursussen
AI-applicaties ontwikkelen met Huawei Ascend en CANN
21 UrenHuawei Ascend is een reeks AI-processoren die speciaal zijn ontworpen voor high-performance inferentie en training.
Deze live-training onder begeleiding van een instructeur (online of op locatie) richt zich op AI-engineers en data scientists met middenniveau-ervaring die neural netwerkmodellen willen ontwikkelen en optimaliseren met behulp van het Ascend-platform van Huawei en het CANN-toolkit.
Na afronding van deze training zullen deelnemers in staat zijn tot:
- Het instellen en configureren van de CANN-ontwikkelomgeving.
- Het ontwikkelen van AI-applicaties met behulp van MindSpore en CloudMatrix-werkstromen.
- Het optimaliseren van de prestaties op Ascend NPU’s door gebruik te maken van aangepaste operators en tiling-strategieën.
- Het implementeren van modellen in edge- of cloudomgevingen.
Opbouw van de cursus
- Interactieve lezingen en discussies.
- Praktijkmatig gebruik van Huawei Ascend en het CANN-toolkit in voorbeeldtoepassingen.
- Begeleide oefeningen gericht op modelontwikkeling, training en implementatie.
Mogelijkheden tot cursusaanpassing
- Indien u een op maat gemaakte training wenst, rekening houdend met uw infrastructuur of datasets, neem dan contact met ons op om dit te regelen.
AI-modellen implementeren met CANN en Ascend AI-processors
14 UrenCANN (Compute Architecture for Neural Networks) is Huawei’s rekenstack voor kunstmatige intelligentie, bedoeld om AI-modellen te implementeren en te optimaliseren op de Ascend AI-processors.
Deze praktijkgerichte training onder leiding van een instructeur (online of op locatie) is gericht op AI-ontwikkelaars en -engineers met basiskennis die efficiënt hun getrainde modellen willen implementeren op Huawei Ascend-hardware, gebruikmakend van het CANN-toolkit en frameworks zoals MindSpore, TensorFlow of PyTorch.
Na afronding van deze training kunnen deelnemers:
- De CANN-architectuur begrijpen en haar rol in het implementatieproces van AI-modellen waarderen.
- Modellen uit populaire frameworks converteren naar een Ascend-compatibel formaat.
- Hulpmiddelen zoals ATC, OM-modelconversie en MindSpore inzetten voor inferentie op edge-apparaten en in de cloud.
- Implementatieproblemen identificeren en prestaties optimaliseren op Ascend-hardware.
Vorm van de training
- Interactieve lezingen en demonstraties.
- Praktische oefeningen met CANN-tools en simulators of apparaten op basis van Ascend-processors.
- Reële implementatietoepassingen gebaseerd op daadwerkelijke AI-modellen.
Mogelijkheden voor maatwerk
- Indien gewenst kunnen wij een geheel op uw behoeften afgestemde training verzorgen; neem gerust contact met ons op.
AI-inferentie en implementatie met CloudMatrix
21 UrenCloudMatrix is het geïntegreerde AI-ontwikkel- en implementatieplatform van Huawei, dat bedoeld is om schaalbare inferentiepijplijnen in productieomgevingen te ondersteunen.
Deze live-training onder begeleiding van een instructeur (online of op locatie) is gericht op AI-professionals met weinig tot gemiddelde ervaring die hun AI-modellen willen implementeren en monitoren via het CloudMatrix-platform, waarbij gebruik wordt gemaakt van CANN en MindSpore.
Aan het einde van deze training zullen de deelnemers in staat zijn om:
- CloudMatrix te gebruiken voor het inpakken, implementeren en leveren van modellen.
- Modellen om te zetten en te optimaliseren voor gebruik op Ascend-processors.
- Pijplijnen in te richten voor zowel realtime- als batch-inferentietaken.
- Implementaties te monitoren en de prestaties ervan af te stellen in productieomgevingen.
Vorm van de cursus
- Interactieve lezingen en discussies.
- Praktische oefeningen met CloudMatrix in echte implementatiescenario’s.
- Begeleide oefeningen gericht op conversie, optimalisatie en schaalbaarheid.
Mogelijkheden tot cursusaanpassing
- Indien u een maatwerktraining wenst die is afgestemd op uw specifieke AI-infrastructuur of cloudomgeving, kunt u contact met ons opnemen om dit te regelen.
GPU-programmering op Biren AI-acceleratoren
21 UrenDe Biren AI-acceleratoren zijn krachtige GPUs die speciaal ontworpen zijn voor AI- en HPC-toepassingen, met ondersteuning voor grootschalige training en inferentie.
Deze door een instructeur begeleide training (online of ter plaatse) is bedoeld voor ontwikkelaars op middelmatig tot gevorderd niveau die ervaring willen opdoen in het programmeren en optimaliseren van applicaties met behulp van Birens eigen GPU-omgeving. Er worden ook praktische vergelijkingen gemaakt met CUDA-gebaseerde omgevingen.
Aan het einde van deze training zullen deelnemers in staat zijn tot:
- De architectuur en geheugenhiërarchie van Biren-GPU’s begrijpen.
- Het ontwikkelingsmilieu opzetten en het programmeren volgens Birens model beheersen.
- CUDA-achtige code vertalen en optimaliseren voor gebruik op Biren-platformen.
- Prestatieverbeteringstechnieken toepassen en foutopsporing uitvoeren.
Opbouw van de cursus
- Interactieve lezingen en discussies.
- Praktijkgerichte oefeningen waarbij Biren SDK wordt toegepast op voorbeeld-GPU-taken.
- Begeleide oefeningen gericht op portering van code en prestatieoptimalisatie.
Opties voor maatwerk bij de cursus
- Indien u een op maat gemaakte training wenst die is afgestemd op uw specifieke applicatie-omgeving of integratievereisten, neem dan contact met ons op om de details te bespreken.
Ontwikkeling van Cambricon MLU-toepassingen met BANGPy en Neuware
21 UrenCambricon MLU’s (Machine Learning Units) zijn gespecialiseerde AI-chips die optimaal presteren bij het uitvoeren en trainen van modellen, zowel in edge-omgevingen als datacentra.
Deze praktijkgerichte training onder begeleiding van een instructeur (online of op locatie) richt zich op ontwikkelaars met middenniveau kennis die AI-modellen willen ontwikkelen en implementeren met behulp van het BANGPy-framework en de Neuware SDK op Cambricon MLU-hardware.
Aan het einde van deze training zullen deelnemers in staat zijn om:
- Het ontwikkelmilieu voor BANGPy en Neuware correct in te stellen.
- Python- en C++-gebaseerde modellen te ontwikkelen en te optimaliseren voor gebruik op Cambricon MLU’s.
- Modellen te implementeren op edge-apparaten en datacentra die de Neuware-runtime draaien.
- AI-werkstromen te integreren met versnelleringsfuncties die specifiek zijn voor Cambricon MLU’s.
Opbouw van de training
- Interactieve presentaties en discussies.
- Praktische oefeningen met BANGPy en Neuware voor ontwikkeling en implementatie.
- Gedetailleerde oefeningen gericht op optimalisatie, integratie en testen.
Mogelijkheden tot maatwerk
- Wilt u een op maat gemaakte training die aansluit bij uw Cambricon-apparaat of toepassingsdoel? Neem dan contact met ons op om de mogelijkheden te bespreken.
Inleiding tot CANN voor ontwikkelaars van AI-frameworks
7 UrenCANN (Compute Architecture for Neural Networks) is het AI-rekenkundige hulpmiddel van Huawei dat wordt gebruikt om AI-modellen te compileren, te optimaliseren en te implementeren op Ascend AI-processoren.
Deze interactieve training onder begeleiding (online of ter plaatse) is bedoeld voor beginnende AI-ontwikkelaars die willen begrijpen hoe CANN past binnen de gehele levenscyclus van een model – van training tot implementatie – en hoe het samenwerkt met frameworks zoals MindSpore, TensorFlow en PyTorch.
Na afloop van deze cursus zullen de deelnemers in staat zijn om:
- De doelstellingen en architectuur van het CANN-hulpmiddel te begrijpen.
- Een ontwikkelomgeving in te richten met CANN en MindSpore.
- Een eenvoudig AI-model om te zetten en te implementeren op Ascend-hardware.
- De basiskennis te verwerven voor toekomstige optimalisatie- of integratieprojecten met CANN.
Opzet van de cursus
- Interactieve lezingen en discussies.
- Praktijkopdrachten waarbij eenvoudige modellen worden geïmplementeerd.
- Stap-voor-stap uitleg van de CANN-toolchain en de integratiepunten ermee.
Mogelijkheden tot cursusaanpassing
- Indien u een op maat gemaakte training wenst, kunt u contact met ons opnemen om de details af te spreken.
CANN voor implementatie van AI op randapparaten
14 UrenHet Ascend CANN-hulpmiddelenpakket van Huawei maakt het mogelijk om krachtige AI-inferentie uit te voeren op randapparaten, zoals de Ascend 310. CANN biedt essentiële hulpmiddelen voor het compileren, optimaliseren en implementeren van modellen wanneer rekenkracht en geheugen beperkt zijn.
Deze door een instructeur geleide live-training (online of op locatie) is bedoeld voor AI-ontwikkelaars en systeemintegratoren met voldoende voorkennis die modellen willen implementeren en optimaliseren op Ascend-randapparaten met behulp van het CANN-hulpmiddelenpakket.
Aan het einde van deze training zullen deelnemers in staat zijn tot:
- Het voorbereiden en omzetten van AI-modellen voor gebruik op de Ascend 310 met behulp van CANN-hulpmiddelen.
- Het bouwen van lichte inferentiepijplijnen met MindSpore Lite en AscendCL.
- Het optimaliseren van modelprestaties in omgevingen met beperkte rekenkracht en geheugenruimte.
- Het implementeren en monitoren van AI-applicaties in praktische randtoepassingen.
Opbouw van de cursus
- Interactieve lezingen en demonstraties.
- Praktische oefeningen met modellen en scenario’s specifiek voor randapparaten.
- Livevoorbeelden van implementatie op virtuele of fysieke randhardware.
Mogelijkheden tot aanpassing van de cursus
- Bent u geïnteresseerd in een op maat gemaakte training? Neem dan contact met ons op om dit te regelen.
Inzicht in Huawei’s AI-compute-stack: van CANN tot MindSpore
14 UrenDe AI-stack van Huawei – variërend van het low-level CANN SDK tot het high-level MindSpore-framework – biedt een nauw geïntegreerde omgeving voor ontwikkeling en implementatie van AI, speciaal geoptimaliseerd voor Ascend-hardware.
Deze door een instructeur geleide, live-training (online of op locatie) richt zich op technische professionals met basis- tot middenniveau die willen begrijpen hoe CANN en MindSpore samenwerken om het beheer van de AI-levenscyclus en infrastructuurbeslissingen te ondersteunen.
Aan het einde van deze training zijn deelnemers in staat om:
- De meerdere lagen van Huawei’s AI-compute-stack te begrijpen.
- Te zien hoe CANN modeloptimalisatie en implementatie op hardwareniveau ondersteunt.
- Het MindSpore-framework en de bijbehorende toolchain te beoordelen in vergelijking met andere industriele oplossingen.
- De rol van Huawei’s AI-stack binnen ondernemings- of cloud-/on-premise-omgevingen vast te stellen.
Opzet van de cursus
- Interactieve lezingen en discussies.
- Live-demo’s van systemen en voorbeeldstudies uit de praktijk.
- Optionele begeleide oefeningen rond het verloop van modellen van MindSpore naar CANN.
Mogelijkheden tot cursuscustomisatie
- Voor het aanvragen van een op maat gemaakte training kunt u contact met ons opnemen om dit te regelen.
Het optimaliseren van de prestaties van neurale netwerken met CANN SDK
14 UrenCANN SDK (Compute Architecture for Neural Networks) vormt de basis voor AI-berekeningen bij Huawei. Het stelt ontwikkelaars in staat om de prestaties van al geïmplementeerde neurale netwerken te verfijnen en te optimaliseren op Ascend AI-processoren.
Deze praktijkgerichte training, begeleid door een instructeur (online of ter plaatse), is bedoeld voor ervaren AI-ontwikkelaars en systeemengineers die de inferentieprestaties willen verbeteren met behulp van CANN’s geavanceerde hulpmiddelen, waaronder de Graph Engine, TIK en ontwikkeling van aangepaste operators.
Aan het einde van deze training zullen deelnemers in staat zijn te:
- De runtime-architectuur en prestatiecyclus van CANN begrijpen.
- Profileringsinstrumenten en de Graph Engine gebruiken voor analyse en optimalisatie van prestaties.
- Aangepaste operators creëren en optimaliseren met behulp van TIK en TVM.
- Geheugenbeperkingen oplossen en de doorvoersnelheid van modellen verhogen.
Vorm van de cursus
- Interactieve lezingen en discussies.
- Praktische oefeningen waarbij profileringsanalyse en operatorafstemming in realtime plaatsvinden.
- Oefeningen ter optimalisatie aan de hand van voorbeelden uit praktijkscenario’s.
Mogelijkheden tot cursuscustomisatie
- Wilt u een op maat gemaakte training? Neem dan contact met ons op om dit te regelen.
CANN SDK voor computer vision- en NLP-pipelines
14 UrenDe CANN SDK (Compute Architecture for Neural Networks) biedt krachtige hulpmiddelen voor het implementeren en optimaliseren van AI-applicaties in real-time, met name op het gebied van computer vision en NLP, op hardware van Huawei Ascend.
Deze interactieve training, verzorgd door een instructeur (online of ter plaatse), is bedoeld voor AI-professionals met een middenniveau kennis die visie- en taalmodellen willen ontwikkelen, implementeren en optimaliseren voor productiedoeleinden met behulp van de CANN SDK.
Na afronding van deze cursus zijn de deelnemers in staat tot:
- Het implementeren en optimaliseren van CV- en NLP-modellen met behulp van CANN en AscendCL.
- Het gebruiken van CANN-tools om modellen te converteren en deze in live-pipelines te integreren.
- Het verbeteren van de inferentieprestaties bij taken zoals detectie, classificatie en sentimentanalyse.
- Het ontwikkelen van real-time CV-/NLP-pipelines voor implementatie op edge-apparaten of in de cloud.
Opzet van de cursus
- Interactieve presentaties en demonstraties.
- Praktijkwerk in het lab: modelimplementatie en performance-profiling.
- Ontwerpen van live-pipelines op basis van echte toepassingen uit computer vision en NLP.
Mogelijkheden tot cursusaanpassing
- Wilt u een op maat gemaakte training? Neem dan contact met ons op om de mogelijkheden te bespreken.
Aangepaste AI-operators ontwikkelen met CANN TIK en TVM
14 UrenCANN TIK (Tensor Instruction Kernel) en Apache TVM maken geavanceerde optimalisatie en aanpassing van AI-modeloperators mogelijk voor Huawei Ascend-hardware.
Deze door een instructeur geleide, live-training (online of op locatie) is bedoeld voor systeemontwikkelaars met gevorderde kennis die aangepaste operators voor AI-modellen willen bouwen, implementeren en afstemmen, waarbij gebruik wordt gemaakt van het TIK-programmeermodel van CANN en de integratie met de TVM-compiler.
Na afloop van deze training zullen de deelnemers in staat zijn om:
- Aangepaste AI-operators te schrijven en te testen met behulp van het TIK-DSL voor Ascend-processoren.
- Eigen operators te integreren in de CANN-runtime en uitvoeringsgrafiek.
- TVM toe te passen voor het plannen, automatisch afstellen en benchmarken van operators.
- De prestaties op instructieniveau van aangepaste rekenpatronen te debuggen en optimaliseren.
Opbouw van de cursus
- Interactieve presentaties en demonstraties.
- Praktische oefeningen in het coderen van operators met behulp van TIK en TVM-pijplijnen.
- Testen en afstemmen op Ascend-hardware of simulators.
Mogelijkheden tot cursusaanpassing
- Indien u een op maat gemaakte training wenst, kunt u contact met ons opnemen om de details af te spreken.
Het migreren van CUDA-applicaties naar Chinese GPU-architecturen
21 UrenChinese GPU-architecturen zoals Huawei Ascend, Biren en Cambricon MLU bieden alternatieven voor CUDA die speciaal zijn ontwikkeld voor de lokale AI- en HPC-markten.
Deze live-training onder begeleiding van een instructeur (online of op locatie) is bedoeld voor GPU-programmeurs met gevorderde kennis en infrastructuurspecialisten die bestaande CUDA-applicaties willen migreren en optimaliseren voor gebruik op Chinese hardwareplatforms.
Aan het einde van deze training zullen de deelnemers in staat zijn om:
- de compatibiliteit van bestaande CUDA-werkbelastingen met alternatieven op basis van Chinese chips te beoordelen;
- CUDA-codebases over te zetten naar Huawei CANN, Biren SDK en Cambricon BANGPy-omgevingen;
- de prestaties te vergelijken en optimalisatiemogelijkheden te identificeren tussen verschillende platforms;
- praktische uitdagingen rond cross-architectuurondersteuning en implementatie aan te pakken.
Opzet van de cursus
- Interactieve presentaties en discussies;
- Praktische oefeningen in codevertaling en vergelijking van prestaties;
- Gedurende de cursus worden ook strategieën voor multi-GPU-aanpassingen behandeld.
Mogelijkheden tot aanpassing van de cursus
- Indien u een op maat gemaakte training wenst, afgestemd op uw eigen platform of CUDA-project, neem dan contact met ons op om dit te bespreken.
Prestatieoptimalisatie op Ascend, Biren en Cambricon
21 UrenAscend, Biren en Cambricon zijn toonaangegende AI-hardwareplatformen in China. Ze bieden ieder unieke hulpmiddelen voor prestatieanalyse en optimalisatie van AI-werkbelastingen op productieniveau.
Deze praktijkgerichte, door een instructeur geleide training (online of ter plaatse) richt zich op gevorderde AI-infrastructurele engineers en prestatiespecialisten die hun modelinference- en trainingsprocessen willen optimaliseren op verschillende Chinese AI-chipplatforms.
Na afronding van deze training zijn deelnemers in staat om:
- Modellen te benchmarken op Ascend-, Biren- en Cambricon-platforms.
- Systemische knelpunten en inefficiënties in geheugengebruik of rekenkracht te identificeren.
- Grafiekgebaseerde, kerngebaseerde en operator-gebaseerde optimalisatietechnieken toe te passen.
- Implementatiepijplijnen af te stemmen om doorvoer en latentie te verbeteren.
Opzet van de cursus
- Interactieve lezingen en discussies.
- Praktische oefeningen waarbij profilerings- en optimalisatietools op elk platform worden gebruikt.
- Gidsende opdrachten gericht op concrete tuning-scenario’s.
Opties voor cursusaanpassing
- Mocht u een maatwerktraining willen op basis van uw specifieke prestatieomgeving of modeltype, neem dan contact met ons op om dit te bespreken.