Please enable JavaScript.

Coggle requires JavaScript to display documents.

CUDA - Coggle Diagram

- - - - Da notare che cudaMemCpy è bloccante, Host deve aspettere la fine della copia, in alternativa cudaMemcpyAsync
- - - - Non cambia la natura del thread ma serve a modellare in modo naturale i dati
      - Ogni thread in un blocco è identificatbile nel kernel dalle sue coordinate (threadIdx.x, threadIdx.y, threadIdx.z)
  - - - Ogni blocco è identificatbile nel Kernel da un index a N dimensioni blockIdx
      - La dimensione di ogni blocco è accessibile nel kernel con la variabile blockDim
    - - Tutti i thread di un blocco devono risiedere nello stesso core
        
        Accedendo a locazioni contigue di memoria, il device può aggregarle in un'unica transazione
      - Devono condividere le risorse di memoria di questo core
      - Possono cooperare condividendo dati tramite la Shared Memory e sincronizzando l'esecuzione per coordinare gli accessi alla memoria __syncthreads()
- - - - Offline Compilation
        
        Separare codice Device da Host
        Compilare codice device in assembly/binario
        Modificare codice host cambiando la sintassi kernel con le funzioni della runtime CUDA per caricare ed eseguire i kernel compilati in PTX o CUBIN
        
        Pro: Avvio veloce e nessun costo di compilazione a runtime
        
        Contro: meno portabilità, se esce una nuova GPU non supportata il binario potrebbe non girare
        
        Il codice host può essere compilato con altri tool (gcc)
      - Just-in-Time compilation
        
        Non si separa il codice
        Il Device Driver a runtime compila in binario
        
        Aumenta load-time applicazione
        
        Permette benefici da improvements sui compilatori
        
        Unico modo per le applicazioni di girare su device non esistenti al momento della compilazione