PyTorch
...
Na računalnom klasteru Isabella, na čvorovima s grafičkim procesorima NVIDIA Tesla V100-SXM2-16GB, instalirana je Pythonova biblioteka za strojno učenje PyTorch, verzija .
Pripremljen je modul koji postavlja sve potrebne varijable okoline:
Verzija | CUDA | Modul |
---|---|---|
1.0.0 | 10. |
...
PyTorch je instaliran za Python 3.5, uz sljedeće verzije NVIDIA alata i biblioteka za strojno učenje:
...
0 | pytorch/1-0-0-gpu |
1.3.0 |
10.0 |
...
pytorch/1.3.0-gpu | |
1.5.0 | 10.1 |
...
pytorch/1.5.0-gpu |
1.5 |
...
Pripremljen je modul koji postavlja sve potrebne varijable okoline:
.1 | 10.1 | pytorch/1.5.1-gpu |
1.8.1 | 11 | pytorch/1.8.1-gpu |
2 | ||
Verzija | Modul | |
---|---|---|
1.0.0 | 11.9 | pytorch/1-2.0-.0-gpu |
Izvođenje poslova
U nastavku je opisano podnošenje tipičnih Python poslova. Više informacija o pokretanju poslova možete pronaći na stranicama Korištenje grafičkih procesora te Pokretanje i upravljanje poslovima.
...
Code Block | ||
---|---|---|
| ||
#$ -cwd #$ -pe gpu 1 module load pytorch/1-0-01.8.1-gpu cuda-wrapper.sh python3.5 moj_program.py |
Korištenje više grafičkih procesora:
Warning | ||
---|---|---|
| ||
Code Block | ||
| ||
#$ -cwd
#$ -pe gpufull 8
module load pytorch/1-0-0-gpu
openmpi-wrapper.sh python3.5 moj_program.py Korištenje više grafičkih procesora nije dopušteno bez korištenja biblioteke Horovod. |
Warning | ||
---|---|---|
| ||
U opisima poslova koji koriste više grafičkih procesora, obavezno treba koristiti openmpi-wrapper.sh, kao u primjerima u nastavku. |
Korištenje više grafičkih procesora na jednom čvoru:
Za pokretanje poslova koji zahtijevaju više grafičkih procesora na jednom čvoru potrebno je koristiti paralelnu okolinu gpusingle te željeni broj grafičkih procesora (maksimalno 4):
Code Block | ||
---|---|---|
| ||
#$ -cwd
#$ -pe gpusingle 4
module load pytorch/1-0-0-gpu
openmpi-wrapper.sh python3.5 moj_program.py |
Korištenje više grafičkih procesora na više čvorova:
Code Block | ||
---|---|---|
| ||
#$ -cwd
#$ -pe gpu 6
module load pytorch/1-0-0-gpu
openmpi-wrapper.sh python3.5 moj_program.py |
Korištenje cijelih čvorova s grafičkim procesorima
Za pokretanje poslova koji zahtijevaju cijele čvorove potrebno je koristiti paralelnu okolinu gpufull te željeni broj grafičkih procesora (mora biti djelitelj broja 4). Primjer skripte za zauzimanje dva čvora:
s bibliotekom PyTorch trenutno nije moguće. |
Podnošenje posla
Posao se podnosi s pristupnog čvora naredbom:
...