PyTorch
...
Na računalnom klasteru Isabella, na čvorovima s grafičkim procesorima NVIDIA Tesla V100-SXM2-16GB, instalirana je Pythonova biblioteka za strojno učenje PyTorch, verzija .
Pripremljen je modul koji postavlja sve potrebne varijable okoline:
Verzija | CUDA | Modul |
---|---|---|
1.0.0 | 10. |
...
PyTorch je instaliran za Python 3.5, uz sljedeće verzije NVIDIA alata i biblioteka za strojno učenje:
...
0 | pytorch/1-0-0-gpu |
1.3.0 |
10.0 |
...
pytorch/1.3.0-gpu | |
1.5.0 | 10.1 |
...
pytorch/1.5.0-gpu |
1.5 |
...
Pripremljen je modul koji postavlja sve potrebne varijable okoline:
.1 | 10.1 | pytorch/1.5.1-gpu |
1.8.1 | 11 | pytorch/1.8.1-gpu |
2 | ||
Verzija | Modul | |
---|---|---|
1.0.0 | 11.9 | pytorch/1-2.0-.0-gpu |
Izvođenje poslova
U nastavku je opisano podnošenje tipičnih Python poslova. Više informacija o pokretanju poslova možete pronaći na stranicama Korištenje grafičkih procesora te Pokretanje i upravljanje poslovima.
...
Code Block | ||
---|---|---|
| ||
#$ -cwd #$ -pe gpu 1 module load pytorch/1-0-01.8.1-gpu cuda-wrapper.sh python3.5 moj_program.py |
Korištenje više grafičkih procesora:
Warning | ||
---|---|---|
| ||
Code Block | ||
| ||
#$ -cwd
#$ -pe gpufull 8
module load pytorch/1-0-0-gpu
openmpi-wrapper.sh python3.5 moj_program.py Korištenje više grafičkih procesora nije dopušteno bez korištenja biblioteke Horovod. |
Warning | ||
---|---|---|
| ||
U opisima poslova koji koriste više grafičkih procesora, obavezno treba koristiti openmpi-wrapper.sh, kao u primjerima u nastavku. |
Korištenje više grafičkih procesora na jednom čvoru:
Za pokretanje poslova koji zahtijevaju više grafičkih procesora na jednom čvoru potrebno je koristiti paralelnu okolinu gpusingle te željeni broj grafičkih procesora (maksimalno 4):
Code Block | ||
---|---|---|
| ||
#$ -cwd
#$ -pe gpusingle 4
module load pytorch/1-0-0-gpu
openmpi-wrapper.sh python3.5 moj_program.py |
Korištenje više grafičkih procesora na više čvorova:
Code Block | ||
---|---|---|
| ||
#$ -cwd
#$ -pe gpu 6
module load pytorch/1-0-0-gpu
openmpi-wrapper.sh python3.5 moj_program.py |
Korištenje cijelih čvorova s grafičkim procesorima:
Za pokretanje poslova koji zahtijevaju cijele čvorove potrebno je koristiti paralelnu okolinu gpufull te željeni broj grafičkih procesora (mora biti djelitelj broja 4). Primjer skripte za zauzimanje dva čvora:
s bibliotekom PyTorch trenutno nije moguće. |
Podnošenje posla
Posao se podnosi s pristupnog čvora naredbom:
...