Versions Compared

Key

  • This line was added.
  • This line was removed.
  • Formatting was changed.
Comment: PyTorch 2.0.0 - conda virtenv

PyTorch

...

Na računalnom klasteru Isabella, na čvorovima s grafičkim procesorima NVIDIA Tesla V100-SXM2-16GB, instalirana je Pythonova biblioteka za strojno učenje PyTorch, verzija .

Pripremljen je modul koji postavlja sve potrebne varijable okoline:

VerzijaCUDAModul
1.0.010.

...

PyTorch je instaliran za Python 3.5, uz sljedeće verzije NVIDIA alata i biblioteka za strojno učenje:

...

0pytorch/1-0-0-gpu
1.3.0
10.0

...

pytorch/1.3.0-gpu
1.5.010.1

...

pytorch/1.5.0-gpu
1.5

...

Pripremljen je modul koji postavlja sve potrebne varijable okoline:

.110.1pytorch/1.5.1-gpu
1.8.111pytorch/1.8.1-gpu
2
VerzijaModul
1.0.011.9pytorch/1-2.0-.0-gpu

Izvođenje poslova

U nastavku je opisano podnošenje tipičnih Python poslova. Više informacija o pokretanju poslova možete pronaći na stranicama Korištenje grafičkih procesora te Pokretanje i upravljanje poslovima.

...

Code Block
titlepytorch.sge
#$ -cwd
#$ -pe gpu 1
 
module load pytorch/1-0-01.8.1-gpu
 
cuda-wrapper.sh python3.5 moj_program.py

Korištenje više grafičkih procesora:

Warning
titleVažno
Code Block
titlepytorch.sge
#$ -cwd #$ -pe gpufull 8 module load pytorch/1-0-0-gpu openmpi-wrapper.sh python3.5 moj_program.py

Korištenje više grafičkih procesora nije dopušteno bez korištenja biblioteke Horovod.

Warning
titleVažno

U opisima poslova koji koriste više grafičkih procesora, obavezno treba koristiti openmpi-wrapper.sh, kao u primjerima u nastavku.

Korištenje više grafičkih procesora na jednom čvoru:

Za pokretanje poslova koji zahtijevaju više grafičkih procesora na jednom čvoru potrebno je koristiti paralelnu okolinu gpusingle te željeni broj grafičkih procesora (maksimalno 4):

Code Block
titlepytorch.sge
#$ -cwd
#$ -pe gpusingle 4
 
module load pytorch/1-0-0-gpu
 
openmpi-wrapper.sh python3.5 moj_program.py

Korištenje više grafičkih procesora na više čvorova:

Code Block
titlepytorch.sge
#$ -cwd
#$ -pe gpu 6
 
module load pytorch/1-0-0-gpu
 
openmpi-wrapper.sh python3.5 moj_program.py

Korištenje cijelih čvorova s grafičkim procesorima:

Za pokretanje poslova koji zahtijevaju cijele čvorove potrebno je koristiti paralelnu okolinu gpufull te željeni broj grafičkih procesora (mora biti djelitelj broja 4). Primjer skripte za zauzimanje dva čvora:

s bibliotekom PyTorch trenutno nije moguće.


Podnošenje posla

Posao se podnosi s pristupnog čvora naredbom:

...