...
Pripremljen je modul koji postavlja sve potrebne varijable okoline:
| Verzija | Modul |
|---|---|
| 1.12.0 | tensorflow/1-12-0gpu |
Horovod
Za paralelno izvođenje TensorFlow poslova na Isabelli, dostupna je Python biblioteka Horovod, verzija 0.15.1. Horovod je odabran radi minimalnih potrebnih izmjena Python skripti kako bi se mogle izvoditi na više GPU-ova, po potrebi preko više čvorova.
...
| Code Block |
|---|
#$ -cwd
#$ -pe gpu 4
module load tensorflow/1-12-0gpu
source $TMPDIR/gpu
echo $CUDA_VISIBLE_DEVICES
/usr/lib64/openmpi3/bin/mpirun -np $NSLOTS -bind-to none -map-by slot -x -mca pml ob1 -mca btl ^openib python3.5 moj_program.py |
...