...

Za raspoređivanje i upravljanje poslovima na računalnom klasteru Isabella koristi se SGE (engl. Sun Son of Grid Engine), klasterski sustav za upravljanje poslovima (engl. job management system, JMS). U ovom dokumentu opisano je korištenje SGE verzije 8.

...

Najjednostavniji oblik SGE poslova su serijski poslovi koji zahtijevaju samo jedan procesor za izvođenje. Za njih obično nije potrebno navoditi nikakve posebne parametre, nego se samo navodi ime programa.

Primjeri korištenja:

1.  Primjer skripte bez dodatnih parametara

   Code Block
   language bash
   #!/bin/bash date

   
   

2. Primjer jednostavne skripte s parametrima

   Code Block
   language bash
   #!/bin/bash #$ -N Date_SGE_script #$ -o Date_SGE.out #$ -e Date_SGE.err date

   
   

3. Primjer izvođenja programa iz trenutnog direktorija

   Code Block
   language bash title moj_program.sge
   #!/bin/bash #$ -N mojprog #$ -P local #$ -o mojprog.out #$ -e mojprog.err #$ -cwd mojprog

   
   

...

#$ -pe <tip_paralelnog_posla> <N>,[<Ni>,...]<S>-<E>,[<Si>-<Ei>,]

Primjeri korištenja:

1. Posao za izvođenje zahtijeva 14 procesorskih jezgara:

   Code Block
   #$ -pe *mpi 14

   
   

2. Broj dodijeljenih procesorskih jezgara može biti između 2 i 4:

   Code Block
   #$ -pe *mpi 2-4

   
   

3. Broj dodijeljenih procesorskih jezgara može biti 5 ili 10:

   Code Block
   #$ -pe *mpi 5,10

   
   

4. Broj dodijeljenih procesorskih jezgara može biti 1 ili između 2 i 4:

   Code Block
   #$ -pe *mpi 1,2-4

   
   

...

Samo pokretanje paralelnih poslova je specifično jer postoje alati za pokretanje podnaslova (npr. mpirun) koji sami obavljaju raspoređivanje podposlova po čvorovima. Kada SGE dodijeli čvorove paralelnom poslu, popis čvorova spremi u datoteku $TMPDIR/machines koja se unutar skripte za opis posla prenosi kao parametar paralelnim poslovima (npr. mpirun, mpiexec, pvm...).

Primjer startne skripte za pokretanje jedne vrste paralelnog posla:

...

Vrijednost <početak> je identifikator prvog zadatka, <kraj> identifikator posljednjeg zadatka, a <korak> vrijednost za koju se uvećava svaki sljedeći identifikator između <početak> i <kraj>. SGE sprema identifikator svakog zadatka u varijablu $SGE_TASK_ID, pomoću koje korisnici mogu dodijeliti različite parametre pojedinom zadatku. Zadaci mogu biti serijski ili paralelni poslovi.

Primjeri korištenja

1. Primjer skripte za pokretanje polja poslova od 10 serijskih poslova:

   Code Block
   language bash
   #!/bin/bash #$ -N job_array_serial #$ -cwd #$ -o output/ #$ -j y #$ -t 1-10 ./starSeeker starCluster.$SGE_TASK_ID

   
   

2. Primjer skripte za pokretanje polja poslova od 10 paralelnih poslova:

   Code Block
   language bash
   #!/bin/bash #$ -N job_array_parallel #$ -cwd #$ -o output/ #$ -j y #$ -t 1-10 mpiexec -machinefile $TMPDIR/machines ./starseeker starCluster.$SGE_TASK_ID

   
   

...

Your "qrsh" request could not be scheduled, try again later.

Primjeri korištenja

1. Izravan pristup do komandne linije testnog čvora:

   Code Block
   language text
   qrsh

   
   

2. Interaktivno izvođenje naredbe

   Code Block
   language text
   qrsh /home/user/moja_skripta

   
   

3. Interaktivno izvođenje aplikacije s grafičkim sučeljem

   Code Block
   language text
   qrsh -DISPLAY=10.1.1.1:0.0 <moja_skripta>

   
   

...

Primjeri korištenja:

1. Primjer jednostavnog korištenja $TMPDIR varijable:
   

   Code Block
   language bash
   #!/bin/bash #$ -N scratch_1 #$ -cwd #$ -o output/scratch.out #$ -j y #$ -l scratch=50 cd $TMPDIR pwd > test cp test $SGE_O_WORKDIR

   
   

2. Primjer kopiranja podataka na scratch disk:
   

   Code Block
   language bash
   #!/bin/bash #$ -N scratch_2 #$ -cwd #$ -o output/scratch.out #$ -j y #$ -l scratch=50 mkdir -p $TMPDIR/data cp -r $HOME/data/* $TMPDIR/data python3.5 main.py $TMPDIR/data

   
   

Ukoliko privremeni podaci premašuju 500 GB potrebno je koristiti /shared. Za razliku od scratch-a, direktorij na shared-u je potrebno ručno kreirati i nema automatskog uklanjanja direktorija.

Primjer korištenja:

#!/bin/bash 

#$ -N shared
#$ -cwd 
#$ -o output/shared.out 
#$ -j y 

mkdir -p /shared/$USER/$TMPDIR
cd /shared/$USER/$TMPDIR

pwd > test
cp test $SGE_O_WORKDIR

...

Prilikom pokretanja poslova korisnik može detaljnije opisati koji uvjeti trebaju biti ispunjeni za posao. Primjerice, moguće je zahtijevati samo određenu arhitekturu radnog čvora, količinu memorije ili vrijeme izvršavanja. Navođenje potrebnih resursa omogućava bolje raspoređivanje poslova, a poslovima daje veći prioritet (vidi LINKviše na stranici Prioriteti na Isabelli).

Potrebni resursi se navode pomoću parametra -l:

...

Primjeri korištenja:

1. Primjer posla koji zahtijeva 20 CPU jezgara i 10 GB radne memorije po procesu (poslu će ukupno biti dodijeljeno 200 GB radne memorije):

   Code Block
   #$ -pe *mpi 20 #$ -l memory=10

   
   

2. Posao zahtijeva 100 GB prostora na scratchu:

   Code Block
   #$ -pe *mpisingle 4 #$ -l scratch=25

   
   

...

Popis dostupnih redova poslova na Isabelli može se pronaći na ???Redovi poslova i paralelne okoline???.

Obavijesti o stanju posla

...

• b - početak izvođenja
• a - greška u izvođenju
• e - završetak izvođenja
• n - ne slati obavijesti (pretpostavljena opcija)

Primjer korištenja:

#$ -m ae
#$ -M moj@mail.com

...

Opcije naredbe qstat je moguće kombinirati što je naročito bitno kada je potrebno filtrirati kroz nekoliko stotina poslova.

Primjeri korištenja:

1. Prikaz svih poslova u redu čekanja

   Code Block
   $ qstat -u "*" -s p

   
   

2. Prikaz poslova svih korisnika koji se trenutno izvršavaju i zahtijevali su paralelnu okolinu a16-mpi

   Code Block
   $ qstat -u "*" -s r -pe a16-mpi

   
   

3. Prikaz svih poslova i čvorova korisnika pero

   Code Block
   $ qstat –s r –f –u pero

   
   

4. Prikaz svi poslova koji se trenutno izvršavaju na čvorovima s grafičkim procesorima:

   Code Block
   $ qstat –u "*" -q gpu.*.q

   
   

...

-j <ID_posla> : detaljan opis pojedinih poslova
-h <adresa_čvora> : statistike za pojedine čvorove
-q <ime_reda> : statistike za pojedine redove
-o <ime_korisnika> : statistike za pojedine korisnike
-pe <ime_paralelne_okoline> : statistike za pojedine paralelne okoline
-slots <broj_procesora> : statistike za poslove za određeni broj procesora
-P <projekt> : prikaz sažetka potrošnje definiranog projekta

Primjeri korištenja:

1. Detaljne informacije o svim poslovima izvršenim na klasteru (oprez: velika količina podataka):

   Code Block
   $ qacct -j

   
   

2. Prikaz informacija o svim poslovima definiranog korisnika:

   Code Block
   $ qacct -j -o <korisnik>

   Prikaz sažetka potrošnje računalnih resursa definiranog korisnika (ako se ne definira <korisnik>, prikazuju se podaci za sve korisnike):

   Code Block
   $ qacct -o <korisnik>

   
   

3. Prikaz informacija o svim poslovima za definirani projekt:

   Code Block
   $ qacct -j -P <projekt>

   Prikaz sažetka potrošnje definiranog projekta (ako se ne definira <projekt>, prikazuju se podaci za sve projekte):

   Code Block
   $ qacct -P <projekt>

   
   

Šalabahteri

Linux šalabahter 

Kretanje po datotečnom sustavu

Upravljanje direktorijima

Kopiranje datoteka i direktorija

Premještanje i preimenovanje datoteka i direktorija

Promjena zaporke

Automatsko nadopunjavanje i pretraživanje povijesti naredbi

Naredbe za dohvaćanje uputa

SGE šalabahter

Podnošenje poslova

Provjera stanja poslova

Zaustavljanje poslova

Informacije o završenim poslovima