Stations de modélisation

Un article de Informaticiens département des sciences de la Terre et l'atmosphère
Version depuis le 16 d'octobre 2018 à 15:35 par Michel (Discuter | changes)
Aller à: navigation, charcher

en construction(cette page s'adresse aux installateurs)

under construction(this page is for installers)

installation type des postes de modélisation

  • Système d'exploitation
    Linux, distribution Kubuntu 18.04 LTS
  • partitions
    • disque no 1
      • partitions primaires
        • (1) swap (taille de la mémoire vive
        • (2)/  50GB
        • (3) /tmp 50GB (peut servir pour installation d'une autre distro)
      • partitions logiques
        • (4) /home_backup  20GB (sauvegarde des home)
        • (5) /opt 20GB
        • (6)  /usr/local 20GB
        • (7) /local (le reste du disque)
    • disque no 2
      • partitions primaires
        • (1) /home  20GB
        • (2) /data/local (le reste du disque)
  • logiciel local (copié/importé à partir des serveurs)
    • environnement "rmnlib/ssm" (Environnement Canada)
    • compilateurs Fortran (gfortran, Portland Group, Intel)
    • matlab

Recettes d'installation des packages

a rajouter dans /etc/hosts (serveurs de licence)

132.208.132.18 st1 st1.cluster10.local
132.208.132.28 st2 st2.cluster10.local
132.208.148.10 skynet1 skynet1.cluster10.local  hn.cluster10.local
132.208.132.184 skynet3 skynet3.cluster10.local skynet3.sca.uqam.ca

EXTRA PACKAGES

cd /root
cp /unique/armnssm/sw/INSTALL/packages.18.04_NOXFCE  .
dpkg --add-architecture i386   # to install 32 bit libraries needed by some packages
apt update
apt dist-upgrade
apt install --dry-run $( xargs <packages.18.04_NOXFCE)    # s'assurer que tout va bien
apt install           $( xargs <packages.18.04_NOXFCE)    # si tout va bien

Acrobat Reader (optionel)

cd /root
wget ftp://ftp.adobe.com/pub/adobe/reader/unix/9.x/9.5.5/enu/AdbeRdr9.5.5-1_i386linux_enu.deb
apt install libxml2:i386 gdebi-core
gdebi AdbeRdr9.5.5-1_i386linux_enu.deb

ENVIRONNEMENT

 mkdir /unique /sca
 # nécessaire pour trouver certains fichiers de configuration 
 # (changer 132.208.132.84 pour le nom du nouveau serveur le cas échéant)
 mount -o ro 132.208.132.84:/home /unique    # ancien environnement (copie secondaire)
 mount -o ro 132.208.132.84:/home/sca /sca   # nouvel environnement (copie secondaire)

DNS

pour ajouter sca.uqam.ca a la liste de domaines a fouiller

Ubuntu 18.04
nmcli c modify "Wired connection 1" +ipv4.dns-search sca.uqam.ca
nmcli c down "Wired connection 1" && nmcli c up "Wired connection 1"   # ou reboot

vieille recette:

vi /etc/resolvconf/resolv.conf.d/tail
rajouter:
search sca.uqam.ca
dans le fichier

executer:
resolvconf -u

PBS(batch) (pas testé 16.04/18.04)

la recette d'installation se trouve dans le fichier
/unique/armnssm/sw/INSTALL/pbs-torque
(depuis l'installation des packages jusqu'a la configuration)

divers

cd /lib64 ; ln -s /lib/x86_64-linux-gnu/libc.so.6
(pour éviter des protestations au lancement de matlab)

Ubuntu 16.04/18.04
cd /usr/lib/x86_64-linux-gnu ; ln -s libnuma.so.1 libnuma.so
(pour les compilateurs)

dpkg --add-architecture i386   # to install 32 bit libraries needed by some packages

a rajouter dans /etc/fstab (environnement logiciel)

132.208.132.84:/home /unique nfs ro,noatime
132.208.132.84:/home/sca /sca nfs ro,noatime

recettes d'installation (..../configure) pour serveurs / postes de modélisation ( Installation binaire )

comment rebâtir gfortran

comment rebâtir mpi(openmpi)

comment rebâtir boost

pour bâtir Maestro (ordonnanceur de travaux) 

 les dépôts git:
   https://github.com/racetted/maestro.git
   https://github.com/racetted/maestro-manager.git
   https://github.com/racetted/maestro-tcl.git
   https://github.com/racetted/maestro-utils.git
   https://github.com/racetted/xflow.git
 
 cd /HOME/armnssm/MAESTRO  (comme armnssm sur beluga)
 cloner les 5 dépôts (une fois)
 s'assurer que les depots sont à la bonne version (tag 1.5.0)
 git checkout -b branch_1.5.0 1.5.0  (au besoin)
 
 (cd maestro ; make clean ; make CC='cc -march=core2 -mno-sse3' )
 (cd maestro-manager ; make clean ; make )
 (cd maestro-utils ; make clean ; make )
 (cd xflow/ssm ; make clean ; make )
 (cd maestro-tcl/tcl-tk_8.5.11_multi/ssm ; make clean ; make )
 (cd maestro-tcl/tcl-tk_8.5.11_linux26-x86-64/ssm ; make clean ; make )
 find . -name *.ssm -exec scp {} web:dist/repository/. \;
 
 domaines pour maestro:
 /unique/armnssm/ECssm/ssm-domains-base/tools/[maestro-ES6|maestro-UBUNTU_12.04] (UQAM)
 /unique/armnssm/ECssm/ssm-domains-base/tools/[maestro-ES7|maestro-UBUNTU_14.04] (UQAM, liens symboliques)
 /sb/software/areas/armnssm/ssm-domains-base/tools/Maestro (guillimin)
 
 installation dans un des domaines:
 
 installer les 6 packages (s.ssm-install )
 maestro_1.5.0_linux26-x86-64 maestro-manager_1.5.0_all maestro-utils_1.5.0_all tcl-tk_8.5.11_linux26-x86-64 tcl-tk_8.5.11_multi xflow_1.5.0_all
 publier les 6 packages (s.ssm-publish )
 
 cd tcl-tk_8.5.11_linux26-x86-64/src
 ./INSTALL.sh 2>&1 | tee ./INSTALL.sh.LOG    (environnement aussi vanille que possible)
 cd ../..
 republier tcl-tk_8.5.11_linux26-x86-64
 
 cd maestro_1.5.0_linux26-x86-64/src
 rm -f nodelogger maestro nodeinfo tictac expcatchup getdef logreader mserver madmin
 make SWDEST=$(pwd -P)/.. CC='cc -march=core2 -mno-sse3' nodelogger maestro nodeinfo tictac expcatchup getdef logreader mserver madmin
 cd ../..


pour rebâtir openblas 

. s.ssmuse.dot gcc-4.6|gcc-4.8|gcc-4.9|......
make CC=gcc FC=gfortran USE_OPENMP=0 NO_AFFINITY=1 USE_THREAD=0 TARGET=CORE2 \
CFLAGS=" -march=core2 -mfpmath=sse -m64 -msse2 -mno-sse3 -mno-ssse3 " \
FFLAGS=" -march=core2 -mfpmath=sse -m64 -msse2 -mno-sse3 -mno-ssse3

création des comptes armnssm et valin

adduser armnssm
cd ~armnssm
cat /unique/armnssm/sw/INSTALL/armnssm.tgz | tar zxf -
chown -R -h armnssm .

adduser valin
cd ~valin
cat /unique/armnssm/sw/INSTALL/valin.tgz | tar zxf -
chown -R -h valin .

après création des comptes armnssm et valin

règles de base pour le pare-feu
à mettre dans /etc/default

cp /unique/armnssm/sw/INSTALL/iptables /etc/default/iptables

arranger /etc/rc.local:
avec le contenu de
/unique/armnssm/sw/INSTALL/rc.local

cp /unique/armnssm/sw/INSTALL/rc.local /etc/rc.local
chmod 755 /etc/rc.local

cat <<EOF >/etc/systemd/system/rc-local.service
[Unit]
Description=/etc/rc.local Compatibility
ConditionPathExists=/etc/rc.local

[Service]
Type=forking
ExecStart=/etc/rc.local start
TimeoutSec=0
StandardOutput=tty
RemainAfterExit=yes
SysVStartPriority=99

[Install]
WantedBy=multi-user.target
EOF

systemctl enable rc-local  # Ubuntu 16.04/18.04, sous systemd
systemctl start rc-local.service
systemctl status rc-local.service



creer et donner au compte armnssm (plus nécessaire maintenant)
#/local/data/unique
#chown armnssm /local/data/unique
#(ou tout autre nom approprié et ajuster /etc/rc.local
Pris de "http://wikiscta.scta.uqam.ca/wikiscta/index.php?title=Stations_de_modélisation&oldid=2298"