TensorFlow
L'installation de tensoflow par pip ou conda sur l'architecture ARM (aarch64) installe uniquement une version CPU. Pour permettre une utilisation GPU, nous avons créé un conteneur apptainer en adaptant pour TURPAN le conteneur tensorflow de Nvidia depuis le NGC. Il contient l'ensemble des programmes et librairies décrit ici : https://docs.nvidia.com/deeplearning/frameworks/tensorflow-release-notes/rel-24-02.html
Utilisation du conteneur tensorflow
Il y a deux façons d'utiliser ce conteneur :
- Mode sbatch
- Mode interractif
Vous pouvez utiliser le conteneur dans un script sbatch. Dans l'exemple ci-dessous avec une réservation de 1 cœur CPU et 1 GPU :
#!/bin/bash
#SBATCH -J mon_job
#SBATCH -p shared
#SBATCH --nodes 1
#SBATCH --ntasks 1
#SBATCH --time=0:15:00
#SBATCH --gres=gpu:1
apptainer exec --bind /tmpdir,/work --nv /work/conteneurs/sessions-interactives/tensorflow-24.02-tf2-py3-calmip-si.sif python mon_script.py
Vous pouvez utiliser le conteneur interactif (pour tester ou installer d'autres outils ou configurer votre environnement). Dans l'exemple ci-dessous avec une demande de ressources de 1 cœur CPU et 1 GPU :
srun -p shared -n1 --gres=gpu:1 --pty apptainer shell --bind /tmpdir,/work --nv /work/conteneurs/sessions-interactives/tensorflow-24.02-tf2-py3-calmip-si.sif
Apptainer> python
Python 3.10.12 (main, Jun 11 2023, 05:26:28) [GCC 11.4.0] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> import tensorflow as tf
2024-03-08 13:40:10.216933: E external/local_xla/xla/stream_executor/cuda/cuda_dnn.cc:9373] Unable to register cuDNN factory: Attempting to register factory for plugin cuDNN when one has already been registered
2024-03-08 13:40:10.217894: E external/local_xla/xla/stream_executor/cuda/cuda_fft.cc:607] Unable to register cuFFT factory: Attempting to register factory for plugin cuFFT when one has already been registered
2024-03-08 13:40:10.355765: E external/local_xla/xla/stream_executor/cuda/cuda_blas.cc:1534] Unable to register cuBLAS factory: Attempting to register factory for plugin cuBLAS when one has already been registered
>>> print("Num GPUs Available: ", len(tf.config.list_physical_devices('GPU')))
Num GPUs Available: 1
[...]
>>> # Vos commandes python
[...]
Le conteneur n'a accès par défaut qu'à votre espace $HOME. Si vous avez besoin des espaces WORK /work ou SCRATCH /tmpdir vous pouvez les accrocher en utilisant l'option --bind d'Apptainer par exemple :
apptainer exec --nv --bind /tmpdir,/work ....
Pour plus d'information
Pour plus d'information sur l'utilisation des conteneurs Apptainer :
- La documentation de l'utilisation des conteneurs Apptainer sur Turpan
- La documentation officeille d'Apptainer : https://apptainer.org/docs/user/1.1/
Conteneur tensorflow et modules python supplémentaires
Utilisez la commande conda env list pour trouver le chemin de votre environnement Conda
$ conda env list
# conda environments:
myenv3 /users/sysadmin/user_name/.conda/envs/myenv3
base /usr/local/miniconda/25.1.1
python-3.10.9 /usr/local/miniconda/25.1.1/envs/python-3.10.9
python-tools-3.10.9 /usr/local/miniconda/25.1.1/envs/python-tools-3.10.9
Le chemin sera ensuite utilisé pour l’ajouter au conteneur Apptainer, comme montré dans le script suivant.
#!/bin/bash
#SBATCH -J mon_job
#SBATCH -p shared
#SBATCH --nodes 1
#SBATCH --ntasks 1
#SBATCH --time=0:15:00
#SBATCH --gres=gpu:1
ENV_PATH=/tmpdir/user_name/.conda/envs/myenv3
srun apptainer exec \
--nv \
--bind /tmpdir,/work \
--env PYTHONUSERBASE=$ENV_PATH \
--env LD_LIBRARY_PATH=$ENV_PATH/lib:$LD_LIBRARY_PATH \
--env PYTHONPATH=$ENV_PATH/lib/python3.10/site-packages:$PYTHONPATH \
/work/conteneurs/sessions-interactives/tensorflow-24.02-tf2-py3-calmip-si.sif \
python mon_script.py