Deep learning용 GPU 서버의 성능 측정은 역시 deep learning에 가장 많이 사용되는 tensorflow를 이용한 benchmark test를 돌려보는 것입니다. 구체적으로 어떤 GPU에서는 몇 images/sec의 속도가 나와야 한다는 기준은 존재하지 않습니다. 테스트에 사용되는 neural network의 종류와 사소한 parameter, 그리고 어떤 dataset을 이용하느냐에 따라 그 성능은 천차만별이기 때문입니다. 또 테스트를 위해 labeling된 image dataset을 구하는 것도 쉽지 않습니다.
그런데 이런 어려운 문제를 극복하고 GPU를 이용한 tensorflow를 이용한 benchmark test를 수행하는 방법이 있습니다. Tensorflow github에 공개된 tf_cnn_benchmarks를 이용하는 것입니다. 이 테스트는 더 이상 update되고 있지는 않지만 다음과 같은 장점이 있어서 아직도 널리 쓰이고 있습니다.
1) 사용방법이 간단
2) GPU 개수를 조절해가며 테스트 가능
3) CPU만으로도 테스트하여 CPU 대비 GPU 성능도 평가 가능
4) Test용 image dataset을 별도로 준비하지 않아도 python code에서 합성하여 사용
5) 성능 평가 수치를 images/sec로 간단명료하게 제시
이를 POWER9 processor를 장착한 IBM POWER 서버에서 수행하기 위해서는 먼저 다음과 같이 anaconda package를 download 받아 설치합니다.
[cecuser@p1226-kvm1 ~]$ wget https://repo.anaconda.com/archive/Anaconda3-2020.07-Linux-ppc64le.sh
[cecuser@p1226-kvm1 ~]$ chmod a+x Anaconda3-2020.07-Linux-ppc64le.sh
[cecuser@p1226-kvm1 ~]$ ./Anaconda3-2020.07-Linux-ppc64le.sh
Do you accept the license terms? [yes|no]
[no] >>> yes
[/home/cecuser/anaconda3] >>>
Do you wish the installer to initialize Anaconda3
by running conda init? [yes|no]
[no] >>> yes
Anaconda 설치가 끝난 뒤 profile을 수행하면 conda environment가 가동됩니다.
[cecuser@p1226-kvm1 ~]$ . ~/.bashrc
(base) [cecuser@p1226-kvm1 ~]$
이제 IBM OPEN-CE (구 명칭 IBM PowerAI 또는 Watson Machine Learning Community Edition), 즉 IBM ppc64le 환경에서 쉽게 deep leanring 관련 open source conda package를 설치할 수 있도록 해주는 conda channel을 등록합니다.
(base) [cecuser@p1226-kvm1 ~]$ conda config --prepend channels https://public.dhe.ibm.com/ibmdl/export/pub/software/server/ibm-ai/conda/
이 tf_cnn_benchmarks는 python 3.6 환경에서 수행하므로 다음과 같이 python 3.6용 conda virtual environment를 생성합니다. 여기서는 이름을 wmlce_env로 정했습니다.
(base) [cecuser@p1226-kvm1 ~]$ conda create --name wmlce_env python=3.6
방금 만든 wmlce_env 환경을 activate 합니다.
(base) [cecuser@p1226-kvm1 ~]$ conda activate wmlce_env
이제 prompt 맨 앞부분이 (wmlce_env)로 바뀐 것을 보실 수 있습니다. 이제 OPEN-CE를 설치합니다. 구명칭인 PowerAI라는 이름의 패키지를 설치하시면 됩니다. 네트워크 환경에 따라 시간이 꽤 걸릴 수 있습니다. (30분 ~ 몇 시간)
(wmlce_env) [cecuser@p1226-kvm1 ~]$ conda install powerai
그러고 난 뒤, 다음과 같이 tensorflow의 하위 github인 benchmarks를 clone 합니다.
(wmlce_env) [cecuser@p1226-kvm1 ~]$ git clone https://github.com/tensorflow/benchmarks
이제 그 중 tf_cnn_benchmarks로 들어갑니다.
(wmlce_env) [cecuser@p1226-kvm1 ~]$ cd benchmarks/scripts/tf_cnn_benchmarks
이 directory에 들어있는 tf_cnn_benchmarks.py를 수행하면 됩니다. 이때 다음과 같은 parameter를 주고 수행하면 됩니다.
먼저, GPU를 1개 이용한 테스트입니다. 아래 테스트는 NVIDIA P100 GPU를 이용한 것입니다만 공식적인 수치는 아니며 환경에 따라 또 다른 수치가 나올 수 있으니 참고용으로만 쓰십시요.
(wmlce_env) [cecuser@p1226-kvm1 tf_cnn_benchmarks]$ python tf_cnn_benchmarks.py --num_gpus=1 --batch_size=32 --model=resnet50 --variable_update=parameter_server --data_format=NHWC --num_batches=640
Done warm up
Step Img/sec total_loss
1 images/sec: 224.9 +/- 0.0 (jitter = 0.0) 8.108
10 images/sec: 225.9 +/- 0.2 (jitter = 0.6) 8.122
20 images/sec: 226.0 +/- 0.2 (jitter = 0.4) 7.983
...
620 images/sec: 221.4 +/- 0.6 (jitter = 0.7) 7.772
630 images/sec: 221.4 +/- 0.6 (jitter = 0.7) 7.676
640 images/sec: 221.5 +/- 0.6 (jitter = 0.7) 7.779
----------------------------------------------------------------
total images/sec: 221.40
만약 GPU 2장을 쓰고 싶으시면 아래와 같이 --num_gpus=1 대신 --num_gpus=2를 쓰시면 됩니다.
(wmlce_env) [cecuser@p1226-kvm1 tf_cnn_benchmarks]$ python tf_cnn_benchmarks.py --num_gpus=2 --batch_size=32 --model=resnet50 --variable_update=parameter_server --data_format=NHWC --num_batches=640
GPU의 성능이 제대로 나오고 있는 것인지 보는 가장 직관적이고 좋은 방법은 이 동일한 테스트를 CPU로 돌려보는 것입니다. 아래와 같이 --device=CPU를 쓰시면 CPU로만 수행이 가능합니다. 역시 CPU 성능 및 개수와 밀접한 상관이 있으므로, 아래 수치는 참고로만 쓰십시요.
(wmlce_env) [cecuser@p1226-kvm1 tf_cnn_benchmarks]$ python tf_cnn_benchmarks.py --device=CPU --batch_size=32 --model=resnet50 --variable_update=parameter_server --data_format=NHWC --num_batches=640
Done warm up
Step Img/sec total_loss
1 images/sec: 3.0 +/- 0.0 (jitter = 0.0) 8.108
10 images/sec: 3.0 +/- 0.0 (jitter = 0.0) 8.122
20 images/sec: 2.9 +/- 0.0 (jitter = 0.0) 7.983
...
620 images/sec: 2.9 +/- 0.0 (jitter = 0.0) 7.750
630 images/sec: 2.9 +/- 0.0 (jitter = 0.0) 7.667
640 images/sec: 2.9 +/- 0.0 (jitter = 0.0) 7.805
----------------------------------------------------------------
total images/sec: 2.91
----------------------------------------------------------------
참고로 위 GPU 테스트를 수행할 떄의 nvidia-smi tool을 보면 아래와 같이 GPU 사용률을 보여줍니다.
Tue Oct 20 04:23:57 2020
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 440.33.01 Driver Version: 440.33.01 CUDA Version: 10.2 |
|-------------------------------+----------------------+----------------------+
| GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
|===============================+======================+======================|
| 0 Tesla P100-SXM2... On | 00000001:00:01.0 Off | 0 |
| N/A 51C P0 240W / 300W | 15677MiB / 16280MiB | 96% Default |
+-------------------------------+----------------------+----------------------+
+-----------------------------------------------------------------------------+
| Processes: GPU Memory |
| GPU PID Type Process name Usage |
|=============================================================================|
| 0 16243 C python 15667MiB |
+-----------------------------------------------------------------------------+
