機械学習に欠かせないGPUの発展
機械学習、とりわけディープラーニングの発展に欠かせない存在が、CPUやGPUなどのハードウェアの進歩である。
コンピュータには、CPU(Central Processing Unit)とGPU(Graphics Processing Unit)という演算処理装置があり、それぞれ異なった性質を持っている。
スポンサーリンク
CPU
コンピュータ全般の作業を処理する。
計算処理や、様々なプログラムを動作させるうえで、様々なタスクを処理していくことに長けている。
GPU
画像処理に関する演算を得意とする。
映像や3D、3DCGなどのを処理する場合、同一画像に同じ演算を一挙に並列的に行う必要がある。
CPUでもこういった処理は行えるが、様々な処理を順に処理していくため、大規模な並列処理に特化したGPUが誕生した。
(一方で、GPUは様々な処理を順に行うことができない)
機械学習においては、決められた処理を大量に並行的に処理する必要があるため、GPUの発展が、今日のディープラーニングの発展に大きく貢献したといえる。
GPGPU
GPUは、もともと画像処理向けに最適化されたプロセッサであるため、画像以外の目的での使用に最適化されたものが、GPGPU(General-Purpose computing on GPU)である。
ディープラーニング向けにGPU(GPGPU)の開発をリードしているのが、NVIDIA社である。
ディープラーニング向けのライブラリの大半は、NVIDIA社製GPUをサポートしており、逆にNVIDIA社製以外はサポートしていないものが殆どといってよい。
TPU
Google社がテンソル計算処理に最適化した演算処理装置を、TPU(Tensor Processing Unit)と呼ぶ。