IT is IT.

空想イノベーション

機械学習に欠かせないGPUの発展

f:id:itry:20190209115229j:plain
機械学習、とりわけディープラーニングの発展に欠かせない存在が、CPUやGPUなどのハードウェアの進歩である。
コンピュータには、CPU(Central Processing Unit)とGPU(Graphics Processing Unit)という演算処理装置があり、それぞれ異なった性質を持っている。

スポンサーリンク
 

CPU

コンピュータ全般の作業を処理する。
計算処理や、様々なプログラムを動作させるうえで、様々なタスクを処理していくことに長けている。

GPU

画像処理に関する演算を得意とする。
映像や3D、3DCGなどのを処理する場合、同一画像に同じ演算を一挙に並列的に行う必要がある。
CPUでもこういった処理は行えるが、様々な処理を順に処理していくため、大規模な並列処理に特化したGPUが誕生した。
(一方で、GPUは様々な処理を順に行うことができない)

機械学習においては、決められた処理を大量に並行的に処理する必要があるため、GPUの発展が、今日のディープラーニングの発展に大きく貢献したといえる。

GPGPU

GPUは、もともと画像処理向けに最適化されたプロセッサであるため、画像以外の目的での使用に最適化されたものが、GPGPU(General-Purpose computing on GPU)である。
ディープラーニング向けにGPU(GPGPU)の開発をリードしているのが、NVIDIA社である。
ディープラーニング向けのライブラリの大半は、NVIDIA社製GPUをサポートしており、逆にNVIDIA社製以外はサポートしていないものが殆どといってよい。

TPU

Google社がテンソル計算処理に最適化した演算処理装置を、TPU(Tensor Processing Unit)と呼ぶ。