fmincon を使った最適化処理を複数のGPU で並列処理することはできますか？

Optimization Toolbox の fmincon の実行において、Parallel Computing Toolbox (PCT) を使って複数の GPU カードを使用して高速化することはできるか、教えてください。 

Answer 1

[MathWorks Support Team]

fmincon のUseParallel オプションをtrueにするだけで、内部の勾配の計算が複数のGPUに割り振られます。ただし、高速化に繋がるかどうかは、目的関数内での計算量に依存します。 

Optimization Toolbox 関数の並列計算 

https://www.mathworks.com/help/optim/ug/parallel-computing-in-optimization-toolbox-functions.html

fminconのUseParallelは、内部的にparforが動いており、parpoolで複数のワーカーを起動すると、それぞれのワーカーは自動的に別々のGPUを使った処理を行います。 

参考：Running Monte Carlo Simulations on Multiple GPUs 

https://blogs.mathworks.com/loren/2013/06/24/running-monte-carlo-simulations-on-multiple-gpus/