OS XのOpenCL - その26 [OS XのOpenCL]
OS XでのOpenCLの続き。今日で最後にする。もともとはBayer配列のカメラデータをRGBAに変換したかった。最後にOpenCLを使えばこんなに速く軽くなったぜ、みたいな結論になればカッコよかったんだけど残念ながらそうはならなかった。一応GPU版はできてCPUの負荷を減らすことは(ちょっとだけ)できたので、一応の目的は達したけど、ちっとも速くない。やっぱり地道な最適化しないとダメなんだけどそれはそれ非常に難しい、ということがわかった。
具体的に言うと今日現在でOS X developer LibraryにあるSample CodeのうちタイトルにOpenCLの言葉が含まれているものをあげてみると
こういう状態なのでAppleが独自の実装を使わせたいのか、もうやめたいのか全然わからない。ひどい状況である。
実はここで僕が書いたサンプルコードをいくつかあげようと思っていた。しかし、CPUと比べてもちっとも速くない。最初の目標だったBayer配列の画像をRGBAに変換するのをOS X拡張OpenCLで書いたけど、CPUよりちょっと速いぐらいで、ガイドのガウシアンブラーのように一桁以上速くなるなんていうことはなかった。もちろんガイドがやってるような最適化はほとんどやってないので当然ではある。
もっと単純なモノクロ画像の対数圧縮はnVIDIAを積んだiMacではCPUよりもずっと遅くなった。対数圧縮は単なるピクセルごとのテーブルルックアップなので、簡単すぎてデータアクセスが律速してしまったということだろう。
Appleが使いやすいように簡単にしてくれてるけど、OpenCL、というかGPUの性能を十分に引き出すためには、ただGPUを使えばいい、というわけにはいかなくて、最適化のプロセス、特にメモリアクセスの最適化をまじめにやらないと無意味だということがわかった。
これはsize_tの長さがホスト側(OS Xではunsigned longにtypedefされている)とカーネル側(陽にはわからないがunsigned intらしい)で違っていることが原因らしい。カーネル内部での、例えばget_global_id()関数などがsize_tを返すようになっていてそれと合わせたつもりだった。
OpenCLの標準規格の中であれば整数の精度(ビット幅)はプログラマが意識して合わせることになるが、OS XではXcodeがかってにヘッダを書いてくれて、そこの宣言とあっていればホスト側は問題ないのでビット幅に無頓着になってしまう。
ヘッダの自動生成も良し悪し、ということである。しかしいずれにしても、大した問題ではないけど。
そのためおそらく微妙な調整はOpenCLの本来の規格に従った作業をしないといけない場合があるだろう。実際にそういう必要性を感じたことはないのでよくわからない。例えばcl_contextにエラー時のコールバックを渡したい、というような場合はどうすればいいのかよくわからない。
OS XのOpenCLは、GCDもブロックもオープンソースになっていて少なくともBSDにはポートされているので、「キッシュイータ用のOpenCL」として規格に追加してもいいような気もするんだけど、今の時点では単なるAppleの独自拡張の形になっている。
でも、Appleの独自拡張って、危ないんだよなあ。Javaなんて大宣伝した挙句にあっさり打ち切りだし、これからはガベージコレクションだretain releaseを書かなくてもいいんだぜ、と言った直後にObsoleteだ、使っちゃダメ、だもんなあ。サンプルコードが一つもない、というのも引っかかるよなあ。どうなることやら。
17.1 OpenCLのサンプルコード
AppleのデベロッパライブラリにはOpenCLのサンプルコードがいくつかある。しかし見てみるとどうもOpenCL規格のAPIだけを使ったものばかりに見える。これはどういうことだ。具体的に言うと今日現在でOS X developer LibraryにあるSample CodeのうちタイトルにOpenCLの言葉が含まれているものをあげてみると
- OpenCL N-Body Simulation
- DeviceSelectCLGL
- DeviceSelectCL
- Offline Compilation Using the OpenCL Compiler
- OpenCL_FFT
- OpenCL RayTraced Quaternion Julia-Set Example
- OpenCL Hello World Example
- OpenCL Procedural Grass and Terrain Example
- GPU Histogram
- GPU Histogram
- OpenCL Procedural Noise Example
- OpenCL Parallel Reduction Example
- Trajectories
- OpenCL Procedural Geometric Displacement Example
- OpenCL Parallel Prefix Sum (aka Scan) Example
- OpenCL Matrix Transpose Example
こういう状態なのでAppleが独自の実装を使わせたいのか、もうやめたいのか全然わからない。ひどい状況である。
17.2 自前のサンプルコード
ということで、参考になるサンプルコードは存在しないということがわかった。まあ、FireWire(IEEE1394)のsdkでも似たようなこと(ガイドにしか参考にできるコードが存在しない)があったので驚かない。実はここで僕が書いたサンプルコードをいくつかあげようと思っていた。しかし、CPUと比べてもちっとも速くない。最初の目標だったBayer配列の画像をRGBAに変換するのをOS X拡張OpenCLで書いたけど、CPUよりちょっと速いぐらいで、ガイドのガウシアンブラーのように一桁以上速くなるなんていうことはなかった。もちろんガイドがやってるような最適化はほとんどやってないので当然ではある。
もっと単純なモノクロ画像の対数圧縮はnVIDIAを積んだiMacではCPUよりもずっと遅くなった。対数圧縮は単なるピクセルごとのテーブルルックアップなので、簡単すぎてデータアクセスが律速してしまったということだろう。
Appleが使いやすいように簡単にしてくれてるけど、OpenCL、というかGPUの性能を十分に引き出すためには、ただGPUを使えばいい、というわけにはいかなくて、最適化のプロセス、特にメモリアクセスの最適化をまじめにやらないと無意味だということがわかった。
17.3 実行して気がついたこと
ところで書いていてひとつ、問題が発生した。個数やバイト長さを与える引数(例えばsizeXやiStrideなど)をsize_tで宣言すると実行時できない。Xcodeのデバグモードで見るとカーネルコンパイルが失敗してるらしい。これはsize_tの長さがホスト側(OS Xではunsigned longにtypedefされている)とカーネル側(陽にはわからないがunsigned intらしい)で違っていることが原因らしい。カーネル内部での、例えばget_global_id()関数などがsize_tを返すようになっていてそれと合わせたつもりだった。
OpenCLの標準規格の中であれば整数の精度(ビット幅)はプログラマが意識して合わせることになるが、OS XではXcodeがかってにヘッダを書いてくれて、そこの宣言とあっていればホスト側は問題ないのでビット幅に無頓着になってしまう。
ヘッダの自動生成も良し悪し、ということである。しかしいずれにしても、大した問題ではないけど。
18 まとめ
OS X専用のOpenCLをざっくりみてみた。もとのOpenCLのコードに比べて簡単になる。具体的には- cl_device_idやcl_contextなどお膳立てに必要なものはGCDのキューが隠蔽するので意識する必要がない
- カーネルを呼ぶときは普通の関数を呼ぶのと同じでいい
- カーネル引数も普通の関数に渡すのと同じでいい
- キューへの投入はdispatch_async、dispatch_syncなどGCDの普通の関数が使える
- キューへの投入はブロックが使えるので、その外の自動変数なんかがそのまま書ける
- カーネルが書き換えたデータへのアクセスもブロック内部で書けばいい(キューイングの必要はない)
- ARCをオンにしていれば、キューやブロックのメモリ管理も気にしなくていい
そのためおそらく微妙な調整はOpenCLの本来の規格に従った作業をしないといけない場合があるだろう。実際にそういう必要性を感じたことはないのでよくわからない。例えばcl_contextにエラー時のコールバックを渡したい、というような場合はどうすればいいのかよくわからない。
OS XのOpenCLは、GCDもブロックもオープンソースになっていて少なくともBSDにはポートされているので、「キッシュイータ用のOpenCL」として規格に追加してもいいような気もするんだけど、今の時点では単なるAppleの独自拡張の形になっている。
でも、Appleの独自拡張って、危ないんだよなあ。Javaなんて大宣伝した挙句にあっさり打ち切りだし、これからはガベージコレクションだretain releaseを書かなくてもいいんだぜ、と言った直後にObsoleteだ、使っちゃダメ、だもんなあ。サンプルコードが一つもない、というのも引っかかるよなあ。どうなることやら。
2015-11-26 21:53
nice!(0)
コメント(1)
トラックバック(0)
沒有醫生的處方
cialis diario compra http://cialisvonline.com/ Cialis purchasing
by Cialis generico online (2018-04-15 04:08)