トップページ

よおこそ

備忘録的な何かということで始めてみましたが全然違うことも書いています．

サイト名は「あまほど しじゅうはっちょう」と読みます．

• 記事一覧

• 英語版（一部記事のみ）

• 自己紹介

• ホストサーバについて

ATSUKAN Project

1. High Performance ATSUKAN Computing
2. 酒冷という選択肢
3. Multi-node High Performance ATSUKAN Computing

最近投稿した記事

1. 2021-07-21 CUDAのカーネル関数の引数はどこに積まれるか？
2. 2021-07-04 google/TensorNetworkのTensor Networkを可視化
3. 2021-07-04 QUIMBでdraw結果をファイルに保存
4. 2021-05-26 LAPACKEのlatmsを使う
5. 2021-05-26 ArchLinuxでBluetoothヘッドフォンの音質が悪い問題への対応

アクセスの多い記事

1. Failed to initialize NVML: Driver/library version mismatch
2. figureのcaption幅の調整
3. [raspberrypi] /boot/cmdline.txtを編集し間違えた際の対応
4. 古いGPUでCUDAのインストールに失敗する場合の対応
5. Beamerでページ番号を消したり総ページ数から無視したり

最新記事

CUDAのカーネル関数の引数はどこに積まれるか？

何の話か

関数呼び出しは引数をスタックに積んで行われることが多いかと思いますが、CUDAのカーネル関数の場合はどうなの？という話です。
ドキュメントの何処かに書いてあるのかもしれませんが、仮説があれば文献を当たるより実験したほうが速いので実験してみましたという話です。
仮説というのは「カーネル関数の引数はConstantメモリに積まれる」です。

実験

このコードでptxasのverboseを見てみます。

コンパイルはこのコマンド。

nvcc main.cu -ptx --ptxas-options=-v

で、出力されたptxasのverboseを見やすくしたものがこちら。

intの引数が一つ増えるに連れ、cmemの使用量が4Byteづつ大きくなっていることが確認できます。
intをdoubleに変えると8Byteづつ大きくなります。
仮説は正しいということですね。

ちなみにPTXではld.param.u32でロードされます。
これはメモリアクセスではありますが、GlobalメモリやSharedメモリへ対する命令ではないので、やはりConstantメモリな気がしますね。

Constantメモリは同一アドレスに複数スレッドがアクセスした際にブロードキャストができるので、このような引数に対しては最適な置き場とも言えそうです。
少なくとも貴重なレジスタを消費する形ではなかったのは良かったです。

おわりに

きっとCUDAのDocumentationに書かれているのでしょうねー