たかいとの備忘録

自然言語処理や機械学習のことについて学んだことを忘れないように書いていけたらと思います．

RTX A6000の購入を決意した話

はじめに

データ分析コンペに参加し始めて3年目を終えようとしていますが，「実力不足」×「時間不足」×「分析環境不足」の3不足状態でのコンペソロ参加は負けが続いており，コンペ終盤ではLBの下の方で炭治郎メンタルになる日々を過ごしております．

何とかこの状況を打破したいと考え，この度GPUの購入を決意しました．

「実力不足」に関しては，参加し続けることで少しずつ成長していくしか道はなく，「時間不足」に関しても仕事が第一なので，消去法で「分析環境不足」を解消することにしました．

実際，実力も時間もない中で，週に使えるkaggleのGPU時間の制約，GPU notebookの実行時間の制約，使用できるメモリの制約（モデルサイズやバッチサイズなど）などを考慮してモデルを学習させるのに精一杯で，＋αの工夫をする余裕がないことの方が多かったです．

もちろん，GPUなしで上位に食い込む解法があるコンペも存在しますが，やはり上位争いできるコンペが制限されることや，試せることが制限されてしまうのは大きなディスアドバンテージでした．

そこで，以前にも少し調べていたことを踏まえて2択まで候補を絞り，以下のようなツイートをしたところ，ありがたいことに多くのコメントやご意見をいただくことができました．（ありがとうございます！）

この記事は，いただいたコメントの紹介と，それらを踏まえてRTX A6000を自身が選んだ理由を残したものです．

GPUの購入を検討している人の参考になれば幸いです．

RTX A6000 1枚 vs RTX3090 2枚に対するコメントなど

いただいたリプライ or 引用リツイート（Special Thanks!）

鍵アカからのリプライ

予算的に余裕あるならA6000がいいと思います！ 1GPUの方が便利なこと多いです！

関連するツイート

RTX A6000購入の決め手

いろいろな情報を踏まえた上で，RTX A6000の購入を決めました．

規模の大きいモデルを学習させることができる

近年，モデルのパラメータ数や扱いたいデータサイズは大きくなる一方なので，48GBは最大の魅力でした．

マシン構成がシンプル

初めてのGPU購入で複数GPUでの構築は，少しハードルを感じました．

並列で実験を回すためには，それ以外のパーツのグレードアップが必要ですし，排熱なども気をつかう必要があるなどがハードルを感じる理由となります．

また，電気代が高騰しているので，消費電力（夏場の冷房なども含む）が増えるのは地味に痛い出費だと思いました．

今後，本当に必要になったら2枚目のRTX A6000を購入して，2枚構成にしたいと思います．

おわりに

想定したよりも，非常に多くの方の考えを共有いただき，感謝しております．

今回は，自身のお財布事情で，RTX A6000 一枚購入ぐらいの価格帯で検討しているというツイートに対して，それより上側の情報共有が多かったですが，実際にこれからコンペを始めるとかであれば，kaggleで無料で使える範囲から試しつつ， RTX3090，A4000，RTX4090あたりを1枚購入とかからでも十分かと思っております．

そのあたりに関しては，記事とかいろいろあるかと思いますので，そちらを参照してもらえたら幸いです． （例えば，前にこういった記事を紹介していただいたことがあります．A4000という選択 - Qiita）

実際に購入してどうだったかについても，そのうち共有できたらと思っております．（ものすごく快適に分析回せてますという報告になるか，事故報告になるかわかりませんが）

良いGPU手に入れたのに上位争いできないようでは，ネタにされかねないので，引き続き頑張りたいと思います．

また，分析環境が整って，実力ももう少し着いたら，序盤からチーム組んでわいわいコンペしたいなと思っております．（経験不足&学習環境最弱過ぎて，ソロ参加ばかりしてきたので）

最後まで読んでいただきありがとうございました．

今後とも，どうぞよろしくお願いいたします．