PyTorchでの学習・推論を高速化するコツ集

PyTorchでの学習・推論を高速化するコツ集 curated
PyTorchでの学習・推論を高速化するコツ集

本記事では、NVIDIAから発表されているPyTorchでのディープラーニングを高速化するコツ集を紹介します。 本記事について 本記事は、NVIDIAのArun Mallyaさんの発表、 「PyTorch Performance Tuning Guide – Szymon Migacz, NVIDIA」 に、説明やプログラムを追加して、解説します。 本記事のポイントは、Andrej KarpathyがTwitterで呟いている通りとなります。 good quick tutorial on optimizing your PyTorch code ⏲️: https://t.co/7CIDWfrI0J quick summary: pic.twitter.com/6J1SJcWJsl — Andrej Karpathy (@karpathy) August 30, 2020 これを分かりやすく、解説します。 ※ 講演動画 ※ 講演スライド ※Andrej Karpathy ImageNetを整えたフェイフェイ・リー先生のところで博士号を取得 現在はテスラのAI部門のディレクター ImageNetで人の性能はエラー率5%とあるが、あの結果を出すために、ヒト代表でやったImageNetに挑戦した人 本記事の内容 内容の注意点 DataLoaderについて(num_workers、pin_memory) torch.backends.cudnn.benchmark […]

Click here to view original web page at qiita.com

コメント

タイトルとURLをコピーしました