生成AIのパフォーマンスは日々向上していますが、より優れたAIを動かすためには、より多くのVRAM(ビデオランダムアクセスメモリ)が必要になります。例えば画像生成AIのStable Diffusion 3.5のうち、80億のパラメータを持つ最も強力な「Large」を実行する場合、基本モデルは18GBのVRAMを使用します。このVRAM使用量を削減して、より効率的なパフォーマンスで実行できる技術をN…
このサイトの記事を見る
画像生成AI「Stable Diffusion 3.5 Large」の18GBを超えるVRAM使用量を40％も削減して11GBにする新技術をNVIDIAが公開
