NVIDIAは2024年6月2日、Computex 2024にあわせて基調講演を行い、エンタープライズからコンシューマーまで様々な発表を行った。
基調講演では発表内容の一部を触れていたが、それ以外にも多くの発表を行っている。NVIDIAが提供するハードウェアからソフトウェアまで、急速に機能向上が行われており、今後も様々な強化が行われ、AI関連で世界を変えていくことをアピールした。
コンシューマ関係
NVIDIAのGeForce RTXを搭載したAI対応製品
NVIDIAとしては、現時点の45TOPS程度のSoC内のNPU機能は軽いAI機能向けで、GPUでの200〜1300TOPSは大きなAIモデルでよりパフォーマンスを求める重たいAI用途向け、更に上はクラウド上のデータセンターでというような状況にしている。
重いAI用途ではGeForce RTXを初めとしたクライアントPCで行えば、サーバーコストを抑えられ、プライバシー問題もないとしている。
NVIDIA RTX AI Toolkit
学習済みのモデルをどう最終製品で活用するかという点で、ファインチューニングやメモリ効率化のQLoRa、モデル最適化のTensorRT Model Optimizer、それをデプロイして最終的な形にするTensorRT Cloudなどで構成される。
AI Toolkitで構成することで、従来は1秒48トークン、17GB VRAMでRTX 4090が必要だったのが、1秒187トークン、5GB VRAMになり、RTX 4050で動作出来るようになる。
NVIDIA AI Inference Manager SDK (AIM)
学習済みのモデルをどう最終製品で活用するかという点で、ファインチューニングやメモリ効率化のQLoRa、モデル最適化のTensorRT Model Optimizer、それをデプロイして最終的な形にするTensorRT CloudをAI Workbench
NVIDIA Ace NIMs for RTX AI PCs
バーチャル画像などのDigital Humanを簡単に生成できる機能。
ゲーム内のNPC、エンターテイメント、カスタマーサービスなどに活用出来る。
Project G-Assist: GeForce Power AI Assistants
AIアシスタントがゲームの攻略方法、よりスムーズに動作させるためのゲームの設定などをアシストしてくれるような機能。
DLSS対応のゲーム
DLSS対応ゲームが増えている。
RTX Acceleration for ComfyUI
Stable Diffusionを使った画像生成がRTXを使って高速化。
10倍というのはAppleのM2 Ultraに比べると、1Kの画像生成速度が10倍という意味。
RTX Remixのオープンソース化
Comfy UIとの統合
RTX Video機能がVLCとDaVinci Resolveに搭載
超解像とHDRに対応。
NVIDIA App beta
AV1のShadowPlayの負荷が低下
GPUの負荷を簡単に確認できるように
PC Game PassにGeForce Reword
GeForceのSFF
SFF-Ready(スモールフォームファクター対応)のEnthusiast GeForce Cardガイドラインを設定
カードの長さを304mm、ケース内のカード長さは312mmにするなど。
エンタープライズ関係
8年間でパフォーマンスは1,000倍に向上、電力効率は45,000倍に向上
NVIDIA GB200 NVL2
NVIDIA NIM
すべての環境で利用可能。
NVIDIA Developer Programからも
Robotic Factories Supercharge Industrial Digitalization with Electronics Makers Adopt NVIDIA AI and Omniverse
AIやOmniverseなどを使った工場のデジタル化が進む
Industrial Robotics Ecosystem Adopts NVIDIA Issac
産業用ロボットがNVIDIA Issacに対応
Enterprise Software Availability on NVIDIA IGX
エンタープライズ向けにNVIDIA IGXのOrionシリーズなどでのソフトウェアの強化
