NVIDIA AI Enterpriseを構築する際に知っておくべきこと ~NVIDIA提供の認定システムカタログの使い方~ 【トゥモロー・ネット テックブログ】
NVIDIA AI Enterpriseのブログ第二弾として、NVIDIA AI Enterpriseを構築する際に知っておくべきことについて解説します。
一般的にはAI向けのハードウェア選定をする際に、高スペックのCPUやGPU、大容量のメモリや高速なネットワークカードなどを選定したいと考えますが、無闇にハードウェア選定をすることにより動作不良を引き起こす可能性があります。NVIDIA AI Enterpriseを活用する際には、是非以下の内容を参考にしてください。
目次
NVIDIA AI Enterpriseを構成する場合、ハードウェア構成は勝手に決めない
AIインフラを構築する上で忘れてはならないことは、AIアプリケーションを導入したときにパフォーマンスが発揮できる環境でなければ、処理時間に影響が出てしまうということです。処理性能の高いCPU、メモリ、ディスクを選択することも大切ですが、AIインフラで重要なコンポーネントはGPUです。選択するOSやファームウェアによっては動作しなかったり、動作してもパフォーマンスが遅かったりすることが考えられます。これらのコンポーネントを検証し、パフォーマンスが問題なく発揮できる構成としてハードウェア構成を認定しているのがハードウェアベンダーやNVIDIA社となります。NVIDIA AI Enterpriseはリファレンスアーキテクチャ(※)に準拠していることからハードウェア選定の段階からNVIDIA社のホームページの認定システムカタログ(次章でご紹介)を参照の上で選定する必要があります。
(※)ソリューションを構成するIT製品やITサービスの推奨される構造や統合方法を示すドキュメント、またはドキュメントセットであり、業界で認められたベストプラクティスがまとめられており、一般的には特定のテクノロジーの最適なデリバリ方法が記載されている
ウィキペディア リファレンスアーキテクチャを参照
認定システムカタログについて
前章でリファレンス アーキテクチャの準拠した構成を選択しなければNVIDIA AI Enterprise環境が動作しないもしくは期待したパフォーマンスが出せないことがあり得ることをお話しましたが、ここでは実際にNVIDIAが提供する認定システムカタログについて説明します。
認定システムカタログのURL: https://www.nvidia.com/ja-jp/data-center/data-center-gpus/tesla-qualified-servers-catalog/
認定サーバーカタログの画面
NVIDIA AI Enterpriseに絞った条件設定
上記の認定カタログを閲覧すると、下の方に認定されているサーバーの一覧が表示されます。このままの条件ではNVIDIA社が認定しているサーバーとGPUが全て表示されてしまいますので、ここでNVIDIA AI Enterpriseに絞った条件を以下のように設定します。
ステップ1
カタログ・ワークロード・システム クラス・NVIDIA 認定の種類の各項目について希望の項目を設定します。
ステップ2
NVIDIA AI Enterpriseに関しては、カテゴリにおいては「AIとデータサイエンス」を選定します。
ステップ3
ワークロードについて選定する際には、主に利用する用途としては、「ディープラーニング トレーニング」もしくは「データセンター推論」が多いため、ここでは「データセンター推論」を選定します。
ステップ4
システムクラスについては、高性能のモデルは現状検索結果が少ないところもあり、ここでは「エントリー」を選定します。
ステップ5
最後にNVIDIA認定の種類についての選択項目ですが、NVIDIA AI Enterpriseの項目に関しては、「AIエンタープライズベアメタル」もしくは「AIエンタープライズvSphere」を選定します。
これらの項目を設定すると以下のような結果が表示されます。(検索結果が多くなるため、ここではSupermicroのみの検索結果のみを表示しています)
結果の表示
認定システム カタログを絞りこむと結果が表示されます。結果の表示に関しては、サーバーベンダー/サーバーモデル/NVIDIA GPU/GPU接続/最大GPU搭載枚数/CPUシリーズ/最大CPU搭載個数/検証の種類が表示されます。
こちらの表示されているサーバーモデルに合わせてGPUおよびCPUシリーズを選定することが推奨されます。
検証の種類
検証の種類に関しては、以下の種類に分類されます。
- NVIDIA-Certified :NVIDIA社にて認定されている構成 一連のテストに合格済み(GPU/ネットワーク)
- Qualified :特定のNVIDIA GPUに対して(ハードウェアベンダーより)認定されている構成
- NGC-Ready :コンテナ運用時の高いパフォーマンスが実証された認定サーバーにNVIDIA GPUを搭載したサーバー構成
上記認定内容で、一番望ましいのはNVIDIA-Certifiedとなります。いわずとも知れたことですが、これはNVIDIA社がNVIDIA AI Enterpriseの環境で動作を認定している構成だからです。
それ以外のものについては、サーバーベンダーで構成としてサポートしてはいますがNVIDIA社で検証していないものや、NGC(NVIDIA GPU CLOUD)で認定されているものとなりますので、動作として動く可能性はありますがパフォーマンス面での認定まではしていないものとなります。
NVIDIA AI Enterpriseを導入する際に、これらを満たしていない場合はNVIDIA社からのサポートが受けられない場合がありますので、予めご注意下さい。
トゥモロー・ネットがご支援できること
トゥモロー・ネットではNVIDIA AI Enterpriseの導入サービスをご提供しております。認定サーバーの確認も販売の際にご一緒に確認しておりますので是非お気軽にお問合せください。
お問合せ先
AIインフラ、NVIDIA製品の導入・保守に関するご相談・ご質問・資料請求など各種お問合せはこちら
関連ページ
NVIDIA AI Enterprise トゥモロー・ネット推奨モデルのご紹介はこちら
漫画でわかる「NVIDIA AI Enterprise」はこちら
関連記事
クラウドコンピューティングとは?仕組みやメリット・デメリットを解説
この記事の筆者
株式会社トゥモロー・ネット
クラウドソリューション本部
トゥモロー・ネットは「ITをもとに楽しい未来へつなごう」という経営理念のもと、感動や喜びのある、より良い社会へと導く企業を目指し、最先端のテクノロジーとサステナブルなインフラを提供しています。設立以来培ってきたハードウェア・ソフトウェア製造・販売、運用、保守などインフラに関わる豊富な実績と近年注力するAIサービスのコンサルティング、開発、運用、サポートにより、国内システムインテグレーション市場においてユニークなポジションを確立しています。
インフラからAIサービスまで包括的に提供することで、システム全体の柔軟性、ユーザビリティ、コストの最適化、パフォーマンス向上など、お客様の細かなニーズに沿った提案を行っています。
カテゴリー
タグ
- #ストレージ(ソフト)
- #VMware
- #Veeam Backup & Replication
- #AIインフラ
- #AMD EPYC
- #スケールアウトNAS
- #NVIDIA H200
- #NIC
- #LLM
- #AI
- #エンタープライズ
- #NVIDIA
- #NVMe
- #画像生成AI
- #コア
- #スケールアップ
- #NVIDIA A800
- #Ethernet
- #水冷サーバー
- #CPU
- #GPU
- #グリーンコンピューティング
- #SSD
- #NVIDIA H100
- #スレッド
- #スケールアウト
- #NVIDIA L40
- #Network
- #NVIDIA RTX 6000 Ada
- #Supermicro
- #GPUサーバー
- #グリーンIT
- #SAS SSD
- #ソフトウェア・デファインド・ストレージ
- #クロック周波数
- #Qumulo
- #SXM
- #InfiniBand
- #NVIDIA RTX A6000
- #Intel
- #マイグレーション
- #空冷
- #SATA SSD
- #Seagate
- #ECCメモリ
- #RedHat
- #PCle
- #NVIDIA MIG
- #NVIDIA B200
- #AMD
- #レガシーアプリ
- #水冷
- #NVMe SSD
- #OSNEXUS
- #PCIレーン数
- #人工知能
- #SDS
- #DNN
- #ProphetStor
- #サーバー
- #Windowsアップデート
- #Numecent
- #バックアップ
- #シーゲイト
- #L2 Cache
- #ChatGPT
- #水冷技術
- #NVIDIA Hopper アーキテクチャ
- #朝日新聞
- #AVD
- #Azure Virtual Desktop
- #エンタープライズバックアップソリューション
- #EXOS AP
- #ストレージグリッド
- #コンテナ化
- #L4
- #NVLink
- #ICXセンター
- #クラウドVDI
- #DX
- #Veritas NetBackup/BackupExec
- #EXOS CORVAULT
- #セキュリティ
- #OS
- #NVIDIA L4
- #NVSwitch
- #Windows10サポート終了
- #Windows10リプレース
- #アプリケーション
- #Acronis Backup
- #QuantaStor
- #SaaS
- #Docker
- #冷却機能
- #GPUアーキテクチャ
- #Windows Update
- #マイクロソフト
- #ランサムウェア
- #IBM Spectrum Protect
- #VMware
- #PaaS
- #Kubernetes
- #アプリケーション仮想化
- #vGPU
- #Cloudpaging
- #Intel筐体
- #サイバー攻撃
- #ArcServe
- #vSAN
- #仮想化
- #ITインフラ
- #アプリ仮想化
- #データセンター
- #ソフトウエア・ディファインド・ストレージ
- #AMD筐体
- #情報セキュリティ
- #NAS
- #HCI
- #IaaS
- #NVIDIA A100
- #Citrix
- #オンプレミス
- #ストレージ
- #VMware Explore
- #マルウェア
- #Network Attached Storage
- #Hyperconverged Infrastructure
- #パブリッククラウド
- #レガシーアプリケーション
- #ThinApp
- #エッジコンピューティング
- #ソフトウェア
- #NVIDIA AI Enterprise
- #ExaGrid
- #AI Enterprise
- #仮想化ストレージソリューション
- #ハイブリッドクラウド
- #NVIDIA L40S
- #App-V
- #ニューラルネットワーク
- #ストレージ(ハード)
- #VMware Tanzu
- #Veeam
- #NVAIE
- #Intel Xeon
- #マルチクラウド
- #NVIDIA A40
- #Microsoft Application Virtualization
- #ディープラーニング
アーカイブ
- 2024年11月 (4)
- 2024年10月 (15)
- 2024年9月 (10)
- 2024年8月 (10)
- 2024年7月 (10)
- 2024年6月 (11)
- 2024年5月 (10)
- 2024年4月 (10)
- 2024年3月 (8)
- 2024年2月 (9)
- 2024年1月 (8)
- 2023年12月 (11)
- 2023年11月 (8)
- 2023年10月 (14)
- 2023年9月 (9)
- 2023年8月 (8)
- 2023年7月 (11)
- 2023年6月 (3)
- 2023年5月 (1)
- 2023年4月 (6)
- 2023年3月 (1)
- 2023年2月 (6)
- 2023年1月 (1)
- 2022年12月 (4)
- 2022年11月 (4)
- 2022年10月 (4)
- 2022年9月 (3)
- 2022年8月 (4)
- 2022年6月 (5)
- 2022年5月 (3)
- 2022年4月 (1)
- 2022年3月 (4)
- 2022年1月 (1)
- 2021年11月 (3)
- 2021年10月 (2)
- 2021年7月 (2)