PRODUCT
製品紹介
ソフトウェア
GPU処理高速化ソフト
Federator.ai GPU Booster
今後より精度の高いAIアプリケーションを開発するためには、さらに莫大な数のデータを取り扱い、その学習時間に要するリソースは膨大です。
大量のGPUサーバーの利用効率化はAIアプリケーション開発における最重要課題と言えるでしょう。
Federator.ai GPU Boosterは、独自AI技術によりAIの学習フェーズにおけるGPU利用効率化を最大限に引き出し、多くの課題を解決します。
こんな課題を解決
AI/MLにおける様々なワークロードの設定が困難
LLMトレーニング、モデル推論、画像認識など様々な処理特性をもつワークロードに対して、最適なGPUリソースの割り当て/設定を行うことは困難です。
マルチテナント環境の複雑化
コンテナ環境(Kubernetesなど)上で作成したマルチテナント上で、ユーザーグループ間や組織でのAI/MLタスクを
共有化した際に、GPUの最適な設定を導き出すことは至難の業です。
GPUリソースの希少性
全世界で争奪戦となっているGPU自体を組織で効率的に利用することは、AI開発競争における重要な課題です。
高額な運用/環境コスト
GPUサーバーは、高額なハードウェアコストに加えて、1台数千ワットもの消費電力(運用コスト)が必要です。AI開発において、このGPUサーバーを数台～数百台必要とするため、大量の消費電力を必要とし、多くの環境負荷が発生します。
製品概要
Federator.ai GPU BoosterはGPUリソースを最適化することで処理を高速化するソリューションです。
複雑で動的変化の激しいAI/MLのワークロードに対して、独自AI技術によるGPUリソースの利用状況解析を行い、最適なGPUリソース設定を分析・提供。NVIDIA MIG (Multi-Instance GPU)の最適設定を自動化し、最大約50%リソース効率化を実現します。
LLMトレーニングモデルにおけるGPU最適化サイクル
ProphetStor Data Services, Incとは
社名: ProphetStor Data Services, Inc.
CEO & Co-Founder: Eric Chen
本社: カリフォルニア州 ミルピタス
その他拠点: フランス、日本、台湾、香港
設立: 2012年
事業内容:
エンタープライズやクラウドサービス内の仮想基盤/データサービスを提供するリソースを独自AI技術により、自動的に効率化する製品とサービスの提供。
特許関連: 取得済み14個、申請中10個
製品の特長と利点
GPUリソース配分を独自AI技術分析により予測
GPU Boosterの独自AI技術により、AI/MLのワークロードに必要なリソースの予測値を分析
GPUリソースの最適なリソース配分・設定を分析する独自AIアルゴリズムを採用
既存Kubernetes環境とのシームレスな統合
既存で利用しているKubernetes環境上のAL/MLワークロードに対して、自動的に最適なリソース配分分析が可能
GUI管理によるGPUリソース状況把握
GUI表によるGPUリソースの詳細状況を表示
GPUコンポーネント内の各コアインスタンスの利用状況を時系列で表示
最適化前のGPUリソース状況
Federator.aiの可視化ツールで表示しているGPUリソースの利用状況。
GPU Boosterを適用前では、H100 x8の各GPUコア利用率は、全体平均36.2%にとどまる。
GPU Booster利用後の最適化されたGPU利用
Federator.aiの可視化ツールで表示しているGPUリソースの利用状況。
GPU Boosterを適用後では、H100 x8の各GPUコア利用率は、全体平均89.79%まで高まる。
製品の活用例
AIアプリケーション開発の高速化
AIアプリケーション開発における学習フェーズでのGPUリソースの効率化(時間短縮、消費電力削減)によるESG貢献
学習フェーズの短縮化が可能なため、AIアプリケーション開発のスピード化による顧客ビジネスの拡大に貢献。
大規模言語（LLM)や画像認識などに活用できます
製品のよくある質問
その他のモデルに対しても効果はありますが、現在多くのシステムでLLMを利用した大規模なシステムが展開されているため、本ソリューションで最も効果を発揮します。
