メモリーの壁を越えこれからのAI推論を最適化し、GPUのパワーを最大化してアプリケーションを高速化！
『MemoryAI KV Cache Server』は、CXLメモリーを活用して 大規模で高性能な推論をサポートするKVキャッシュサーバーです。 AI推論において計算されたキーバリューペアを保存して 再利用することで、GPUメモリーからの負荷を軽減。 メモリー制約を解消して初回トークン取得までの時間を短縮し、 要求の厳しいワークロードにおいて優れたパフォーマンスを実現します。 【特長】 ■メモリーの制限を突破 ■拡張の制限なし ■高速AI処理 ■GPUの効率をアップ ※詳しくはPDFをダウンロードしていただくか、お気軽にお問い合わせください。
この製品へのお問い合わせ
基本情報
【仕様(一部)】 ■プロセッサータイプ：AMD EPYC 9005 series ■最大TDP：500W ■メモリータイプ：DDR5-6400 MT/s ■メモリー容量：Up to 3TB DDR5 ■CXLメモリー容量：Up to 8TB(CXL based memory DIMMs) ※詳しくはPDFをダウンロードしていただくか、お気軽にお問い合わせください。
価格帯
納期
用途／実績例
※詳しくはPDFをダウンロードしていただくか、お気軽にお問い合わせください。
カタログ（1）
カタログをまとめてダウンロード
この製品に関するニュース（1）
企業情報
企業に変革をもたらす最先端テクノロジーほど、その導入や最適化には高度な専門性が求められます。 ペンギンソリューションズは、AIファクトリープラットフォームカンパニーとして、革新的な技術、専門知識、そして強固なパートナーシップを基盤に、お客様のAI活用を現実のビジネス価値へと導きます。 クラウドからコア、エッジ領域まで、あらゆるレベルで高性能、高信頼性のソリューションを設計、構築、展開、管理し、お客様が高速コンピューティングの力を最大活用できるようにします。 ペンギンソリューションズの価値の提案 ■ シンプルかつ簡単に実装 ■ 脅威やシステム停止からの保護 ■ 自律型システム
