メモリーの壁を越えこれからのAI推論を最適化し、GPUのパワーを最大化してアプリケーションを高速化！
『MemoryAI KV Cache Server』は、CXLメモリーを活用して 大規模で高性能な推論をサポートするKVキャッシュサーバーです。 AI推論において計算されたキーバリューペアを保存して 再利用することで、GPUメモリーからの負荷を軽減。 メモリー制約を解消して初回トークン取得までの時間を短縮し、 要求の厳しいワークロードにおいて優れたパフォーマンスを実現します。 【特長】 ■メモリーの制限を突破 ■拡張の制限なし ■高速AI処理 ■GPUの効率をアップ ※詳しくはPDFをダウンロードしていただくか、お気軽にお問い合わせください。
この製品へのお問い合わせ
基本情報
【仕様(一部)】 ■プロセッサータイプ：AMD EPYC 9005 series ■最大TDP：500W ■メモリータイプ：DDR5-6400 MT/s ■メモリー容量：Up to 3TB DDR5 ■CXLメモリー容量：Up to 8TB(CXL based memory DIMMs) ※詳しくはPDFをダウンロードしていただくか、お気軽にお問い合わせください。
価格帯
納期
用途／実績例
※詳しくはPDFをダウンロードしていただくか、お気軽にお問い合わせください。
カタログ（1）
カタログをまとめてダウンロード
企業情報
ペンギンソリューションズ(旧社名 ストラタステクノロジー)は、40年に渡り全世界で無停止型コンピューターのハードウェアおよびソフトウェアを提供してきた企業です。あらゆる分野で社会インフラやビジネスの連続稼働を可能にし、安心して生活できる環境や人命、ビジネス資産の保護や収益の確保に貢献してきました。 近年、IoT技術やAIの活用が様々な業界で広がり、デジタルトランスフォーメーションへの取り組みが加速する中、「エッジコンピューティング」の重要性が高まっています。ストラタスは豊富なエッジでの導入実績を元に、データを実用的なインテリジェンスへと変化させ、稼働時間と効率を向上させる支援を継続的に行います。 ストラタステクノロジーはエッジでもお客様の業務や資産を守り、「止まらない」安心を提供致します。 ペンギンソリューションズの価値の提案 ■ シンプルかつ簡単に実装 ■ 脅威やシステム停止からの保護 ■ 自律型システム
