すぐに試せるローカルLLM/RAG環境
初期セットアップ不要で導入を加速!

「LLM/RAGスターターセット」は、NVIDIA GPU搭載ワークステーションに、Llama やGemmaなどの
最新の大規模言語モデル(LLM)や、RAG開発ツール「Dify」をプレインストール
した、
ローカル環境でのLLM/RAG導入を支援するオールインワンソリューションです。
初期セットアップ不要で、システム構築の手間や時間を大幅に削減します。

また、ローカル環境での運用により、機密データを安全に管理しながら、セキュアな環境でのAI活用が可能。
クラウド環境のコストやデータ管理の課題を解決しながら、スムーズにLLM/RAGを導入できます。

試験導入から本格活用への移行も見据えたハードウェア構成で、LLM/RAGのシステム構築をサポートします。

LLM/RAGスターターセット 特長

最新のLLMとRAGツールをプレインストール

​LlamaやGemmaなどの最新の大規模言語モデル、およびRAG開発ツール「Dify」を事前にインストール済み。
複雑な初期設定を省き、導入後すぐにLLM/RAGの構築を開始できます。

高性能GPU搭載ワークステーション

​NVIDIA® RTX™ 4500 AdaやRTX 6000 Adaを搭載したエントリーモデルとミッドレンジモデルをラインナップ。
高い演算能力とLLM/RAG構築に適したGPUメモリを備え、快適なLLM/RAG構築環境を提供します。

安心のセキュリティとデータ保護

ローカル環境での運用により、機密性の高いデータを外部に出さずに管理可能。データセキュリティを重視する企業に最適です。 ​

充実のサポート体制

Q&Aチケットやコンサルテーションが付属しており、導入初期の疑問や運用上の課題にも迅速に対応できます。
安心してご利用いただけます。

LLM/RAGスターターセットV2の構成

1. ハードウェア構成 | 高性能GPU搭載で安心のLLM/RAG運用

nvidia-rtx-4500ada
NVIDIA RTX 4500 Ada
[エントリーモデル]
hp-z4-g5-gpuworkstation-4
HP Z4 G5 Workstation
[エントリーモデル]
エントリーモデルミッドレンジモデル
参考販売価格(税抜)1,628,000 円 2,766,000 円
ワークステーションHP Z4 G5 WorkstationHP Z8 Fury G5 Workstation
計算用GPUNVIDIA RTX 4500 Ada [24GB] × 1基NVIDIA RTX 6000 Ada [48GB] × 1~3基
CPUインテル® Xeon® w3-2423 プロセッサー
(2.1GHz 最大4.2GHz / 6コア / 15MB / 4400MHz)
インテル Xeon w5-3435X プロセッサー
(3.1GHz 最大4.7GHz / 16コア / 45MB / 4800MHz)
システムメモリ*64GB ~64GB
SSD*1TB HP Z Turboドライブ G2
(内蔵M.2スロット接続 TLC NVMe SSD)
2TB HP Z Turboドライブ G2
(内蔵M.2スロット接続 TLC NVMe SSD)
HDD*4TBハードディスクドライブ
(SATA / 7200rpm)
OSUbuntu 24.04
光 学ドライブDVD-RW
キーボード、マウス標準添付
モニターなし
保守3年間翌日オンサイト(休日修理付き)
GPUに関してはセンドバック保証3年
筐体サイズ幅 169 mm × 奥行 445 mm × 高さ 386 mm幅 216 mm × 奥行 556 mm × 高さ 445 mm
消費電力775 W2250 W

2. LLM/RAGプレインストールソフトウェア | 手間なく導入、すぐに開発開始

最新のLLMモデル、ChatGPTライクなUI、LLMアプリ開発プラットフォーム「Dify」 などを事前にプレインストール・セットアップ し、LLM/RAG環境構築の手間を大幅に削減します。

エントリーモデルミッドレンジモデル
プレインストール
AIアプリケーション
フレームワーク
ユーザインターフェース/
AIアプリケーション開発ツール
Dify
OpenWebUI
AIモデル実行ツールOllama
Xinference
生成AIモデルMeta Llama 3 [8Bモデル]
Meta Llama 3.2 [11Bモデル]
Google Gemma 2 [9Bモデル]
Microsoft Phi-4 [14Bモデル]
Qwen2.5 [14Bモデル]
Meta Llama 3 [8Bモデル / 70Bモデル]
Meta Llama 3.2 [11Bモデル]
Meta Llama 3.3 [70Bモデル]
Google Gemma 2 [9Bモデル / 27Bモデル]
Microsoft Phi-4 [14Bモデル]
Qwen2.5 [14Bモデル / 32Bモデル]

QwQ [32Bモデル]
Embeddingモデルnomic-embed-text
Rerankingモデルbge-reranker-v2-m3
パートナーアプリblueqat RAG
Q&Aチケットケット 3枚

3. サポートについて|専門エンジニアがバックアップ

導入後のスムーズな運用を支えるためのサポート体制をご用意しています。
マニュアル・Q&Aチケット・専門エンジニアのサポート で、導入後の疑問や不安を解決します。


◆ 導入後も安心のサポート

「使い方マニュアル」付属 → 導入後すぐに活用可能
「Q&Aチケット」付属 → 専門エンジニアへの質問 & コンサル対応可


◆ 柔軟な対応が可能

今後も順次、対応アプリを追加予定!
インストール内容のカスタマイズも可能ですので、お気軽にお問い合わせください。

LLM/RAGシリーズ ラインナップ

LLM/RAG業務活用セット

RAG初期回答精度80%達成!「G-RAGon」搭載モデル

eyecatch-nvidia-gpu-llocal-llm-rag-ragon

Q. スターターセットと業務活用セットの違いは?

A. 違いは「G-RAGon」が標準搭載されているかどうか です。

  • LLM/RAGスターターセット
    → LLMやRAGの試験導入や、基本的なRAG構築・運用を行いたい方向け
    → Difyなどの一般的なRAGツールをそのまま活用し、自社で調整できる方に最適
  • LLM/RAG業務活用セット
    → RAG回答精度改善・運用支援ツール「G-RAGon」を標準搭載!
    → RAGの精度向上に時間をかけたくない、すぐに業務適用したい方におすすめ

RAGの回答精度向上のノウハウがあり、手動で最適化できる方はスターターセットで十分!

効率よくRAGを調整し、高精度な回答精度を早期に構築したい方は業務活用セットがおすすめ!

どちらが最適か迷われる場合は、お気軽にご相談ください。

LLM/RAGスターターセット FAQ

 Q1. LLMもRAGも使ったことがないのですが、導入後すぐに使用できますか?
 A. はい、ユーザマニュアルを添付しておりますので、そちらを見て頂ければすぐに使うことができます。


 Q2. 「LLM/RAGスターターセットV2」を購入して試した後に、「LLM/RAG業務活用セット」にバージョンアップしたいのですが、そのようなことはできますか?

 A. はい、「LLM/RAGスターターセットV2」から「LLM/RAG業務活用セット」へのソフトウェアセットのアップグレードは個別でご提供しております。詳しくはお問合せ下さい。


 Q3. 「LLMスターターセット」「RAGスターターセット」を購入しましたが、「LLM/RAGスターターセットV2」にバージョンアップできませんか?

 A. 「LLMスターターセット」「RAGスターターセット」をご購入頂いたお客様には、「LLM/RAGスターターセットV2」のソフトウェアセットへのバージョンアップを無償でご提供しております。


 Q4. エントリーモデルからミッドレンジモデルへのアップグレードはできますか?

 A. いいえ、エントリーモデルとミッドレンジモデルのベースとなるワークステーション、GPUの種類が異なるためアップグレードはできません。
 将来の拡張性を重視する場合は初めからミッドレンジモデルをお買い求め下さい。


 Q5. エントリーモデルとミッドレンジモデルでインストールされている生成AIが違うのは何故ですか?

 A. 生成AIが動作するためのGPUメモリが、生成AI毎に異なるためです。生成AIは、GPUメモリに入りきらなければ十分な性能を得られません。
 RTX4500 Adaには24GBしかGPUメモリが搭載されておりませんので、24GBに入りきるサイズの生成AIをご用意しております。

Q6. ソフトウェアのバージョンアップ版の提供頻度はどれくらいですか?

A. 数ヵ月から6か月に1度程度を予定しております。

Q7. ソフトウェアのバージョンアップ版の提供は有償ですか?

A. ご導入後1年間は無償でご提供しております。2年目以降はアップデートサービスをご契約頂ければご提供いたしますのでお問合せ下さい。

Q8. 自分でUbuntuやドライバーのバージョンアップを行っても大丈夫ですか?

A. お客様ご自身でUbuntu、GPUドライバー、DifyやLLM等のアプリのバージョンアップを行った場合、ソフトウェア間の連携が取れなくなって動かなくなる可能性が高く、その場合はサポート対象外となります(約款をご覧ください)。
弊社では定期的にソフトウェアセットのバージョンアップ版をご提供しておりますのでそちらをお待ち頂くか、ご自分でバージョンアップを行う場合は、バージョンアップ前の状態に戻せるようにバックアップを取ってからバージョンアップを行うようお願い致します。

Q9. OSSを使ったことがないのですが、自分でLLMやRAGを構築しようとした場合はどのような難しさがありますか?

A. OSSで提供されるアプリケーションやツール類は、マニュアルや技術的な解説が十分に提供されていない場合がほとんどです。
また、それぞれのOSSが独立して提供されていますので、複数のアプリを連携させて動作させたり、バグがあった場合の技術的な調査やソースコード解析などをお客様ご自身で行ったり、OSSのコミュニティを利用して解決する必要が出てきます。
その他に、UbuntuやGPUドライバーのバージョンとの相性もあり、アプリのバージョンアップをする度に動作検証とデバッグが必要となります。このような難しさがありますので、OSSの管理やソフトウェアの実装に詳しいエンジニアの知識が必須となります。

Q10. Difyの新しいバージョンを使いたいのですが、自分でバージョンアップをしても問題ありませんか?

A. Difyをバージョンアップすると、ナレッジデータが消失したり動作しなくなる可能性が高いのでおやめ下さい。どうしてもバージョンアップの必要がある場合は個別に対応しますので、弊社営業までお問い合わせ下さい。

Q11. なぜOSはUbuntuだけで、Windowsをサポートしないのですか?

A. 生成AI関連のOSSはUbuntuだけでしか動作しないものが多いためです。

Q12. 誤ってOSやアプリケーションが破損してしまった場合はどうすればいいですか?

A. 弊社のサポートにご連絡頂ければ、状況に応じて解決方法をご提示させて頂きます。万が一の事態に備えて、OSディスク全体のバックアップを取っておくことを推奨しております。

Q13. Q&Aチケットはどのようなときに使えばいいですか?て使っても大丈夫ですか?

A. ユーザマニュアルの分からない部分について使用できます。RAGの精度を上げるための文書の作り方や、サポート外の使用方法等に関するご質問には使えません。
ただし、Q&Aチケットを2枚使用することで、生成AIやRAGに関するコンサルテーションを実施しております。詳しくは約款やサービス仕様をご覧ください。

Q14. ハードウェアの故障やソフトウェアが全く動作しないような場合もQ&Aチケットを消費しますか?

A. トラブルシューティングではQ&Aチケットは消費しません。サポートにトラブルの内容をご連絡下さい。

Q15. インストールされているDifyや生成AI等にバグがあることが分かりました。このようなバグのサポートもしてもらえますか?

A. 弊社のサービスはお客様の代行インストールとなっており、OSSの不良等の責任を負いません。AS ISでご利用頂く前提となっておりますので、ご理解よろしくお願い致します。
ただし、必要と考えられる機能にバグがある場合には、バグフィックスがリリースされた時点で更新版に積極的に取り込むようにしております。

Q16. LLM/RAGシリーズを使うメリットは、使いやすさや回答精度、価格以外に何がありますか?

A. 弊社では、コンピュータシステムの設計・開発・構築経験のあるインフラエンジニアチームと、生成AIの技術開発チームの両方を有しており、新技術の開発と取り込みを行ってお客様の生成AI活用の利便性向上に努めております。この体制により、常に最新技術の情報発信と商品提供を行っておりますので、バージョンアップ等を通してご購入後の資産の有効活用や、新機能の活用が可能になると考えております。