LLM／RAGシリーズ

ローカル環境で、精度の高い生成AIを。

生成AIの活用が広がる中、社内データを活かしたLLMやRAGをローカル環境で構築したいという声が増えています。クラウドでは機密データの管理が難しいケースもあり、ローカル環境での運用が注目されています。

とはいえ、LLMやRAGの導入には、ハードウェアの準備、生成AIモデルの選定、システム環境の構築、開発ツールのセットアップなど、技術的なハードルや、手間がかかるのも事実です。

そこで「LLM／RAGシリーズ」は、これらの負担を大幅に削減し、すぐに使える環境と構築スタートを支援するオールインワンソリューションです。

用途に応じた3つの製品をご用意し、初期構築の手間を削減しながら、すぐに開発に着手できる環境をお届けします。

＜最新情報＞
2025年8月、LLM／RAGシリーズは最新の「NVIDIA RTX™ PRO Blackwell」世代GPUに対応し、全モデルが刷新されました。これにより、生成AIモデルの学習や推論処理をより高速かつ効率的に行えるようになり、より高度な業務利用にも対応可能となりました。

また、スターターセット、業務活用セットには、プレインストールする生成AIモデルに、LlamaやGemmaに加え、OpenAIの「gpt-ossシリーズ」を新たに追加。業務用途やPoCに適した複数のモデルを活用できます。

▶ LLM／RAG構築作業の流れ

LLM／RAGシリーズを導入することで、生成AIモデルの選定や導入、システム環境の構築にかかる手間や時間を大幅に削減できます。

「LLM／RAGシリーズ」の特長

「LLM／RAGシリーズ」は、ローカル環境での生成AIの構築をすぐに始められるオールインワンソリューションです。

セキュアなローカル環境

オンプレミスで運用するため、機密情報の流出リスクを最小限に抑え、安全なAI環境を実現します。

GPU搭載で高性能処理

最新のNVIDIA GPUを搭載し、大規模言語モデル(LLM)の推論やRAGのデータ検索・処理をスムーズに実行できます。

LLM／RAGに必要なツールをプレインストール

LlamaやGemma、gpt-ossなどの生成AIモデル、RAG開発ツール「Dify」などをセットアップ済み。
導入後すぐに開発をスタートできる環境を提供します。

「G-RAGon」により初期回答精度90％を実現！※1

独自開発した「G-RAGon」は導入後、すぐにRAGの精度を向上させることが可能です。Wordファイル(.docx)、PDFファイル(.pdf)に対応。
RAGの調整にかかる手間を削減し、より正確な応答を実現します。※1当社社内チャットボット検証結果

システム構築から初期導入サポートまでワンストップ

システム環境構築からツール設定、初期導入のサポートまで一貫対応。
「使い方マニュアル」と「Q&Aチケット」により、導入後も安心してお使いいただけます。

 (※)スターターセットならびに業務活用セットには、Q＆Aチケットを3枚無償で付属しています。（トライアルキットには含まれておりません）

LLM／RAGシリーズ こんな方におすすめ！

・ クラウドではなく、安全なローカル環境でLLM／RAGを運用したい

・ 社内データでRAGを構築し、業務に役立てたい

・ RAGの精度を向上させたい

・ ツールの選定や構築にかかる手間や時間を削減したい

・ 初期費用を抑えてまずは試してみたい

・ 製造業・金融・医療など、高度なセキュリティが求められる業界の方

LLM／RAGシリーズ ラインナップ

お客様の導入フェーズや活用レベルに応じて、3つの製品ラインアップをご用意しています。

✓ トライアルキット・・・まずはRAG／LLMを試してみたい方向け
✓ スターターセット・・・開発やPoCをスムーズに始めたい方向け
✓ 業務活用セット・・・業務でしっかり使いたい・高精度な応答を求める方向け

トライアルキット

GeForce搭載モデル

563,720 円 ～

・Lepton Novos(5070Ti) 詳細はこちら
・Lepton Novos Pro(5090) 詳細はこちら

スターターセット

スタンダードモデル

2,071,000 円 ～

スターターセット 詳細はこちら

業務活用セット

「G-RAGon」搭載モデル

2,871,000 円 ～

業務活用セット 詳細はこちら

業務活用セットには、RAGの初期回答精度90％を達成※1した自社開発の「G-RAGon(ジー・ラグ・オン)」を搭載。

「G-RAGon」は、Chunking(文書分割)とプロンプトの自動最適化により、RAGの初期回答精度を向上させ、手作業での調整を大幅に削減します。また、ナレッジデータのバックアップ機能を搭載し、RAG運用の負担を軽減することができます。

当社のGPUハードウェア専門家とAIエンジニアが連携し、ワンストップでLLM／RAG構築の立ち上げをサポート。
すべて一貫して当社で対応するため、スムーズかつ安心して導入いただけます。
これひとつで、ローカルLLM／RAGの構築をスピーディーに開始できます。※1当社社内チャットボット検証結果

LLM／RAGシリーズ管理ツール(独自開発)

LLM／RAGシリーズには、サービス状態チェックや生成AIモデルの動作チェックなど、システム管理者向けの管理ツールも同梱されています。

・Dify：RAG型のAIアプリケーションの開発に適したユーザ向けツール
・Open WebUI：ChatGPTライクなOllamaに適したユーザ向けツール
・Ollama, Xinference：ローカル環境で様々なAIモデルを動かすことができるツール
・生成AIモデル：テキストなどの新しいコンテンツを生成することを目的としたAIモデル
・Embeddingモデル：RAGを利用する際に文や単語を数値ベクトル(埋め込みベクトル)に変換するモデル。これにより、類似度計算を効率的に行えるようにします。
・Rerankingモデル：検索結果を再評価・再ランキングするために使用されます。検索結果を、よりユーザーの意図に合った形で並び替える役割を持ち、精度向上を目的とします。

ご注意：LLM／RAGシリーズの効果的な運用について
LLM／RAGシリーズを効果的に活用いただくために、以下のような社内体制の整備をご検討ください。

・Ubuntu環境を管理できる人材の確保
　システムの安定運用を実現するためには、社内でUbuntu環境の構築・管理が可能な人材が必要です。

・AI技術に精通した専任者の配置
　RAG導入後も、回答精度の継続的なチューニングや改善が必要となるケースが多いため、運用・保守を担うAI技術担当者の配置を推奨しています。

【メディア掲載】『ASCII×AI』LLM／RAGシリーズ インタビュー記事

IT・テクノロジー系メディア『ASCII×AI』にて、弊社の「LLM／RAGシリーズ」および開発ツール「G-RAGon」について、インタビュー記事が掲載されました。本記事では、生成AI導入における現場の課題や、それを解決するための弊社のアプローチ、G-RAGonの特長、GPUワークステーションとの組み合わせによる運用のポイントなどをご紹介しています。
ぜひ以下より記事をご覧ください。

ASCII.jp：「買ってすぐ業務に使える」ローカル完結型のRAGが生まれた背景 (1/3)

「ビジネスで本格的に生成AIを使うには、やはり社内にある自社固有の情報が必要になります。ただ、そういった情報は、守秘義務があったり、そもそもクラウドに出せないも…

ASCII.jp

よくある質問(FAQ)

Q1. LLMとRAGの違いは何ですか？

LLM

LLM(大規模言語モデル：Large Language Model)は、膨大なテキストデータを学習し、文章の生成・要約・翻訳・コード補完などを行うAI技術です。
代表的なものとして「Llama」「Gemma」などのオープンソースモデルがあり、企業の業務効率化に活用されています。
一般的な知識に関する質問には対応できますが、社内文書や企業独自のデータに基づいた回答を生成するにはRAGを構築する必要があります。

RAG

RAG(検索拡張生成：Retrieval-Augmented Generation)は、LLMに社内等のデータを参照させ、より正確な回答を生成する技術です。
LLM単体では学習データに基づいた一般的な回答しかできませんが、RAGを活用することで、企業の独自データを組み合わせ、業務に特化した精度の高い応答を可能にします。