GDEPソリューションズ株式会社（以下、GDEP-S）は、企業向けソリューションとして、「Llama 3」「Gemma2」等の最新の大規模言語モデル（LLM）をインストールした高性能GPU搭載ワークステーション「LLMスターターセット」の販売を開始いたします。
背景
近年、企業は業務効率化や新規ビジネス開発のため、生成AIモデルの利用を進めています。
特に、機密情報や顧客データのセキュリティ確保が求められる企業では、ローカルで動作するLLM（Local Language Model）への関心が高まっています。
企業がローカルLLMを導入する際には、試験的な導入を通じて自社業務への適用可能性を検証することが一般的です。
しかし、この際にはLLMやフレームワークの選定、ユーザインタフェース（UI）の実装、ハードウェアの選定及びシステム構築など多岐にわたる専門知識が必要となり、その影響で導入費用と開発期間が増大するリスクがあります。
概要
「LLMスターターセット」は、このような課題を抱える企業が、安価かつ短期間で検証環境を導入できるソリューションです。このセットを用いることで、簡単に導入を開始し、その後も自社運用環境として継続利用が可能です。さらに、インストール済みのLLMを効果的に利用するためのQ&Aチケットも提供し、導入後の疑問や問題を迅速に解消するサポート体制を整えています。
ターゲット
データ漏洩リスクを大幅に削減できるローカルLLMによる業務革新とビジネス開発は、以下の分野での導入が進んでいます。さらに、一般的なオフィス業務におけるローカルLLMの浸透も予測されており、これらを担当するAI開発者や企業のIT部門の方々に本製品の導入が進むと考えられます。
- 医療分野
医療データは極めて重要な個人情報であり、個人差も大きいため、ローカルLLMを利用したデータ分析と医療支援システムの構築が効率と正確性を高めるとされています。 - 製造業
AI導入が進んでいる分野であり、ローカルLLMは工場の故障予測や生産性向上のための製造ラインの最適化に効果的です。また、導入ラインからのライブデータを用いた生産管理の効率化にも寄与します。 - 法曹分野
機密情報の観点から汎用LLMの利用が適さない訴訟や係争の分野では、ローカルLLMが過去の判例や判決に基づいた資料や論点作成に有効とされています。 - 教育分野
生徒の学習進捗や興味に個人差があるため、各個人の学習データを基に学習プランを提案する教育システムにはローカルLLMが有効とされています。
■ LLMスターターセットの主な特長
ローカルLLM検証・運用環境の迅速な立ち上げ
高精度な自然言語処理能力を持つLlama 3などがインストールされており、セットアップ時間を大幅に短縮し、すぐに運用を開始できます。
Open WebUIもインストールされており、直感的で使いやすいユーザーインターフェースを提供。これにより、LLMの操作や管理が簡単に行えます。
ローカルLLM使い方マニュアルとQ&Aチケット付き
ローカルLLMの推論機能を使用するためのマニュアルをご提供しています。
ChatGPTをご利用された方であれば違和感なくご利用可能です。また、万が一使い方が分からない場合のために、Q&Aチケットをセットにしています。
安全なデータ管理
オンプレミス環境での運用により、機密データを安全に管理し、外部への漏洩リスクを低減します。
高性能GPU搭載
GPUの高い演算能力は、LLMモデルがより複雑な計算を正確に実行することを可能にします。
■ LLMスターターセット
※為替の変動により価格が変更になる場合があります。
| エントリーモデル | ミッドレンジモデル | |
| 参考販売価格 | 1,980,000円（税抜） | 4,380,000円（税抜） |
| プレインストールアプリ一覧 | ・Meta Llama 3 （8Bモデル） ・Google Gemma2 ・Microsoft Phi-3 ・Ollama ・Open WebUI | ・Meta Llama 3 （8Bモデル / 70Bモデル） ・Google Gemma2 ・Microsoft Phi-3 ・Ollama ・Open WebUI |
| LLMスタートアップ Q&Aチケット | Q＆Aチケット 3 枚付き | Q＆Aチケット 6 枚付き |
| GPU | NVIDIA RTX 4500 Ada [24GB] × 1基搭載 | NVIDIA RTX 6000 Ada [48GB] × 1基搭載 |
| CPU | Intel® Xeon® w3-2423 プロセッサー | Intel® Xeon® w5-2445 プロセッサー |
| システムメモリ* | 64GB DDR5 SDRAM | 128GB DDR5 SDRAM |
| SSD * | 1TB HP Z Turboドライブ G2 | 2TB HP Z Turboドライブ G2 |
| HDD * | 4TBハードディスクドライブ | |
| 表示用GPU | NVIDIA T400 4GB | |
| OS | Ubuntu | |
* システムメモリ、SSD、HDDは増設することができます。
■ LLMスターターセット 発売日
2024年8月9日（金）より弊社および販売代理店を通じて購入可能となります。
LLMスターターの詳細ページはこちら
https://gdep-sol.co.jp/gpu-products/local-llm-starter-set/
また、LLMスターターセットのリリースに伴い、初のセミナーを開催いたします。
以下のトピックを通して、生成AIモデル活用の効率化とセキュアな環境の構築について
詳しくご説明します。
◆ 8/22（木）開催！生成AI × GPU活用術セミナー
生成AIで業務革新シリーズ 入門編 [オンライン・参加費無料]
「データの安全と効率を両立するローカルLLM活用法」
TOPICS
・LLMによる業務効率化の事例
・オンプレミス環境で利用可能な生成AIモデル
・情報漏洩リスク
・LLMをローカル環境で使ってみた結果と効果
・LLMを効果的に運用するためのGPUソリューション
開催日：2024年8月22日（木）15:00 - 16:30
開催形式：オンライン（Zoom）
参加費：無料（事前登録制）
主催 ：GDEPソリューションズ株式会社、プロメテック・ソフトウェア株式会社
後援 ：エヌビディア合同会社、菱洋エレクトロ株式会社
◆ セミナー参加登録・詳細はこちら
https://gdep-sol.co.jp/generative-ai-gpu-seminar/
