生成AIを手軽に導入できるオンプレミス生成AIパッケージ 『Insight Buddy』をリリースしました

ChatGPT

オンプレ生成AI 自社情報を熟知した貴社だけの業務パートナー

動作するChatGPTなど、ネットワークを通じて社外でデータ処理するサービスに対し、自社内に設置したサーバー上など組織の管理下にある環境でサービスを動作させること。オンプレとも略される。 ※2:LLM 
Large Language Models(大規模言語モデル)。大量の学習データを用いて人間の言語を語彙の出現確率としてモデル化し、コンピュータによる文章生成などに活用するシステム。 「CodeLlama」はMeta社のLlama 2モデルをベースに、プログラムに特化させたLLM。※3:ファインチューニング 
学習済みのLLMに対し異なるデータセットを用いて再トレーニングすることで、目的とするタスク向けにLLMのパラメータ、動作が最適なものになるよう微調整すること。 ※4:PoC 
本格導入や開発に先立って部分的・限定的なテストを行うことで、実現可能性や効果を検証するプロセスのこと。概念実証とも訳される。 

▼『Insight Buddy』の特徴 

○中小企業の実態に合わせた柔軟な導入が可能 

 『Insight Buddy』はオープンソースLLMの活用により、継続的な利用にかかるライセンス費用がかからない環境を構築しました。自社内にシステム部門があり、一定のシステムメンテナンスが可能であれば、利活用におけるランニングコストは不要です。また、LLMのアップデートを含めた運用サポートはチケット制としており、必要な際に追加購入可能なため、状況に応じた柔軟な運用が可能です。 

 また、ハードウェア面については生成AIの台頭によるGPUのニーズが高まり、価格の高騰や調達リードの延長が続いております。『Insight Buddy』はLLMを量子化することによって、必要な動作環境の軽減を行っており、一般的なデスクトップ向けに販売されているGPUメモリ24GBの環境でも動作可能にし、ハードウェアの調達が比較的容易になっています。企業の状況に合わせた導入・運用に対応可能です。 

○RAGによる社内データの効率的な活用 

 社内データをLLMに追加学習させる場合、膨大な学習時間が必要となりますが、『Insight Buddy』はRAG※5と呼ばれる技術の活用により、LLM自身が随時学習外の情報を検索して回答することで、追加学習の必要なく社内のデータを活用可能となります。さらに、都度の再学習が不要となるため、常に最新の売上データや在庫情報などを活用することができ、日々の状況が経営のカギとなる中小企業にとっては、常に最新の情報をもとにした経営判断ができるという点で最適な環境となりえます。 

『RAGのない世界』と『RAGのある世界』の比較
※5:RAG(Retrieval Augmented Generation)
LLMによる回答生成を補完するため、外部ソースへの適宜アクセスを行うことで、回答品質を向上させるAIフレームワークの1つ。日本語では、「検索拡張生成」、「取得拡張生成」などと訳される。

○オンプレミスゆえの高いセキュリティ 

 オンプレミスによる生成AIの導入により、LLMの活動を社内に限定することが可能になり、情報管理およびコンプライアンスの面から、外部に発信することが望ましくない情報のやり取りを社内に留めることができます。また、自社のセキュリティポリシーに準じた運用が可能となるため、既存のセキュリティを維持することが可能です。

 『Insight Buddy』は社内のサーバー上で動作し、RAGによる参照先も社内データに限定することが可能なため、利用者の回答が社外に発信されることは一切ありません。 

○導入スケジュール

『InsightBuddy』導入スケジュール

○価格一覧

PoC期間中

PoC期間中の価格一覧

PoC終了後(保守契約)

PoC終了後の価格一覧

サーバー

稼働確認済みの端末をご案内いたします。

稼働確認済み端末の例

 ・FRONTIER FRGAG-B760/KD43(NVIDIA RTX4090 24GB)
 ・DELL PowerEdge R7625 Rack Server(NVIDIA L40S 48GB 2台)

無料オプション

オンプレAKT-Light:業務ログ分析ソフトAKTを3か月間無料でお使いいただけます。

その他サービス

都度工数に応じたお見積りをさせていただきます。


▼今後の展開 

 ハードウェアメーカーとの連携により、GPUやPC、サーバーの調達を含めた総合的な導入提案を展開する体制を整えており、あらゆる企業が生成AIを活用できる環境を手軽に構築できるようサポートしてまいります。PoCからの導入となり、その後の活用提案、導入コンサルティング、本格導入にかかる費用は内容に応じての見積となります。ただし、PoCで構築した環境はそのまま社内資産として活用し続けていただくことが可能です。 

 今後は、より企業の生産性・効率性を高められるように、定期的に作成するルーティン資料の自動生成や、定期配信、プログラミング以外の様々な分野の強みを持ったLLMとの連携などの機能拡張を開発、リリースを予定しております。 

株式会社 日本AIコンサルティング

 大阪府吹田市豊津町 1-31 ヨシタケビル3F
 製品ページ:https://j-aic.com/service/insightbuddy 
 電 話 番 号:06-6369-7870
メールアドレス:insightbuddy@j-aic.com

株式会社 日本AIコンサルティング

株式会社 日本AIコンサルティング

私たちの理念は「楽しめるチームをつくる!」。AIによる「効率的」で「楽しい」チームデザインのソリューションを提供する“チームデザインテック”を展開。人の行動を計測し、分析・評価した結果をチーム設計やマネジメントにフィードバック、生産性、存続可能性の向上を支援。人と時間のInputが減るからこそ、必要な効率的チームデザインと、Outputを高めるための楽しい働き方&挑戦の機会創出をお手伝いします。

引用

生成AIを手軽に導入できるオンプレミス生成AIパッケージ 『Insight Buddy』をリリースしました
株式会社日本AIコンサルティングのプレスリリース(2024年4月22日 16時26分)生成AIを手軽に導入できるオンプレミス生成AIパッケージ 『Insight Buddy』をリリースしました

AI・DX・LowCodeなど企業に役立つ情報を発信しています。

タイトルとURLをコピーしました