インターネット接続環境がなくても生成AIを活用できる「Panorama AI Box」をリリース

2024年7月16日

SDT株式会社（代表取締役：乾泰行、以下SDT）は、工場や病院といった高いセキュリティが要求される環境においても生成AIを活用できる「Panorama AI Box」をリリースしました。

■背景

2022年11月にChatGPTが発表されて以来、生成AIについてウェブやマスメディアで見ない日は無いと言えるほど世の中に広まっています。あらゆる業種のお客様で生成AIの活用が検討されており、チャットサービスの利用にとどまらず、検索拡張生成（RAG）技術を用いた生成AIによる自社データの活用が急速に進みつつあります。しかし、生成AIの活用はインターネットへの接続を必要とするため、工場や病院といった高いセキュリティが要求されるためインターネット接続がない環境では、生成AIを導入しづらい状況となっていました。

株式会社ELYZAの提供する大規模言語モデルである「Llama-3-ELYZA-JP-8B」は、オープンなモデルとして一般公開されているため、ダウンロードしてインターネット接続ができないオンプレミスの環境でも生成AIを活用することができます。「Panorama AI Box」はRAG技術を高度に活用してELYZAと内部データを組み合わせることにより、工場や病院内でも生成AIを活用することができます。

※検索拡張生成（RAG）：Retrieval-Augmented Generationの略であり、LLMがテキストの生成を行う際に、LLMが持たない外部情報の検索を組み合わせることにより、回答の精度を向上させる技術

■特徴

検索拡張生成（RAG）技術により内部データを検索し、その内容に基づいた精度の高い回答を行うことができる「Panorama AI Box」は、以下の3つの特徴を持ちます。

工場や病院などインターネットに接続できない環境でも生成AIを活用することができる
高い日本語性能を持つ最新LLMである「Llama-3-ELYZA-JP-8B」を使用できる
GPT-4のAPIのようなリクエスト単位での従量課金ではないため、運用時の生成AIに関するランニング費用が発生しない

■ユースケース

製造業（工場）:

生産ラインの設備マニュアルや過去の故障履歴と生成AIの連携により、トラブルシューティングや予防保全に活用作業手順書や安全規則を基にして、従業員の質問にリアルタイムで回答

医療機関（病院）:

過去のインシデントレポートの分析による将来起こりえるインシデントのリスク軽減
医療スタッフ向けの最新のガイドラインや各種情報の提供

自治体:

機密性の高い行政文書や議会議事録と生成AIの連携により、政策立案や行政サービスの改善に活用
市民向け行政サービスに対するよくあるご質問の自動更新とチャットボットによる情報提供

■Panorama AIについて

Panorama AIは、検索拡張生成（RAG）技術を活用した生成AIと企業や自治体のデータとの連携により、パノラマのような視点で新しい洞察を提供して未来への道を切り拓くことを目指しています。

これまで、生成AIによるチャットサービス「Panorama AI Agent」、生成AIによる検索サービス「Panorama AI Search」の2つをリリースしており、今回新たに「Panorama AI Box」が加わりました。これらのサービスにより、SDTは国内外のあらゆるシーンでの生成AIの社会実装を進めていきます。
https://panorama-ai.net