東京大学松尾研究室発のAIスタートアップ、株式会社Deepreneur(ディープレナー、本社: 東京都文京区、代表取締役:澤田 悠太、以下「Deepreneur」)は、商用利用可能な70億パラメータの日本語LLM「blue-lizard」を開発し、一般公開致しました。Deepreneurは、「blue-lizard」とその開発ノウハウを企業各社に提供し、従来困難であった自社固有の高精度オンプレ型LLMの構築を支援します。
- 「blue-lizard」について
「blue-lizard」はMetaのLlama-2-7bに対して、Wikipediaや書籍等の日本語の学習データを用いて追加事前学習と独自データによるファインチューニングを実施したモデルです。
70億パラメータと非常に軽量なモデルであるにも関わらず、JGLUE(日本語タスクにおける評価ベンチマーク)を用いた評価では、ChatGPT-3.5を超えるスコアが算出されており、公開されている日本語モデルの中では最高性能になります。
表1:日本語ベンチマークJGLUEでの評価結果(世界)※1
表2:日本語ベンチマークJGLUEでの評価結果(国内)※1
※1 学習データにJGLUEのデータ(train, valid等)が含まれているモデルは比較から除外しています。
ライセンスはLLAMA 2 Community License に準拠しており、Acceptable Use Policy に従う限りにおいては、研究および商業目的での利用が可能です。
- 各社独自LLMの構築サービス提供開始
Deepreneuerは、「blue-lizard」とその開発で得たノウハウ・知見を活用し、各社独自のLLMの構築のサービスを開始致しました。クラウド型はもちろんのこと、従来は困難であったオンプレ型まで、各社の個別の課題・要件に沿った各社独自のLLMの構築から、導入まで一気通貫した支援を実施します。
独自のLLMの構築サービスにご興味のある方は、以下のリンクからお問い合わせください。
https://www.deepreneur.com/contact
- Deepreneur(ディープレナー)について
Deepreneurは、東大・松尾研発のAIスタートアップです。
「AI技術を用いてこれまでにない新しい人間とテクノロジーの関係を築く。」という理念のもと、最新のDeep Learning技術を活用したAI・システムの開発、「blue-lizard」の提供、独自LLMの構築・導入支援を通じて、企業のDXを推進いたします。
代表者:代表取締役 澤田悠太
所在地:東京都文京区本郷6丁目25番14号 HONGO EGG内
設立:2023年4月28日
URL:https://www.deepreneur.com/
引用