フューチャー独自の大規模言語モデルにより高い生成能力を実現
フューチャー株式会社（本社：東京都品川区、代表取締役会長兼社長 グループCEO 金丸恭文、以下フューチャー）は、経済産業省とNEDO（国立研究開発法人 新エネルギー・産業技術総合開発機構）が実施する国内生成AIの開発力強化プロジェクト「GENIAC（Generative AI Accelerator Challenge）」（※1）の支援を受け、2024年10月から「日本語とソフトウェア開発に特化した基盤モデル」の研究開発を行ってきました。この度、本モデルの開発期間が終了し、その成果である基盤モデルを一般公開しました。今後は、評価データセットについても広く公開することで、日本のソフトウェア開発の発展に貢献していきます。
公開URL：https://huggingface.co/future-architect/Llama-3.1-Future-Code-Ja-8B
本プロジェクトは、国立大学法人 東北大学 言語AI研究センター 教授 鈴木潤氏、国立大学法人 奈良先端科学技術大学院大学 自然言語処理学研究室 客員助教 小田悠介氏、公立大学法人 会津大学 コンピュータ理工学科/情報システム学部門 上級准教授 渡部有隆氏らと共同チームで開発を行いました。
開発した「日本語とソフトウェア開発に特化した基盤モデル」は、様々なプログラミング言語において比較対象となるベースモデルに対し、高い生成能力を実現しました。特に日本語の指示によるソースコード補完能力が優れていることが確認できました。また、本基盤モデルは日本語を対象としたものでは例がないFill-In-the-Middle (FIM)（※2）をネイティブサポートしました。
既に当社では、「日本語とソフトウェア開発に特化した基盤モデル」の業務適用に向けた検証を開始しています。ソースコード補完に留まらず、ソースコードに対する自動レビュー生成や、仕様書からのソースコード自動生成など、ソフトウェア開発に関わる幅広い領域に対して、高い生成能力の達成に向けた検証を進めます。
フューチャーはテクノロジーをベースに、20社以上のグループ企業を展開するソーシャルデザインカンパニーとして、先端的なAIの学術研究・研究開発を強力に推し進めています。また、主要事業会社のフューチャーアーキテクト（本社：東京都品川区、代表取締役社長：谷口友彦）とともに、構想から実装まで一気通貫で支援するAIコンサルティングサービスを提供しています。今後も、「最先端のAI研究の推進」と「AI技術の社会実装」を強みに、社会課題の実践的解決に貢献します。
※1.GENIAC https://www.meti.go.jp/policy/mono_info_service/geniac/index.html
NEDO採択事業 https://www.nedo.go.jp/koubo/IT2_100331.html
※2.テキスト生成タスクにおいて、テキストの途中を補完するように訓練する仕組みで、前後の文脈を考慮したコード生成が可能となる手法
引用
