2024年12月13日、Microsoftは新たな小型言語モデル「Phi-4」を発表しました。 このモデルは、14B(140億)パラメーターというコンパクトなサイズながら、複雑な数学的推論を得意とすることで注目されています。Phi-4は、小型言語モデル(Small Language Model, SLM)の「Phi」シリーズの最新作として、従来の言語処理能力に加え、高度な数学的課題解決能力を備えています。
Phi-4は現在、Microsoft Research License Agreement (MSRLA)のもとAzure AI Foundryで利用可能で、来週にはHugging Faceでの提供も予定されています。
Phi-4の性能と特長
Phi-4は、特に数学的推論の分野で優れた性能を発揮します。この成果は、高品質な合成データセットや厳選された有機データの活用、さらには革新的なポストトレーニング手法を通じて実現されました。これにより、モデルサイズと品質のバランスをさらに押し広げることに成功しています。
例えば、Phi-4は数学コンペティション問題で、多くの大規模モデル、たとえば「Gemini Pro 1.5」を凌駕する結果を示しています。これにより、小型モデルが大規模モデルに匹敵する、あるいはそれ以上の成果を上げられる可能性を示しています。技術的な詳細については、arXivで公開されている最新の論文をご覧ください。
責任あるAIの開発を支える取り組み
Microsoftは、AIの安全で責任ある開発を最優先としています。Phi-4やその前身である「Phi-3.5-mini」などのモデルにおいても、この取り組みが一貫して反映されています。Azure AI Foundryを活用することで、開発者はAIモデルやアプリケーションの品質と安全性を評価し、リスクを測定・軽減するための多彩な機能を利用できます。
また、Azure AI Content Safetyの機能を通じて、プロンプトの安全性や保護対象コンテンツの検出、情報の信頼性確認といったツールを提供しています。これにより、開発者はAPIを使って簡単にこれらの機能をアプリケーションに統合でき、運用中のモデルの監視やリアルタイムアラートを活用して迅速な対応が可能になります。
Phi-4の実践
Phi-4が可能とする数学的推論の一例は、この問題において示されています。
引用