OpenAIは2024年7月18日にコスト効率に優れた小型モデル「GPT-4o mini」を発表しました。
この新モデルは、従来のモデルに比べて桁違いに手頃な価格で、より多くのアプリケーションにAIを導入することを可能にします。
GPT-4o miniはMMLUで82%のスコアを獲得し、競合の軽量モデルより優れたパフォーマンスを発揮します。
価格は入力トークン100万個あたり15セント、出力トークン100万個あたり60セントで、GPT-3.5 Turboよりも60%以上安価です。
このモデルは、複数のモデル呼び出しを連鎖または並列化するアプリケーションや、大量のコンテキストをモデルに渡すアプリケーション、リアルタイムのテキスト応答が必要なカスタマーサポートチャットボットなど、広範なタスクに対応するための低コストと低レイテンシーを提供します。
GPT-4o miniは、テキストとビジョンをサポートしており、将来的にはテキスト、画像、ビデオ、オーディオの入力と出力もサポートする予定です。
128Kトークンのコンテキストウィンドウとリクエストごとに最大16Kトークンの出力をサポートし、2023年10月までの知識を持っています。
GPT-4oと共有する改良されたトークナイザーにより、非英語テキストの処理もよりコスト効率が高くなっています。
GPT-4o miniは、GPT-3.5 Turboや他の小型モデルを学術ベンチマークで上回り、テキストインテリジェンスとマルチモーダル推論において優れた性能を示しています。
また、外部システムとのデータ取得やアクションを実行するためのアプリケーション構築に必要な関数呼び出しでも強力なパフォーマンスを発揮します。
安全性についても、GPT-4o miniはGPT-4oと同様の安全対策が組み込まれており、開発プロセスの各段階で強化されています。
専門家による評価とともに、安全性を高めるための新しい技術を導入し、API内での使用においても信頼性を向上させています。
現在、GPT-4o miniはAssistants API、Chat Completions API、Batch APIで利用可能で、開発者は15セント/100万入力トークン、60セント/100万出力トークンで利用できます。
ChatGPTでは、Free、Plus、Teamのユーザーが本日から、Enterpriseユーザーは来週からアクセス可能になります。
今後もOpenAIは、「コストを削減しながらモデルの能力を向上させることを目指し、AIの未来をよりアクセスしやすく、信頼性の高いものにしていくことを約束します」としています。
引用
