OpenAIは13日、APIモデルに対するいくつかの重要な更新を発表しました。
これらの更新には、新たな関数呼び出し機能の追加、モデルの改良、そしてコスト削減が含まれています。
アップデート内容
関数呼び出し機能
関数呼び出し機能は、OpenAIのAPIモデルが外部のツールやAPIとより効果的に連携するための新たな機能です。
具体的には、開発者はgpt-4-0613やgpt-3.5-turbo-0613といったモデルに対して、特定の関数を記述することができます。
そして、モデルはその関数を呼び出すための引数を含むJSONオブジェクトを出力するように選択します。
たとえば、開発者が「天気を調べる」という関数を記述した場合、ユーザーが「ボストンの天気は？」という質問をしたとき、モデルは「get_current_weather(location: ‘Boston’)」という形式のJSONオブジェクトを出力します。
これにより、開発者はこのJSONオブジェクトを利用して外部の天気情報APIを呼び出し、ボストンの天気情報を取得することができます。
この機能は、GPTの自然言語処理能力と外部ツールやAPIとの間の接続をより信頼性の高いものにするための一歩となります。
これにより、開発者はユーザーの自然言語の入力を直接API呼び出しやデータベースクエリに変換することが可能になり、より効率的なアプリケーション開発が可能となります。
GPT-3.5-Turboの16kコンテキストバージョン
OpenAIは、GPT-3.5-Turboの新バージョン、gpt-3.5-turbo-16kをリリースしました。
この新バージョンは、一度のリクエストで理解し処理できるテキストの量を大幅に増やすことが可能です。
「コンテキスト長」とは、AIモデルが一度に理解できるテキストの範囲を指します。
従来のGPT-3.5-Turboは4k（4000トークン）のコンテキスト長を持っていましたが、新しい16kバージョンはこれを4倍の16k（16000トークン）に拡張します。
この拡張により、モデルは一度のリクエストで約20ページのテキストを理解し処理できるようになります。
これにより、長い文章や複雑な会話を扱うためにGPT-4を選択する必要がなくなります。
ただし、価格は従来のGPT-3.5-Turboより高めで、1Kの入力トークンあたり$0.003、1Kの出力トークンあたり$0.004の料金がかかります。
PriceDown
一部モデルで価格の値下げが行われました。
下記に変更前と変更後、さらに新しく追加されたモデルの値段を記載しました。
| モデル名 | 変更前の価格（1Kトークンあたり） | 変更後の価格（1Kトークンあたり） |
|---|---|---|
| text-embedding-ada-002 | $0.0004 | $0.0001 |
| gpt-3.5-turbo（入力トークン） | $0.002 | $0.0015 |
| gpt-3.5-turbo（出力トークン） | $0.002 | $0.002 |
| gpt-3.5-turbo-16k（入力トークン） | – | $0.003 |
| gpt-3.5-turbo-16k（出力トークン） | – | $0.004 |
text-embedding-ada-002は75%、gpt-3.5-turboの入力トークンは25%それぞれ価格が安くなっています。
新しいモデル
関数呼び出し機能の実装に伴って、機能に対応したgpt-4-0613・gpt-4-32k-0613とgpt-3.5-turbo-0613をそれぞれリリースしました。
また、古いVersionのgpt-3.5-turbo-0301、gpt-4-0314・gpt-4-32k-0314はモデル名を指定することで引き続き利用可能なものの、9月13日でサービス終了するとのことです。
おわりに
今回のアップデートで、独自のデータや長文に対応したチャットAIの開発が容易になり、より効率的なアプリケーション開発が可能となりました。
今後もOpenAIは、ユーザーのニーズに応じてAPIモデルの改良を続けていくと発表しています。
今後のさらなる更新により、どんどんAIの可能性が広がっていきますね。
引用
