性能向上と価格低下を誇り、突如GPT-4oの新バージョンがリリースされました。

総合的な機能向上により、ZeroEval ベンチマーク テストで 1 位に躍り出ました。

入力と出力はそれぞれ 50% と 33% 削減されます。

切り捨ては API 価格が下がることを意味します。

トークン出力は、以前は 4k をサポートしていましたが、16k に拡張されました。

9.11と9.9のどちらが大きいかという疑問もスムーズに解決できます。

これは、OpenAI が API に構造化された出力を導入したためです。

JSON スキーマを使用すると、モデル出力が開発者によって定義された構造に準拠することが保証され、モデルの信頼性とセキュリティが向上します。

最新モデル「GPT-4o-2024-08-06」は、JSONスキーマ評価で100%のスコアを獲得しました。

比較すると、バージョン GPT-4-0613 のスコアは 40% 未満でした。

コード編集の点では、最新バージョンは以前のバージョンと同じベンチマークスコアを持ちますが、コストは以前の半分だけになりました。

また、この新しいバージョンは OpenAI の画像入力用モデルの中で最も安価なものであることも発見した人もいます。

APIは構造化された出力をサポート

昨年の OpenAI DevDay で、公式チームは開発者がアプリケーションを構築できるように、GPT-4 に JSON モードを導入しました。

JSON スキーマはモデルの信頼性を向上できますが、生成されたモデル結果が特定のスキーマに準拠することを保証するものではありません。

そのため、今回のアップデートでは、OpenAI は API に構造化された出力を導入し、モデルによって生成されたコンテンツが開発者が提供する JSON スキーマと一致するようにしました。

主な形式は 2 つあります。

1. 関数呼び出し: 関数定義で strict:true を設定すると、構造化された出力が呼び出されます。

この機能は、gpt-4-0613およびgpt-3.5-turbo-0613を含むすべてのモデルタイプに適用されます。構造化出力を有効にすると、モデル出力は指定されたツール定義と一致します。

2. response_format パラメータの新しいオプション。

開発者は、json_schema (response_format パラメータの新しいオプション) を介して JSON スキーマを提供できます。

これは、モデルがツールを呼び出すのではなく、構造化された方法でユーザーに応答する場合に便利です。この機能はgpt-4o-2024-08-06およびgpt-4o-mini-2024-07-18で動作します。`response_format`に`strict: true`を指定すると、モデルの出力は指定されたパターンと一致します。

OpenAI は、ローカル構造化出力をサポートするために Python および Node SDK を更新しました。

さらに、新しいモデルは安全な出力を重視しています。既存のセキュリティルールに準拠し、モデルが安全でないリクエストを拒否する状況を開発者が識別できるように、拒否文字列値を導入します。

構造化された出力は、ユーザー インターフェイスを動的に生成したり、最終的な回答を推論プロセスから分離したり、非構造化データから構造化データを抽出するなど、さまざまなユース ケースにも使用できます。

最後に価格ですが、入力価格は100万トークンあたり2.5ドル、出力価格は100万トークンあたり10ドルです。

新しいモデルは入力と出力の面でより経済的であるため、切り上げによっても価格が下がります。

この新しいモデルの出力は以前のバージョンほど長くなく、コストもより制御可能であることに気付いた人もいます。

参考リンク:
https://openai.com/index/intr...