Skip to main content

短い答え

モデルが自分のバージョンを誤って答えることは正常です。これは、誤ったモデルを呼び出した証拠ではありません。 model パラメーターは、主に API サーバーがルーティングに使用します。モデルはその項目を参照できない場合があり、名前がトレーニング後に付けられた場合は最終的なリリース名を知らないことがあります。公式 Web 製品が正しく答えることが多いのは、製品レイヤーがモデルにその ID を伝えるシステムプロンプトを注入するためです。 システムメッセージに ID 情報を追加せず API 経由でモデルを呼び出すと、モデルはトレーニングデータから古い名前を推測する場合があります。

この問題が起きる場面

  • 新しいモデルを呼び出したのに、古いバージョンだと答える
  • 公式サイトは正しいバージョンを答えるが、API 呼び出しは答えない
  • 同じモデルが異なるツールで別の自己紹介をする
  • API Gateway が要求したモデルを呼び出したか確認したい
  • ユーザーが「What model are you?」を確認方法として扱う

起きる理由

モデル名はトレーニング後に確定することが多くあります。トレーニング中、モデルは言語、コード、知識のパターンを学習します。リリース後に使われる最終製品名を学習していない場合があります。 API リクエストでは、model 項目がサーバーにどのモデルへルーティングするかを伝えます。通常のチャットコンテンツではないため、モデルが ID 情報として受け取らない場合があります。 公式 Web 製品は「You are this model.」のような非表示の指示を追加できます。API 呼び出しでは通常、この ID プロンプトを自動追加しません。

実際に使用したモデルを確認する方法

モデルに「What version are you?」と尋ねることだけに頼らないでください。代わりにリクエストパスとレスポンス項目を確認します。 Example response:
正確なレスポンス形式は API 形式によって異なります。重要なのはモデルの自己紹介ではなく、サーバーが返すモデル項目とダッシュボード記録です。

モデルに特定の ID を答えさせる方法

製品でモデルに特定の方法で自己紹介させる必要がある場合は、その ID をシステムメッセージに記載します。
これは公式 Web 製品と同じように機能します。アプリケーションレイヤーが、モデルが何者だと答えるべきかを伝えます。
システムメッセージが変更するのは、モデルの自己説明と動作スタイルだけです。実際にルーティングされるモデルは変更しません。実際のルーティングは引き続き Base URL、API Key、provider、モデル ID によって決まります。

よくある間違い

  • 「What model are you?」を唯一の確認方法として使うこと。
  • 自己説明が誤っているため、プロバイダーがモデルを入れ替えたと考えること。
  • model パラメーターが常にモデルコンテキストに入ると考えること。
  • ダッシュボードログとレスポンスの model 項目を無視すること。
  • システムメッセージにモデル ID を追加して、実際のモデルが変わったと考えること。

BetterToken について

BetterToken のダッシュボードでは、API Key、モデル ID、リクエスト記録、残高使用量を確認できます。モデルが正しいか確認する必要がある場合は、まず呼び出しログとレスポンス項目を確認してください。 自己説明がログと矛盾する場合は、ログとレスポンス項目を信頼してください。

関連ドキュメント