ChatGPTの文字数制限と返信が途切れる場合の解決方法について

2023-02-05ChatGPT レビュー・ほか,ChatGPT

対話型AI「ChatGPT」を利用する上でのの文字数制限について紹介しています。

ChatGPTで送信できる文字数制限について

ChatGPTの明確に送信できる文字数制限について公式な発表は見つかっていません。

ChatGPTで実際に検証したところ、日本語だと文字の種類にもよりますが2500文字強くらいまでは送信できます。
また、それ以上、3,000文字では確実にエラーとなる結果となりました。

英語の場合は4,000から6,000文字が送信可能です。

しかし、ChatGPTに文字数を数えるように伝えたところ、一定量以上は正確な文字数が返せなくなるケースが多く、おそらくは日本語で1,000文字程度までしか読み込まないようになっているかもしれません。

また、ChatGPTにて送信可能な文字数について問い合わせると4,096文字まで送信可能と返ってきますが、これはAPIでいうところのトークンという単位を示しており4,096文字というのは間違いです。

「ChatGPT」はOpenAIのAIシステムがベースに組み込まれており、そのOpenAIを動かすAPIでは文字数、単語数ではなくトークンと呼ばれるもので制限を管理しています。

APIでは一度の通信で最大4,096トークンが利用可能となっており、ChatGPTもそれと同等の値が設定されている可能性はあります。

しかし、4,000トークンは日本語にすると1,000～2,000文字程度と予想しますが、「ChatGPT」はチャット欄単位での会話履歴を次の応答に反映させています。

扱いはAPIと違うと考えますがAPIの場合は会話履歴もトークンを消費しますので、同様であれば送受信での合計が最大4,096トークンという制限ではないように思います。

ちなみに4,096トークンはAPIの利用料金で計算すると0.081ドル、およそ10円くらいです。

ChatGPTで返信される文字数制限と解決方法について

同様に「ChatGPT」で問い合わせて得られる返信の結果にも最大文字数（トークン）が設定されています。

長い文章やデータを結果として得ようとした場合、返信は途中で途切れてしまいます。

これには解決方法があり、返信が途中で途切れている場合に「続けて下さい」とか「continue」とかを伝えると続きを書き始めます。