ChatGPTモデルのAPI、使用トークンと従量課金の比較
ChatGPTモデルの使用トークン数を比較
先程の記事でテストした結果ですとリクエストの送信メッセージに必要なトークン量は少なく感じます。
試しに、「prompt_tokens」と「text-davinci-003」の言語モデルでロールに含まれる文字列と同じ文章を丸投げして試してみます。
| 文字数 | gpt-3.5-turbo | text-davinci-003 |
|---|---|---|
| 10文字（1ロール） | 16 | 15 |
| 100文字（1ロール） | 103 | 143 |
| 100文字（5ロール） | 129 | ー |
やはりChatGPTモデルの方が大幅に使用トークンが少ないですね。
トークンあたりのコストも「text-davinci-003」より「gpt-3.5-turbo」または「gpt-3.5-turbo-0301」の方が大幅に安くなっていますので、これは無料のツールでもコストが大幅に抑えられる、または採算が取れる可能性が出てきました。
ChatGPTモデルの1,000トークンあたりのコストを比較
「gpt-3.5-turbo」と「text-davinci-003」で1000トークンあたりの従量課金コストの比較です。
| 言語モデル | gpt-3.5-turbo | text-davinci-003 |
|---|---|---|
| 1,000トークンあたりの料金 | $0.002（およそ0.26円） | $0.02（およそ2.6円） |
仮に1回あたり1,000トークンの会話と1,000回実行したとして2ドル、260円になる計算ですね。
※ 1ドル130円で計算しているので現在はもう少し高いかも。
1回あたり1,000トークン10,000回の実行しても20ドル・・って、これは丁度ChatGPT PLUSの月額料金ですね。
ChatGPT PLUSの月額料金の20ドル分を同APIで使うには、個人利用では相当な頻度で使わないと到達しなさそうです。
うーん、これは少なくともChatGPTと同等の仕組みを用意して、APIからの活用に切り替えるべきかもしれません。
ChatGPTモデルで一定量の会話を繰り返した場合の使用トークンと料金
ChatGPTモデルで一定量の会話を繰り返した場合の使用トークンと料金を計測してみます。
現在、設計とテスト中です。完了したら、追記します。
2023/3/3 追記：
従量課金を計算する検証の為に1から作り直してたら、時間がかかってしまいました。
見た目を本家のChatGPTに寄せようとか考えなければスグだったのですけどね^^
会話履歴を含む送信＆返信の文字数2327文字に対してトークンの合計が2079。
「text-davinci-003」などでは、文字数よりトークン数の方が確実に上回ってた計算でしたが、やはり、ログ分の処理方法が違うのかも知れません。
送信メッセージに、AIの回答を含めていますので文字数は増えやすいですが、これだけの会話でまだ0.56円なら、かなり安く済みそうです。
「gpt-3.5-turbo」は「text-davinci-003」と比べて10分の1になっている事や、処理の改善で大幅なコストダウンになる事は間違いなさそうです。