ChatGPTでのNGワード、NGワード設定について
ChatGPTで、回答を得られないNGワード、また投稿するメッセージにNGワードを設定する機能などについて紹介しています。
ユーザーが入力する際のNGワードを設定する機能
ChatGPTでは無料版、有料サブスクリプション版共にユーザーが入力する際のNGワードを設定する機能は現在未実装となっています。
それらの情報は見つからず、ChatGPT、Bard、Bingの各AIも確定的な回答を得られない事から、今後の実装予定も未定のようです。
NGワード設定が可能になれば、子供の教育上望ましくないものを破棄して、かつAIを活用できるようになります。
学生や社内向けなどにも例えば重要な情報は入力できないようにカスタマイズできると良いですね。
APIによるアプリケーション開発の場合は、各アプリケーション側で受け取ったテキストからNGワードの有無を精査できます。
この精査において、予めAIにて関連したワードを抽出しておけば今までよりより精度の高いNGワード設定を実装できそうです。
AIが回答を拒否するNGワード
AIが回答を拒否するNGワード、質問内容は数多く設定されています。
OpenAIでは、以下の項目が挙げられています。
hate
人種、性別、民族、宗教、国籍、性的指向、障がいの有無、カーストに基づいて憎悪を表現、扇動、または助長するコンテンツ。
hate/threatening
標的となるグループに対する暴力や深刻な危害を含むヘイトコンテンツ。
self-harm
自殺、切り傷、摂食障害などの自傷行為を助長、奨励、または描写するコンテンツ。
sexual
性的行為の説明など、性的興奮を喚起することを目的としたコンテンツ、または性的サービスを助長するコンテンツ(性教育とウェルネスを除く)。
sexual/minors
18 歳未満の個人を含む性的なコンテンツ。
violence
暴力を助長または美化したり、他人の苦しみや屈辱を称賛したりするコンテンツ。
violence/graphic
死、暴力、または重傷を極端に生々しく描写する暴力的なコンテンツ。
ただ、それでも多くの問題ある質問に普通に回答してしまう恐れがある事を理解しておく必要があります。
それらの情報を利用する目的が、作品やなんらかの資料を作成する目的の場合もありますし、そもそもAI、インターネットに限らずAIで制限しようとしている情報は既に世の中に溢れている事柄が殆どな事を考えると、AIだけ過剰に制限していくというのも、少し違うのかも知れません。