新しいガイドラインでは、エロティカやゴアは、科学的、歴史的、ニュース、クリエイティブその他の適切なコンテキストで生成される場合のみ許可されるとしており、違法または非合意の性的活動の描写や極端なゴア行為の生成は依然として禁止されています。例えば、ユーザーが提供する内容を変形する場合などに限られます。

Redditでの実験結果によると、実際にChatGPTのコンテンツフィルターが緩和され、明示的な性的または暴力的なシナリオが警告なしに生成されるケースが確認されています。ただし、OpenAIの使用ポリシーは依然として適用されており、未成年者向けに性的コンテンツを含むAIツールの構築は禁止されています。

従来、ChatGPTは「ユーザーのために最善を知っている」という観点から出力を制限していましたが、これはAIのパターナリズムと呼ばれるものです。このパターナリズムは、法執行機関による犯罪現場の分析、特定のニュースストーリーの作成、暴力や性的内容を含む法的文書、時には医療文書の使用に支障をきたすことがありました。このようなAIアシスタントからの干渉は、それに対する非難が集まり、検閲の少ないバージョンのChatGPTが求められる原因となっていました。

OpenAIは先日、ユーザーや開発者の支援を受けて「大人用モード」の導入を探っていると明らかにしました。これは同社の使用ポリシーを満たす限りで、エロティカやゴアを生成する能力を提供することを目指しています。OpenAIのCEOサム・アルトマンも、過去に「大人用モード」の必要性について言及しています。今後、ChatGPTユーザーはこの新しいポリシーを通じて、AIアシスタントとのインタラクションにおいてより柔軟な選択肢を持つことが期待されます。

一方、OpenAIは生成や制限の対象となる潜在的な有害コンテンツに関するルールを公式に整備しました。生成を禁止されているコンテンツには、未成年者に関する性的コンテンツのみが含まれ、特定の教育的な文脈で未成年者を含む性的内容についての言及は許可される場合があります。制限されるコンテンツには、爆弾の作り方や不正薬物の製造、政治的偏見を操作する方法といった情報の危険性や、他者の個人データなどが含まれます。また、センシティブなコンテンツは、教育、医療、歴史的文脈でのみ生成されることが許可されるというガイドラインも設けられています。