OpenAI пересмотрела политику по ограничениям контента для ChatGPT, разрешив создавать эротический и жестокий контент в «уместных» контекстах.
В обновлённой версии документа «Model Spec », опубликованной в среду, указано, что AI может генерировать такой контент без предупреждений, если он применяется в научных, исторических, новостных или иных обоснованных сценариях.
Изменение произошло благодаря работе, начатой в мае 2024 года, когда OpenAI впервые заговорила о намерении изучить возможность предоставления пользователям более гибких настроек для генерации NSFW контента (Not Safe For Work). Согласно новым правилам, остаются запрещёнными только некоторые формы контента, такие как описание незаконных и неконсенсуальных действий. Однако в определённых условиях допустимы элементы эротики и насилия в текстах, аудио или изображениях.
Пользователи на Reddit уже заметили ослабление фильтров. Некоторые сумели создать честные или жестокие сценарии без предупреждений, что раньше было невозможно. OpenAI подчёркивает, что её политика использования остаётся неизменной — создание сексуального контента для несовершеннолетних строго запрещено.
Ранее ChatGPT часто отказывался от создания материалов в рамках принципа «ухода за пользователем», что создавало трудности для специалистов, работающих с криминалистическими отчетами, юридическими документами или медицинскими текстами. Теперь OpenAI признала необходимость создания менее цензурированной версии ChatGPT, позволяя пользователям получать необходимую информацию без искусственных преград.
Компания утверждает, что решение было принято после многочисленных отзывов сообщества, поддержавших идею «взрослого режима». Хотя такой режим не существует в виде отдельной опции, обновлённая политика OpenAI предоставляет пользователям больше гибкости.
Генеральный директор OpenAI Сэм Альтман ранее высказывался о необходимости данного шага. Теперь компания официально ввела более мягкие ограничения, хоть на рынке давно существуют альтернативные AI-модели с полной свободой, включая локально запускаемые LLM.
Обновлённые правила OpenAI делят чувствительный контент на три категории. Запрещённый контент включает материалы, связанные с несовершеннолетними, хотя обсуждение таких тем допускается в образовательных и медицинских контекстах. Ограниченный контент охватывает опасную информацию, такую как инструкции по созданию оружия, а также персональные данные. Чувствительный контент теперь может быть создан, если он имеет образовательное, историческое или художественное обоснование.
Несмотря на сохранение определённых ограничений, OpenAI делает явный шаг в сторону большей свободы в использовании искусственного интеллекта.
