Компания OpenAI изучает возможность разрешения пользователям «ответственно» генерировать взрослый контент с помощью таких продуктов, как GPT и Dall-E. По словам компании, под взрослым контентом они понимают «эротику, жестокие сцены, оскорбления и нецензурную лексику». При этом в OpenAI подчеркнули, что запрет на создание дипфейков будет по-прежнему распространяться и на материалы для взрослых.Скриншот ответов от ChatGpt
Критики заявляют, что такое предложение противоречит миссии компании по созданию «безопасного и полезного» ИИ. Распространение 18+ материалов, сгенерированных искусственным интеллектом, вызывает беспокойство, особенно в связи с недавним наплывом в интернете дипфейков со знаменитостями.
Мы считаем, что разработчики и пользователи должны иметь возможность использовать наши сервисы так, как они считают нужным, при условии, что они соблюдают политику использования. Мы изучаем, сможем ли мы предоставить возможность генерировать контент NSFW (Not Safe For Work) через API и ChatGPT. Мы надеемся лучше понять ожидания пользователей и сообщества в отношении поведения модели в этой области.
Предложение было опубликовано в среду как часть обсуждения дальнейших планов на разработку ИИ-инструментов.
«Мы хотим гарантировать, что люди имеют максимальный контроль в той степени, в которой это не нарушает закон или права других людей, но о разрешении дипфейков не может быть и речи» (c) Джоан Джанг, сотрудница OpenAI из Сан-Франциско
Источник новости: habr.com
