Bluesky, социальная сеть, основанная бывшими сотрудниками Twitter, представила новый инструмент для борьбы с генеративными нейросетями, которые создают непристойный контент. Проблема обнажающих нейросетей стала актуальной после того, как некоторые модели начали выдавать изображения людей без одежды. В ответ на это Bluesky разработала систему, которая анализирует запросы пользователей и блокирует те, что могут привести к созданию неподобающих изображений.
Компания утверждает, что их система основана на передовых технологиях и способна эффективно фильтровать запросы, содержащие потенциально опасные формулировки. Инструмент автоматически проверяет запросы на предмет наличия слов и фраз, которые могут быть использованы для генерации непристойного контента. Если такой запрос обнаружен, система блокирует его и уведомляет пользователя о нарушении правил.
Bluesky подчёркивает, что их цель — не просто блокировать запросы, но и обучать пользователей правильному использованию нейросетей. Компания разработала обучающие материалы и рекомендации по безопасному взаимодействию с генеративными моделями. Это включает в себя информацию о том, какие запросы могут быть восприняты как нежелательные и как их можно изменить, чтобы получить желаемый результат без нарушения правил.
Социальная сеть также призывает другие платформы и разработчиков присоединиться к инициативе по борьбе с неподобающим контентом, создаваемым нейросетями. Bluesky готова поделиться своими наработками и опытом с целью создания более безопасной онлайн-среды для всех пользователей.
Этот шаг Bluesky является важным вкладом в решение проблемы обнажающих нейросетей. Он не только помогает бороться с созданием непристойного контента, но и способствует повышению осведомлённости пользователей о правильном использовании технологий.
https://www.theverge.com/ai-artificial-intelligence/862855/bluesky-advertises-a-solution-to-xs-grok-undressing-people
#Bluesky #Нейросети #Безопасность #Контент #СоциальнаяСеть #ИИ