OpenAI объявила о новом режиме работы своего чат-бота ChatGPT, направленном на предотвращение распространения потенциально опасных советов по вопросам психического здоровья. Новая функция, названная «Lockdown Mode», ограничивает доступ к определённым темам и информации, которые могут нанести вред пользователям.
Эта мера стала ответом на растущую обеспокоенность по поводу способности ИИ предоставлять точные и безопасные рекомендации в области психического здоровья. В прошлом ChatGPT уже сталкивался с критикой за предоставление советов, которые могли быть интерпретированы как вредные или неточные.
Режим блокировки активируется автоматически при обнаружении запросов, связанных с психическим здоровьем. Он ограничивает доступ к потенциально опасной информации, такой как методы самолечения или советы по преодолению кризисных ситуаций. Вместо этого пользователи получают рекомендации обратиться к квалифицированным специалистам.
OpenAI подчёркивает, что новая функция не является полной заменой профессиональной помощи. Компания призывает пользователей не полагаться исключительно на ИИ при решении сложных вопросов, связанных с психическим здоровьем.
Введение режима блокировки является важным шагом в обеспечении безопасности пользователей при взаимодействии с ИИ. Эта функция может стать примером для других компаний, разрабатывающих подобные технологии. Практическое значение нововведения заключается в повышении доверия к ИИ и предотвращении возможных негативных последствий от использования его советов.
https://www.forbes.com/sites/lanceeliot/2026/02/20/new-chatgpt-lockdown-mode-repurposed-to-stop-ai-from-giving-out-bad-mental-health-advice
#ChatGPT #OpenAI #ИИ #ПсихическоеЗдоровье #Безопасность #РежимБлокировки