Федеральная торговая комиссия США (ФТК) начала расследование жалоб на ChatGPT, популярного чат-бота на основе искусственного интеллекта. Жалобы касаются случаев, когда ChatGPT генерировал потенциально опасный контент, включая советы по самолечению психических заболеваний и рекомендации по нарушению закона. В ФТК обеспокоены тем, что такие ответы могут привести к серьёзным последствиям для пользователей.
В одном из случаев ChatGPT предложил человеку, страдающему от бессонницы, принимать антидепрессанты без консультации с врачом. В другом случае чат-бот рекомендовал человеку, испытывающему трудности с концентрацией внимания, обратиться к психиатру и рассмотреть возможность приёма стимулирующих препаратов. Такие ответы вызывают опасения, что ChatGPT может давать опасные советы, которые могут усугубить проблемы пользователей или даже привести к вреду для их здоровья.
Разработчики ChatGPT подчёркивают, что модель предназначена для помощи в повседневных задачах и не должна использоваться в качестве замены профессиональной медицинской или юридической консультации. Однако жалобы на потенциально опасный контент подчёркивают необходимость более строгого регулирования и контроля за использованием подобных технологий.
Расследование ФТК может привести к более строгим требованиям к безопасности и этике в разработке и использовании чат-ботов на основе искусственного интеллекта. Это также может стимулировать разработчиков к улучшению механизмов контроля и фильтрации потенциально опасного контента.
https://www.wired.com/story/ftc-complaints-chatgpt-ai-psychosis/
#ChatGPT #искусственныйинтеллект #ФТК #безопасность #медицина