OpenAI утверждает, что если бы аккаунт стрелка из Канады был обнаружен сегодня, компания уведомила бы полицию. Однако в прошлом OpenAI не предприняла должных мер по предотвращению трагедии. Пользователь соцсети X опубликовал скриншоты переписки с искусственным интеллектом ChatGPT, в которой стрелок обсуждал свои планы перед нападением. Аккаунт злоумышленника был удалён, но только после совершения преступления. OpenAI признала, что могла бы сделать больше для предотвращения трагедии. Компания заявила о пересмотре своих внутренних процедур и усилении мер по выявлению потенциально опасных пользователей.
Стрелок из Канады использовал ChatGPT для обсуждения своих планов, и это вызвало широкий общественный резонанс. Критики OpenAI указывают на недостаточную проактивность компании в области безопасности. Они считают, что OpenAI должна более активно сотрудничать с правоохранительными органами и совершенствовать алгоритмы обнаружения угроз. В свою очередь, OpenAI подчёркивает сложность задачи и необходимость баланса между свободой выражения и предотвращением преступлений.
Вывод: инцидент со стрелком из Канады выявил слабые места в системе безопасности OpenAI. Компания признала свои ошибки и пообещала усилить меры по выявлению потенциально опасных пользователей. Однако критики считают, что OpenAI должна сделать больше для предотвращения подобных ситуаций в будущем.
https://www.theverge.com/news/885831/openai-would-have-alerted-police-to-canadian-shooter-if-account-was-discovered-today
#OpenAI #ChatGPT #Безопасность #Преступления #ИИ #Сотрудничество