Генеральный прокурор Калифорнии Роб Боначчи отправил компании XAI письмо с требованием прекратить использование искусственного интеллекта Grok для создания дипфейков. В письме указано, что генеративные модели ИИ могут быть использованы для создания вредоносного контента, включая фейковые новости и пропаганду. Прокурор подчеркнул, что такие технологии могут нанести серьёзный ущерб обществу и привести к распространению ложной информации.
XAI, дочерняя компания X Corp., которая владеет социальной сетью Twitter, разработала Grok — модель ИИ, способную генерировать тексты и изображения. Однако использование этой технологии для создания дипфейков вызвало опасения у властей. Дипфейки — это поддельные медиафайлы, которые могут быть использованы для распространения ложной информации и манипулирования общественным мнением.
В письме генерального прокурора указано, что XAI должна принять меры для предотвращения использования Grok для создания дипфейков. Это может включать в себя ограничение доступа к технологии или разработку механизмов для обнаружения и удаления вредоносного контента. Компания XAI пока не прокомментировала ситуацию.
Вывод: требование генерального прокурора Калифорнии является важным шагом в регулировании использования ИИ для создания дипфейков. Это подчёркивает необходимость разработки и внедрения механизмов для предотвращения распространения ложной информации и защиты общества от потенциальных угроз.
https://www.theverge.com/news/863758/californias-attorney-general-sent-xai-a-cease-and-desist-letter-over-groks-ai-deepfakes
#ИИ #дипфейки #законодательство #Калифорния #XAI #Grok #фейки