Подрядчик OpenAI случайно загружал конфиденциальные рабочие документы в обучающую выборку для ИИ-агентов. Это произошло из-за ошибки в процессе разработки. Вместо тестовых данных разработчик использовал настоящие рабочие файлы, что могло привести к утечке конфиденциальной информации.
OpenAI активно работает над улучшением своих ИИ-технологий. В процессе разработки агенты взаимодействуют с различными данными, включая текстовые документы. Однако в данном случае подрядчик использовал реальные рабочие документы, а не специально подготовленные тестовые данные.
Проблема была обнаружена и быстро устранена. OpenAI приняла меры для предотвращения подобных инцидентов в будущем. Компания подчеркнула важность соблюдения конфиденциальности и безопасности данных при разработке ИИ-технологий.
Этот инцидент подчёркивает сложность и ответственность, связанные с разработкой и обучением ИИ-систем. Он также напоминает о необходимости тщательного контроля и проверки данных, используемых в процессе обучения.
https://www.wired.com/story/openai-contractor-upload-real-work-documents-ai-agents
#OpenAI #ИИ #Конфиденциальность #Данные #ОбучениеИИ #Безопасность