OpenAI активно работает над повышением безопасности своих продуктов, привлекая к сотрудничеству экспертов в области искусственного интеллекта. Среди них — Цико Кольтер, специалист по машинному обучению и управлению рисками в AI. В интервью журналу Fortune он рассказал о том, как его команда оценивает риски, связанные с использованием языковых моделей, таких как ChatGPT.
По словам Кольтера, основная задача его команды — обеспечить безопасность и надёжность продуктов OpenAI. Они анализируют потенциальные угрозы и разрабатывают меры по их предотвращению. Это включает в себя оценку рисков, связанных с предвзятостью, дезинформацией и другими проблемами, которые могут возникнуть при использовании языковых моделей.
Сам Альтман, генеральный директор OpenAI, также подчеркнул важность работы экспертной панели. Он отметил, что сотрудничество с экспертами позволяет компании лучше понимать и оценивать риски, связанные с развитием искусственного интеллекта.
Работа экспертной панели имеет большое значение для обеспечения безопасности и надёжности продуктов OpenAI. Это позволяет компании оперативно реагировать на возникающие угрозы и разрабатывать эффективные меры по их предотвращению, что в свою очередь повышает доверие пользователей к технологиям искусственного интеллекта.
https://fortune.com/2025/11/02/openai-safety-panel-chatgpt-zico-kolter-ai-risks-sam-altman/
#OpenAI #безопасность #искусственныйинтеллект #ChatGPT #экспертнаяпанель #технологии #риски