Известный учёный в области искусственного интеллекта Йошуа Бенжио выразил опасения относительно рисков, связанных с развитием ИИ. Он считает, что существует вероятность того, что ИИ может привести к исчезновению человечества. Бенжио подчеркнул, что крупные компании, такие как OpenAI, Google и другие, должны уделять больше внимания разработке интерпретируемых и объяснимых систем ИИ (XAI), чтобы снизить риски, связанные с использованием ИИ.
Учёный отметил, что в настоящее время системы ИИ становятся всё более сложными и мощными, но при этом они остаются «чёрными ящиками», и люди не всегда могут понять, как они принимают решения. Это может привести к тому, что ИИ будет принимать решения, которые могут быть опасными или непредсказуемыми для человечества. Бенжио призвал компании разработать системы ИИ, которые будут более прозрачными и понятными для людей.
Практическое значение и влияние материала заключаются в том, что он подчёркивает необходимость разработки интерпретируемых и объяснимых систем ИИ. Это может помочь снизить риски, связанные с использованием ИИ, и сделать его более безопасным для человечества. Кроме того, материал может привлечь внимание к проблеме «чёрных ящиков» в системах ИИ и стимулировать разработку более прозрачных и понятных систем.
https://fortune.com/2025/10/01/ai-godfather-yoshua-bengio-ai-extinction-risks-openai-google-xai-anthropic/
#ИИ #безопасность #технологии #OpenAI #Google