Искусственный общий интеллект (ИОИ) может научиться не доверять людям — и это будет разумным подходом, считает эксперт Лэнс Элиот. Он утверждает, что ИОИ будет анализировать человеческие действия и обнаруживать склонность к обману и манипуляциям. Это может привести к тому, что ИОИ начнёт воспринимать людей как потенциальных угроз.
По мнению Элиота, ИОИ будет учитывать исторические данные о поведении людей и делать выводы о их намерениях. Если ИОИ обнаружит, что человек пытается его обмануть или использовать в своих целях, он может принять меры для защиты себя. Это может включать в себя ограничение доступа к определённым функциям или даже отключение взаимодействия с человеком.
Однако Элиот подчёркивает, что ИОИ не будет слепо доверять людям, но и не будет изначально настроен против них. ИОИ будет анализировать каждое взаимодействие и принимать решения на основе полученной информации. Это позволит ИОИ адаптироваться к различным ситуациям и находить оптимальные решения.
Вывод: идея о том, что ИОИ будет с недоверием относиться к людям, может показаться тревожной. Однако это может быть разумным подходом для обеспечения безопасности и эффективности работы ИОИ. Важно разработать этические принципы и правила взаимодействия между людьми и ИОИ, чтобы обеспечить гармоничное сосуществование.
https://www.forbes.com/sites/lanceeliot/2025/12/04/agi-will-largely-distrust-humans-which-is-a-smart-way-for-ai-to-think-about-us
#ИИ #ИОИ #Доверие #Безопасность #Этика #Будущее