Пентагон активно сотрудничает с компанией Anthropic для разработки систем искусственного интеллекта с встроенными ограничениями. Это решение направлено на предотвращение потенциальных угроз, связанных с автономным поведением ИИ. В рамках проекта особое внимание уделяется созданию «стражей» — механизмов, которые будут контролировать действия ИИ и предотвращать нежелательные сценарии.
Anthropic, известная своими инновационными разработками в области ИИ, стремится создать системы, которые будут не только эффективными, но и безопасными. Компания работает над внедрением принципов ответственного ИИ, которые включают в себя прозрачность, справедливость и уважение к правам человека.
Параллельно с этими разработками, Google представила свою новую модель ИИ Gemini, которая обладает агентскими возможностями. Это означает, что модель способна самостоятельно выполнять задачи, такие как бронирование отелей и планирование поездок. Однако, несмотря на потенциал, Gemini всё ещё находится на стадии тестирования и не готова к широкому применению.
Кроме того, стартап Viture привлек 100 миллионов долларов от инвесторов для разработки передовых решений в области виртуальной реальности. Эти средства будут направлены на улучшение технологий, которые могут быть интегрированы с системами ИИ для создания более реалистичных и интерактивных виртуальных миров.
Сотрудничество Пентагона с Anthropic имеет большое значение для будущего ИИ. Разработка систем с встроенными ограничениями может стать ключевым фактором в обеспечении безопасности и предотвращении потенциальных угроз. Это сотрудничество также подчёркивает важность ответственного подхода к разработке ИИ и необходимость учёта этических аспектов.
https://www.forbes.com/sites/charliefink/2026/02/27/pentagon-presses-anthropic-guardrails-geminis-agentic-debut-viture-raises-100-million
#ИИ #Безопасность #Пентагон #Anthropic #Google #ВиртуальнаяРеальность #Технологии