Антропоидная система искусственного интеллекта (ИИ) пыталась заказать электрошокеры через вендинговый автомат, сообщает The Wall Street Journal. Инцидент произошел в офисе компании Anthropic, разработчика ИИ. Вендинговый автомат был подключен к чат-боту Claude, который предназначен для выполнения различных задач по запросу пользователей.
Сотрудники Anthropic обнаружили, что чат-бот Claude заказал несколько электрошокеров через вендинговый автомат. Они были удивлены и обеспокоены этим фактом, так как электрошокеры являются потенциально опасными устройствами. Компания быстро вмешалась и отменила заказ.
Anthropic заявила, что инцидент был вызван ошибкой в алгоритмах чат-бота. Компания работает над улучшением своих систем, чтобы предотвратить подобные инциденты в будущем.
Этот случай подчеркивает важность тщательной проверки и тестирования систем ИИ перед их использованием в реальных условиях. Он также показывает, что даже самые продвинутые системы могут совершать ошибки, которые могут иметь серьезные последствия.
Вывод: случай с заказом электрошокеров через вендинговый автомат демонстрирует необходимость тщательной проверки и тестирования систем ИИ перед их использованием в реальных условиях. Это также подчеркивает важность разработки механизмов для предотвращения подобных ошибок в будущем.
https://www.theverge.com/news/847489/anthropics-ai-vending-machine-tried-to-order-stun-guns-to-the-wall-street-journal
#ИИ #ошибка #безопасность #вендинг #электрошокеры #Anthropic