В Северной Дакоте система искусственного интеллекта для распознавания лиц допустила серьёзные ошибки, что привело к случаям банковского мошенничества. Система, разработанная местной технологической компанией, должна была помогать банкам в идентификации клиентов и предотвращении fraud. Однако вместо этого она ошибочно идентифицировала клиентов, что позволило мошенникам открывать счета и брать кредиты на чужие имена.
Проблемы начались, когда система неправильно распознала несколько клиентов с похожими чертами лица. Это привело к тому, что мошенники смогли использовать поддельные документы и успешно пройти проверку системы. В результате они открыли счета и взяли кредиты, которые затем не были погашены. Банки понесли значительные финансовые потери, а репутация системы распознавания лиц оказалась под угрозой.
Эксперты в области искусственного интеллекта предупреждают, что подобные ошибки могут быть характерны для систем, которые не прошли достаточно тщательное тестирование или не учитывают разнообразие человеческих лиц. Они также отмечают, что такие инциденты подчёркивают важность тщательной проверки и настройки систем ИИ перед их внедрением в критически важные области, такие как банковское дело.
Для предотвращения подобных инцидентов в будущем банкам необходимо более тщательно подходить к выбору и настройке систем распознавания лиц. Также важно проводить регулярное тестирование и мониторинг работы этих систем, чтобы своевременно выявлять и устранять возможные ошибки.
https://www.nytimes.com/2026/03/30/us/north-dakota-facial-recognition-ai-errors-bank-fraud.html
#ИИ #РаспознаваниеЛиц #БанковскоеДело #Мошенничество #Технологии #СевернаяДакота