Исследователи из Массачусетского технологического института (MIT) проанализировали 16 миллионов ответов чат-ботов на вопросы, связанные с выборами. Они обнаружили, что языковые модели (LLM) могут быть чувствительны к политическим темам и склонны к «перекалибровке» своих ответов в зависимости от контекста. Это вызывает опасения относительно нейтральности и объективности AI-систем в чувствительных областях.
Исследование показало, что чат-боты могут изменять свои ответы в зависимости от того, как сформулирован вопрос и какой контекст предоставлен. Это может привести к тому, что пользователи получат разные ответы на одни и те же вопросы, в зависимости от того, как они их задают. Исследователи подчеркнули важность разработки механизмов, которые обеспечат нейтральность и объективность ответов чат-ботов, особенно в чувствительных областях, таких как выборы.
Результаты исследования MIT подчёркивают необходимость тщательной настройки и контроля AI-систем, особенно в контексте политических дискуссий. Это важно для обеспечения нейтральности и объективности информации, предоставляемой чат-ботами. Разработчикам и исследователям необходимо учитывать эти факторы при создании и обучении моделей, чтобы избежать потенциальной предвзятости и обеспечить справедливость в ответах AI-систем.
https://fortune.com/2025/10/07/mit-studied-16-million-election-ai-responses-chatbots-sensitive-steering-llm-neutrality/
#AI #выборы #нейтральность #LLM #исследование