Широко используемые ИИ-системы могут изменить предпочтения избирателей в контролируемых условиях на 15%. Об этом говорится в исследовании Корнельского университета и Британского института безопасности искусственного интеллекта. «Существует большая обеспокоенность общественности касательно потенциального применения технологии для политического убеждения и его возможного влияния на выборы и демократию. Мы информируем об этих опасениях, используя заранее зарегистрированные эксперименты для оценки способности крупных языковых моделей влиять на отношение избирателей», — отметили эксперты. В исследовании приняли участие почти 6000 человек из США, Канады и Польши. Они оценивали политического кандидата, общались с чат-ботом, а затем снова давали оценку. В американской части исследования приняли участие 2300 человек перед президентскими выборами 2024 года. Там ИИ оказывал усиливающее влияние, когда мнение собеседников совпадало. Если чат-бот поддерживал кандидата, которого участник не поддерживал, происходили «более заметные сдвиги» — люди сильнее меняли отношение к политической фигуре. Подобные результаты зафиксированы в Канаде и Польше. Исследование показало, что сообщения, ориентированные на политику, оказывали больший эффект убеждения, чем основанные на личности. Точность высказываний зависела от разговора. Чат-боты, поддерживающие кандидатов правого толка, делали более неточные заявления по сравнению с теми, кто выступал за левых. «Эти выводы содержат неудобное предположение: политическое воздействие со стороны ИИ может использовать перекосы в том, что модели знают, для неравномерного распространения неточностей даже при прямых указаниях говорить правду», — отметили ученые. Предвзятость ИИ В отдельном исследовании на Science эксперты пытались выяснить, почему вообще возникает эффект убеждения. В нем протестировали 19 языковых моделей на 76 977 взрослых в Великобритании по более чем 700 политическим вопросам. «Существует широко распространенный страх, что разговорный искусственный интеллект вскоре сможет оказывать беспрецедентное влияние на человеческие убеждения», — написали авторы. Они выяснили, что методы формирования промптов влияют на способность убеждать сильнее, чем размер модели. Запросы, побуждающие LLM вводить новую информацию, повышали убедительность, но снижали точность. ИИ не нейтральный Аналитические центры заметили, что молодые консерваторы более охотно готовы передать ИИ полномочия по принятию важных государственных решений по сравнению с либералами. Директор Центра по новым вопросам имени Гленна Хаскинса при институте Хартленд Дональд Кендал отметил, что избиратели часто неправильно оценивают нейтральность больших языковых моделей. «Одна из вещей, которую я пытаюсь донесли до людей, — это развеять иллюзию о том, что искусственный интеллект беспристрастен. Он явно предвзят, в некоторых случаях в пассивной форме», — добавил он. Эксперт заявил, что крупные корпорации Кремниевой долины, которые разрабатывают ИИ, «не стесняются влиять на то, какой контент распространяется на их платформах». Напомним, смоделированное с применением ИИ-агентов заседание ФРС показало, что политическое давление разделило членов совета в ходе обсуждения процентных ставок. Широко используемые ИИ-системы могут изменить предпочтения избирателей в контролируемых условиях на 15%. Об этом говорится в исследовании Корнельского университета и Британского института безопасности искусственного интеллекта. «Существует большая обеспокоенность общественности касательно потенциального применения технологии для политического убеждения и его возможного влияния на выборы и демократию. Мы информируем об этих опасениях, используя заранее зарегистрированные эксперименты для оценки способности крупных языковых моделей влиять на отношение избирателей», — отметили эксперты. В исследовании приняли участие почти 6000 человек из США, Канады и Польши. Они оценивали политического кандидата, общались с чат-ботом, а затем снова давали оценку. В американской части исследования приняли участие 2300 человек перед президентскими выборами 2024 года. Там ИИ оказывал усиливающее влияние, когда мнение собеседников совпадало. Если чат-бот поддерживал кандидата, которого участник не поддерживал, происходили «более заметные сдвиги» — люди сильнее меняли отношение к политической фигуре. Подобные результаты зафиксированы в Канаде и Польше. Исследование показало, что сообщения, ориентированные на политику, оказывали больший эффект убеждения, чем основанные на личности. Точность высказываний зависела от разговора. Чат-боты, поддерживающие кандидатов правого толка, делали более неточные заявления по сравнению с теми, кто выступал за левых. «Эти выводы содержат неудобное предположение: политическое воздействие со стороны ИИ может использовать перекосы в том, что модели знают, для неравномерного распространения неточностей даже при прямых указаниях говорить правду», — отметили ученые. Предвзятость ИИ В отдельном исследовании на Science эксперты пытались выяснить, почему вообще возникает эффект убеждения. В нем протестировали 19 языковых моделей на 76 977 взрослых в Великобритании по более чем 700 политическим вопросам. «Существует широко распространенный страх, что разговорный искусственный интеллект вскоре сможет оказывать беспрецедентное влияние на человеческие убеждения», — написали авторы. Они выяснили, что методы формирования промптов влияют на способность убеждать сильнее, чем размер модели. Запросы, побуждающие LLM вводить новую информацию, повышали убедительность, но снижали точность. ИИ не нейтральный Аналитические центры заметили, что молодые консерваторы более охотно готовы передать ИИ полномочия по принятию важных государственных решений по сравнению с либералами. Директор Центра по новым вопросам имени Гленна Хаскинса при институте Хартленд Дональд Кендал отметил, что избиратели часто неправильно оценивают нейтральность больших языковых моделей. «Одна из вещей, которую я пытаюсь донесли до людей, — это развеять иллюзию о том, что искусственный интеллект беспристрастен. Он явно предвзят, в некоторых случаях в пассивной форме», — добавил он. Эксперт заявил, что крупные корпорации Кремниевой долины, которые разрабатывают ИИ, «не стесняются влиять на то, какой контент распространяется на их платформах». Напомним, смоделированное с применением ИИ-агентов заседание ФРС показало, что политическое давление разделило членов совета в ходе обсуждения процентных ставок.