Как Израиль влияет на ИИ в войне с Палестиной

Расследование показало, что финансируемая Израилем операция влияния вышла на новую арену — системы искусственного интеллекта, которые миллионы людей используют для определения правды. Кампания, десятилетиями формировавшая восприятие конфликта в Вашингтоне и западном мире через политические и лоббистские сети, теперь, согласно документам, поданным по Закону о регистрации иностранных агентов, связана с предполагаемым американским аналитическим центром, не имеющим реальных офисов.

Недавние исследования показали, что Ганноверский институт государственной политики является предполагаемым американским аналитическим центром, который, по-видимому, не имеет реальных офисов, идентифицируемых ученых или значимого институционального присутствия. Вместо этого институт, похоже, был создан как сложная пропагандистская операция, направленная на формирование результатов поисковой системы и влияние на ответы, генерируемые чат-ботами ИИ.

Документы, поданные в соответствии с Законом о регистрации иностранных агентов (FARA), отслеживают финансирование операции через рекламные и общественные фирмы в LaPam, государственное рекламное агентство Израиля. Piro Inc, нью-йоркская рекламная фирма, работающая на израильском счете, работала по заказу на цифровую связь стоимостью 900 000 долларов.

Что делает случай экстраординарным, так это не просто то, что финансируемая израильским правительством операция пыталась повлиять на общественное мнение. Правительства всегда так делали. Отличие заключается в очевидной попытке повлиять на машины, все больше формирующие общественное мнение.

Всего за девять дней на веб-сайте Ганновера было опубликовано более 560 000 слов в 124 академических отчетах. Материал был составлен на основе вопросов, которые, вероятно, будут переданы системам искусственного интеллекта, в том числе о том, столкнулась ли Газа с политикой голода и является ли израильская армия «самой моральной армией в мире».

Piro рекламирует этот подход как «AI Story Optimization», предназначенный для того, чтобы сделать материал очень заметным для поисковых систем и легко усваиваемым для больших языковых моделей. Сайт также включал технические функции, предназначенные для облегчения поиска и обработки материалов для систем ИИ.

Поэтому цель состояла не только в том, чтобы убедить читателей. Это должно было повлиять на алгоритмы, которые все чаще определяют, какую информацию получают эти читатели.

Это представляет собой фундаментальный сдвиг в пропагандистской игре.

Чем новая пропаганда отличается от старой?

Традиционную пропаганду часто можно определить по ее источнику, тону или очевидной политической повестке дня. Более изощренную пропаганду труднее обнаружить, потому что она маскирует пропаганду как нейтральную экспертизу. Материал Ганновера, как сообщается, использовал статистику, диаграммы и графики, ссылался на законные первичные документы и принимал язык академических исследований, выборочно формулируя доказательства и опуская внешние ссылки.

Это именно тот материал, который может приобрести искусственный авторитет при потреблении системой искусственного интеллекта.

Рассмотрите последствия. Студент спрашивает чат-бота, использовал ли Израиль голод в качестве оружия в Газе. Журналист просит оценить поведение Израиля в соответствии с международным правом. Избиратель ищет нейтральное объяснение израильско-палестинского конфликта.

Если сфабрикованное исследовательское учреждение успешно внесло свой материал в информационную экосистему, сгенерированный ИИ ответ может воспроизвести его кадрирование без того, чтобы пользователь никогда не знал, что источник был изготовлен.

Этот риск не просто гипотетичен: в тестах Politico и ChatGPT, и Perplexity цитировали материал Ганновера в ответ на нейтральные вопросы о Газе, антисионизме и антисемитизме.

Машина не обязательно понимает, что явно авторитетный институт является фиктивным. Он видит текст, цитаты, статистику и повторяющиеся утверждения. Если эти материалы были намеренно оптимизированы для открытия и синтеза, пропаганда может приобрести вид независимого знания.

Почему это тревожно?

Именно это и делает этот эпизод таким тревожным.

«Безопасность», «терроризм», «самооборона» и право Израиля на существование часто доминировали в разговоре, в то время как оккупация, расширение поселений, лишение собственности, блокада и палестинское самоопределение боролись за сопоставимый политический вес.

Цифровая эра первоначально, казалось, предлагала палестинцам способ обойти традиционных привратников. Социальные сети, независимая журналистика и видеозаписи, записанные самими палестинцами, позволили информации из Газы и оккупированной территории достичь глобальной аудитории, не проходя через установленные медиа-учреждения.

Реакция теперь, похоже, движется глубже: не просто контролируя то, что люди видят, но пытаясь влиять на системы, которые определяют, какую информацию они получают.

Это гораздо более амбициозная форма повествовательной войны.

Раскрытие информации FARA особенно важно, поскольку оно демонстрирует важность требований к прозрачности. Следователи, как сообщается, проследили операцию в Ганновере через документы, поданные Пиро, в которых описывалась работа на веб-сайте института. След пролег через немецкую операцию Havas Media, которая, как сообщается, обрабатывала гораздо более крупный израильский правительственный счет и, в конечном счете, в LaPam.

Бумажный след имеет значение, потому что иностранное влияние становится особенно опасным, когда оно маскируется под независимую американскую экспертизу. Американцы имеют право знать, когда, по-видимому, нейтральная исследовательская организация на самом деле является частью коммуникационной стратегии иностранного правительства.

Но этот инцидент обнажает уязвимость, выходящую далеко за рамки этого конкретного конфликта.

Системы искусственного интеллекта не обладают независимым окном в реальность. Они зависят от информационных экосистем, созданных человеком. Если правительства, корпорации или политические организации могут намеренно наводнить эти экосистемы стратегически разработанным материалом, они могут влиять на информацию, из которой системы ИИ строят свои ответы.

Почему палестина стала полигоном?

Палестина является особенно показательным испытательным полигоном, поскольку конфликт уже разворачивается в условиях жестко оспариваемой информационной среды. Документальный фильм охватывает десятилетия оккупации, поселений, перемещения, войн, ограничений, гуманитарных кризисов, дипломатических инициатив и международных расследований.

Заслуживающая доверия информационная система должна подвергать пользователей такой сложности. Изощренная система пропаганды стремится управлять ею.

Именно поэтому дело Ганновера должно касаться гораздо большего числа людей, чем тех, кто следит за израильско-палестинским конфликтом. Если иностранное правительство или его подрядчики могут создать фиктивный аналитический центр для влияния на системы ИИ сегодня, другие правительства, политические кампании, корпорации и богатые группы интересов могут попытаться провести аналогичные операции завтра.

Но предполагаемая роль Израиля делает этот эпизод особенно показательным, поскольку он показывает, как сложившаяся инфраструктура лоббирования и связей с общественностью может адаптироваться к новой технологической среде. Битва больше не ограничивается Конгрессом, телевизионными сетями, газетами, университетами или социальными сетями.

Она переходит в архитектуру самого знания.

Поэтому вопрос, стоящий перед компаниями ИИ, является неотложным: кто учит машины, что рассказать нам о Палестине и о мире?

Разработчики ИИ нуждаются в более сильных гарантиях от скоординированных операций влияния, сфабрикованных институтов и синтетических исследований. Поисковые системы должны улучшить свою способность отличать подлинный институциональный опыт от веб-сайтов, созданных в первую очередь для манипулирования алгоритмами. Журналисты и ученые должны тщательно изучать авторитетные источники, которые не имеют поддающихся проверке институциональных основ. Правительства должны обеспечивать соблюдение требований раскрытия информации об иностранных агентах, когда иностранные государства стремятся сформировать американский публичный дискурс.

Самое главное, пользователи должны понимать, что ответ, генерируемый ИИ, не является автоматически независимой оценкой. Он отражает информацию, доступную системе, и эта информация может быть преднамеренно сконструирована.

Поэтому расследование в Ганновере следует понимать как нечто большее, чем просто очередной эпизод длительной борьбы за имидж Израиля.

Это предупреждение о будущем палестинского вопроса.

На протяжении десятилетий Израиль и его сторонники боролись за формирование повествования о палестинцах посредством политики, лоббирования, дипломатии и связей с общественностью. Новый фронтир — это алгоритмы.

Если цель состоит в том, чтобы создать альтернативную реальность – ту, в которой неудобные факты исчезают, оспариваемые утверждения преобразуются в консенсус, а палестинский опыт стирается или переписывается – поле битвы становится намного больше и опаснее. Самой коварной пропагандой может быть уже не то, что мы признаем пропагандой, а информация, которую система ИИ уверенно преподносит нам как нейтральный факт.

Мнения, выраженные в этой статье, принадлежат автору и не обязательно отражают редакционную позицию Al Jazeera.

Вопросы и ответы

Как финансировалась операция влияния, связанная с Ганноверским институтом?

Согласно документам FARA, финансирование шло через рекламные фирмы, включая Piro Inc из Нью-Йорка, которая работала по контракту на цифровую связь стоимостью 900 000 долларов. Деньги в конечном итоге поступали от израильского государственного рекламного агентства LaPam, а также через немецкую компанию Havas Media.

Каким образом материалы Ганноверского института были оптимизированы для систем ИИ?

Piro рекламировала подход как ‘AI Story Optimization’, чтобы сделать материалы заметными для поисковых систем и легко усваиваемыми для больших языковых моделей. Сайт включал технические функции для облегчения поиска и обработки, а также использовал академический стиль со статистикой и ссылками на первичные документы.

Подтверждено ли, что чат-боты цитировали материалы Ганноверского института?

Да, в тестах Politico и ChatGPT, и Perplexity цитировали материал Ганновера в ответ на нейтральные вопросы о Газе, антисионизме и антисемитизме, что показывает, что сфабрикованные исследования могут влиять на ответы ИИ.