Использование Израилем ИИ в секторе Газа может сделать технологические компании соучастниками

Израиль использовал приложения искусственного интеллекта (ИИ), поддержку которым оказывали такие технологические гиганты, как Google, Microsoft и Amazon, в своих военных операциях в секторе Газа, что может сделать эти компании соучастниками. Об этом в беседе с корреспондентом «Анадолу» заявила главный научный сотрудник по ИИ в Институте AI Now Хайди Хлааф, комментируя использование моделей ИИ армией Израиля.

Известно, что израильская армия использовала системы искусственного интеллекта под названием Habsora (Gospel или «Евангелие»), «Lavender» («Лаванда») и «Where is Daddy?» («Где папочка?») для массового наблюдения в секторе Газа, выявления целей и организации нападений на десятки тысяч мирных жителей.

Правозащитные организации и эксперты считают, что эти системы сыграли определенную роль в неизбирательных атаках Израиля, в результате которых погибли тысячи людей.

«Мы увидим нормализацию массовой гибели мирных жителей, как мы уже видели это в секторе Газа, с открытым использованием моделей ИИ, которые, как мы знаем, не всегда бывают точны», — сказала она.

Хлааф указала, что ситуация, при которой военные отказываются брать на себя ответственность за принятые решения и «переводят стрелки» на систему искусственного интеллекта, может создать опасную комбинацию, позволяющую избежать ответственности за возможные военные преступления.

По словам эксперта, системы искусственного интеллекта использовались при израильских атаках «почти на всех этапах» — от сбора разведданных до окончательного выбора цели.

Системы искусственного интеллекта «предполагают местоположение будущих целей», но эти прогнозы не всегда могут быть точными, - отметила Хлааф.

Такие большие языковые модели (LLM), как Gemini от Google и GPT-4 от OpenA, получают доступ к системам коммуникации палестинцев и переводят их речь, добавляя в список возможных целей «исключительно на основе ключевых слов», продолжила она.

«К сожалению, оценки показывают, что точность моделей ИИ, используемых для идентификации целей, может составлять всего 25 процентов», - указала Хлааф.

Выбор целей с использованием «ошибочной автоматики» ничем не отличается от беспорядочной бомбардировки, - сказала эксперт.

Хлааф указала, что контроль Израиля, связанный с идентифицированными при помощи ИИ целями, был «очень поверхностным» и поставил под сомнение усилия по минимизации жертв среди гражданского населения.

«ИИ создает прецедент, при котором ошибочный выбор цели становится нормой, а масштаб и сложность этих моделей делают невозможным отслеживание любых решений, за которые могли бы привлечь к ответственности какое-либо лицо или военное подразделение», -сказала эксперт.

Халаф подчеркнула, что использование ИИ в военных операциях — это не только технологический прорыв, но и серьезный этический вызов, так как правовые и технические рамки не готовы к ведению войны с использованием ИИ.

Американские технологические компании, в частности Google и Amazon, предоставляют израильской армии услуги искусственного интеллекта и облачные сервисы с 2021 года и это не новая тенденция, - напомнила она.

Эксперт считает, что сотрудничество Израиля с технологическими компаниями будет только углубляться, поскольку после октября 2023 года Израиль все больше полагается на сервисы облачных вычислений Microsoft, модели искусственного интеллекта и техническую поддержку.

Amazon, Google и Microsoft «открыто сотрудничают с израильской армией», несмотря на то, что этим компаниям известно о низкой точности ИИ, риске ошибок и других вызовах, связанных с использованием такого рода технологий, - отметила Хлааф.

По ее словам, эти компании предоставляют Израилю облачные вычисления, модели ИИ и другие технологии, которые используются для анализа разведданных, перехвата коммуникаций и идентификации целей.

«Если будет установлено, что израильская армия совершала определенные военные преступления, а технологические компании направляли ее во время этих военных преступлений, то это в определенной мере делает их соучастниками », - сказала эксперт.