Искусственный интеллект должен развиваться под ответственным и справедливым регулированием, заявил Генеральный секретарь Организации Объединенных Наций Антониу Гутерриш.
Гутерриш выступил с речью на открытии первом Глобальном диалоге по управлению искусственным интеллектом, который начался сегодня в Женеве. Мероприятие проходит при принимающей роли Швейцарии и было организовано по инициативе Генеральной Ассамблеи ООН.
Отметив, что искусственный интеллект развивается с неконтролируемой скоростью, Гутерриш заявил, что эта технология, способная менять экономику, трансформировать сферу труда, влиять на выборы и изменять баланс безопасности, распространяется настолько быстро, что за ней не успевают даже те, кто ее создает.
По словам Гутерриша, над обществами фактически проводится эксперимент без предварительного планирования и согласия, и такая ситуация не является устойчивой.
«Искусственный интеллект уже меняет наш мир. Вопрос в том, будем ли мы вместе формировать эту трансформацию или позволим ей формировать нас? Сегодня ответ на этот вопрос ищут на первом Глобальном диалоге по управлению искусственным интеллектом. Впервые за столом представлены все страны. У нас есть общая доказательная база. Сегодня утром сопредседатели Независимой международной научной панели по искусственному интеллекту представят свой первый доклад. В ней работают 40 ведущих экспертов из всех регионов и дисциплин, выступающие в личном качестве, независимо от какого-либо правительства, компании или учреждения», - сказал он.
Гутерриш напомнил, что интернету потребовалось 15 лет, чтобы охватить 1 миллиард человек, тогда как искусственный интеллект достиг этого уровня за два года. Он отметил, что эти системы уже не являются инструментами, которые просто ждут команд: они пишут код, действуют в онлайн-среде и все чаще делают выбор при все меньшем человеческом контроле.
«Наши институты были созданы для управления машинами, которые выполняют команды. Они не готовы к машинам, которые принимают решения. Некоторые границы, однажды пересеченные, уже нельзя будет вернуть назад», - заявил Гутерриш.
Генеральный секретарь ООН также отметил, что наука предупреждает о рисках, связанных с концентрацией силы в сфере искусственного интеллекта.
«Вычислительная мощность, данные и компетенции, стоящие за самыми передовыми системами, сосредоточены в руках небольшого числа компаний и стран. Многие государства, включая развивающиеся, не получили права голоса в решениях, которые будут определять их будущее. Чем дольше мы ждем, тем сильнее становится эта концентрация. Когда дисбаланс сил закладывается в технологию, неравенство становится частью кода», - сказал он.
Гутерриш также напомнил о предупреждениях, связанных с истиной и достоверностью информации в эпоху искусственного интеллекта. По его словам, ложь, усиленная машиной, сегодня способна убеждать так же эффективно, как правда, а реальные доказательства могут отвергаться как поддельные.
- Дети не должны становиться подопытным для неконтролируемого ИИ
«Сегодня утром Научная панель представит нам доказательства. Теперь эта дискуссия должна задать направление миру. На этой неделе в Женеве она будет дополнена Саммитом «ИИ во благо» и связанными с ним инициативами. Все это является частью объединенных усилий ООН, направленных на то, чтобы искусственный интеллект служил людям повсюду», - сказал Гутерриш.
Он подчеркнул, что ИИ прежде всего входит в жизнь детей в их обучение, дружбу и самые личные вопросы, и эта ситуация уже имеет последствия.
Гутерриш также предупредил о рисках, которые неконтролируемый ИИ представляет для детей, и призвал принять Обязательство по обеспечению безопасности детей в сфере ИИ, опираясь на совместную работу ООН, государств-членов и других заинтересованных сторон.
Генсек подчеркнул, что ни одна компания не должна использовать систему искусственного интеллекта, доступную детям, без специальных тестов безопасности и независимого аудита. Он также заявил, что ни одна компания не должна допускать, чтобы ее искусственный интеллект создавал сексуализированные изображения детей, и обязана отслеживать подобные риски.
«Искусственный интеллект никогда не должен унижать человеческое достоинство или закреплять дискриминацию. В таких сферах, как правосудие и здравоохранение, при каждом решении с высоким уровнем риска машины могут предоставлять информацию, но решение должны принимать люди и именно люди должны нести ответственность», - сказал он.
Гутерриш напомнил, что в прошлом году частные инвестиции в инфраструктуру искусственного интеллекта приблизились к половине триллиона долларов, тогда как государственные инвестиции в развитие потенциала ИИ в развивающихся странах остаются на несопоставимо низком уровне.
Если ИИ будет глобальным, он должен быть справедливым
«Мы не можем позволить цифровому разрыву превратиться в разрыв в сфере ИИ. Мы не можем позволить, чтобы разрыв в сфере ИИ стал разрывом в развитии, безопасности и суверенитете. Если ИИ будет мощным, им необходимо управлять. Если ИИ будут доверять, те, кто его разрабатывает, должны нести ответственность. Если ИИ будет глобальным, он должен быть справедливым. Если ИИ должен служить будущему, он не должен это будущее разрушать. Это потребует от правительств срочных действий. Это потребует от компаний ответственности, соответствующей их силе. Ученые должны продолжать выводить доказательства на свет. Первый Глобальный диалог по управлению искусственным интеллектом должен стать площадкой, где глобальное участие приведет к глобальным действиям», - заявил Гуттериш.
Он отметил, что нынешнее поколение может оказаться последним, которое способно определить условия сосуществования человечества и машин. Он подчеркнул, что сегодня в Женеве 193 государства - члена ООН сделали шаг к совместному управлению этим процессом.
«Пусть эта встреча запомнится как момент, когда управление начало догонять технологии. Когда первая Глобальная дискуссия по вопросам управления искусственным интеллектом вновь соберется в следующем году в Нью-Йорке, мы должны суметь сказать, что начатая здесь работа сделала искусственный интеллект более безопасным, справедливым, доступным и этичным. Помочь построить будущее искусственного интеллекта, созданного человечеством, вместе с человечеством и для всего человечества, вот масштаб нашей задачи», - заявил Гутерриш.
Глобальный диалог по вопросам управления искусственным интеллектом является инклюзивной инициативой ООН, запущенной Генеральной Ассамблеей. Ее цель - обеспечить всем странам равное право голоса в процессе формирования стандартов в области искусственного интеллекта.
Темы и структура диалога формируются в рамках продолжающегося глобального консультационного процесса. В ходе встречи, которая продлится до завтра, представители ООН, государства-члены, академические круги, частный сектор и организации гражданского общества поделятся своими позициями.
