Генеральный директор OpenAI Сэм Альтман сообщил, что в соглашение с Пентагоном будут добавлены новые положения, прямо запрещающие преднамеренное использование систем искусственного интеллекта для внутреннего наблюдения в США.

В заявлении, опубликованном на его странице в социальной сети американской компании X Альтман отметил, что компания работает над уточнением условий контракта с Пентагоном, чтобы сделать принципы сотрудничества более прозрачными.

По его словам, помимо действующих положений в договор будут внесены новые формулировки, закрепляющие, что системы ИИ не будут намеренно использоваться для внутренней слежки в США. Это ограничение также распространяется на использование персональных данных, полученных на коммерческой основе.

Альтман добавил, что Пентагон подтвердил: сервисы OpenAI не будут использоваться разведывательными структурами, такими как Агентство национальной безопасности (NSA). Любое предоставление услуг таким ведомствам потребует отдельного изменения контракта.

Он подчеркнул, что существует множество сфер, где технология пока не готова к применению, а вопросы безопасности и сопутствующих расходов полностью не изучены. Эти темы, по его словам, будут рассматриваться совместно с Пентагоном постепенно и с осторожностью.

Альтман также признал, что, возможно, поспешил с объявлением о соглашении. «Вопросы крайне сложны и требуют четкой коммуникации. Мы действительно пытались снизить напряженность и предотвратить гораздо более негативный исход, однако понимаю, что это могло быть воспринято как оппортунистичный и небрежный шаг», — заявил он.

Глава OpenAI выразил надежду, что Пентагон предложит аналогичные условия и компании Anthropic.

Соглашение вызвало критику

На прошлой неделе OpenAI заключила соглашение с Пентагоном об интеграции своих моделей ИИ в сеть ведомства.

Быстрое согласие компании на контракт, от которого ранее отказалась Anthropic, вызвало обеспокоенность по поводу рисков «милитаризации» и «слежки», а также создало впечатление «оппортунистичного» поведения по отношению к конкуренту.

Многие пользователи, прежде всего в США, выступили против соглашения и призвали бойкотировать модель ChatGPT. Часть пользователей, поддержавших бойкот, начала переходить на модель Claude от Anthropic.