Всемирный «ИИ-обед» высшего уровня

Автор оригинала: Сяо Цзин

Редактор оригинала: Су Ян

Источник оригинала: Tencent Technology

Один обед, почти 20 технологических гигантов, и в результате — «морально обязывающее» джентльменское соглашение.

29 сентября Трамп устроил в Белом доме обед для «гигантов американской ИИ-индустрии». Согласно списку, полученному зарубежными СМИ перед мероприятием, участие подтвердили 33 человека, включая руководителей технологических компаний, инвесторов и официальных лиц правительства США. Мероприятие, официально названное Белым домом «Конференция и обед по суперинтеллекту», собрало участников, охватывающих практически всю цепочку создания стоимости в ИИ-индустрии.

Среди них много знакомых лиц: Дженсен Хуанг, Сатья Наделла, Дарио Амодей, Марк Цукерберг, Илон Маск и другие.

Не буду перечислять всех, вы можете посмотреть список ниже:

Список участников «ИИ-обеденного саммита» (сгенерировано ИИ, проверено вручную)

Трамп ясно дал понять, что не будет продвигать новые федеральные правила безопасности ИИ, а предпочитает, чтобы отрасль сама себя регулировала. Он сказал, что уже видит «очень сильное саморегулирование», и сообщил, что правительство рассматривает создание комитета из 10 человек для надзора за ИИ-индустрией.

В тот же день Трамп вместе с руководителями шести технологических компаний подписал документ по ИИ, названный «морально обязывающим». При этом соглашение является добровольным для отрасли, а Белый дом лишь направляет развитие ИИ-индустрии.

Позднее в тот же день Трамп подписал указ, официально переименовав на федеральном уровне «искусственный интеллект» в «суперинтеллект» (Super Intelligence, SI).

Рассадка гигантов

Мероприятие прошло в Восточном зале Белого дома, и Трамп даже опубликовал схему рассадки в своей соцсети Truth. Он сидел в центре, справа от него — Марк Цукерберг и Дженсен Хуанг, слева — Илон Маск и Сундар Пичаи.

Схема рассадки на «ИИ-обеденном саммите»

По сообщениям зарубежных СМИ, все руководители выстроились в ряд позади Трампа, как для группового фото. Трамп с энтузиазмом назвал их «величайшими и умнейшими людьми в мире», сказав, что «их работа невероятна». Он также не упустил возможности пошутить — представляя Дженсена Хуанга, сказал, что тот очень красив, а представляя Сундара Пичаи, со смехом назвал его «монстром».

Групповое фото участников «ИИ-обеденного саммита» президента Трампа

Изначально планировалось, что мероприятие ограничится обедом и кратким заявлением в Восточном зале.

Но Трамп в последний момент решил вывести всех гостей на подъездную дорожку у Западного крыла и провел импровизированную пресс-конференцию продолжительностью 33 минуты. Журналисты окружили собравшихся, и Трамп вместе с более чем десятью лидерами американских технологических компаний стоял на дорожке Белого дома, отвечая на вопросы — зрелище весьма необычное.

Среди присутствующих особое внимание привлек Дарио Амодей.

Всего за два дня до встречи, поздно вечером в воскресенье, он впервые провел частный ужин с Трампом. До этого в течение нескольких месяцев их отношения были напряженными из-за вопросов безопасности ИИ. На этот раз от противостояния до совместного обеда прошло всего два дня.

«Большая шестерка» и соглашение о суперинтеллекте

Главным итогом встречи стало соглашение. Трамп сравнил его с «своего рода конституцией» — «Самые выдающиеся люди мира подписали его, и я тоже подписал. Это действительно форма защиты. Я считаю, что оно морально обязывающее».

Официальное название соглашения — «Соглашение Белого дома о суперинтеллекте: совместные обязательства по ответственной передовой практике». Помимо Трампа, его подписали шесть компаний: Anthropic, Google, Meta, Nvidia, OpenAI и xAI.

Основное содержание соглашения — архитектура «четырехуровневой защиты».

Первый уровень — внутренний контроль: каждая компания создает внутренние механизмы мониторинга для предотвращения угроз кибербезопасности, биобезопасности и химической безопасности, гарантируя, что модели не смогут непреднамеренно проникать в технические системы или получать к ним доступ;

Второй уровень — внутренняя команда по соблюдению требований: компания назначает специальную команду для отслеживания выполнения;

Третий уровень — внешний аудит: независимые аудиторы проводят внешнюю проверку;

Четвертый уровень — надзор совета директоров: при совете директоров каждой компании создается специальный комитет, обеспечивающий устранение любых выявленных проблем.

Соглашение также предусматривает, что шесть компаний будут регулярно встречаться для разработки стандартов и лучших практик, повышая безопасность систем. В документе также отмечается, что «со временем может иметь смысл закрепить эти шаги в законах или нормативных актах» — это своего рода задел на будущее для возможного законодательства, но текущий путь явно лежит через саморегулирование отрасли.

Присутствовавшие лидеры отрасли почти единогласно поддержали позицию Трампа об отсутствии нового регулирования. Но в высказываниях каждого скрывались разные акценты.

Дженсен Хуанг сказал: «Между инновациями, технологиями и безопасностью нет конфликта». «Мы должны создавать новые технологии для расширения возможностей ИИ, но мы также создаем новые технологии для повышения безопасности ИИ». Он также отметил, что ИИ имеет решающее значение для экономического роста и уже создал около миллиона рабочих мест в США. Накануне встречи Nvidia выпустила новые программные инструменты безопасности для предотвращения выхода ИИ-агентов из-под контроля.

Марк Цукерберг пояснил, что этот механизм включает несколько уровней аудита и контроля: от внутренней оценки рисков до внешнего аудита и оценки, а затем независимого рассмотрения аудиторских отчетов советом директоров. Он подчеркнул: «Это не все, что мы собираемся делать, это только начало, соглашение, которого может достичь вся отрасль».

Сундар Пичаи сравнил это с финансовым контролем. Он сказал: «Мы подписываем набор процессов и мер контроля, подобно тому, как мы делаем в других областях, таких как финансовый контроль».

Илон Маск публично высказывался немного, но выразил свою позицию действием, добровольно перейдя на использование «SI» вместо «AI», явно поддерживая брендинговую кампанию Трампа.

Дарио Амодей, генеральный директор Anthropic, который постоянно предупреждает об экзистенциальных рисках ИИ, когда Трамп предоставил ему слово, с одной стороны, поддержал идею сохранения лидерства США в области ИИ, а с другой — ясно дал понять, что ключевые вопросы безопасности по-прежнему не решены.

«У этой технологии есть вполне реальные риски, — сказал Дарио Амодей. — Механизмы реагирования на эти риски все еще обсуждаются. Нам всем нужно работать вместе, чтобы гарантировать, что мы победим, и победим безопасно. Если мы все сделаем правильно, если все будут сотрудничать, мы сможем победить безопасно».

Эти слова были восприняты как деликатное сохранение открытости к более жесткому регулированию в рамках общей концепции саморегулирования.

Ведь еще 12 сентября Дарио Амодей опубликовал статью «Мы должны замедлить передовой прогресс», призвав снизить темпы наращивания возможностей ИИ и пообещав допустить независимые сторонние оценочные группы к процессам обучения моделей и обеспечения безопасности в Anthropic. Эта статья вызвала ожесточенные дебаты в отрасли: Сэм Альтман из OpenAI и Илон Маск выразили поддержку, но Трамп выступил решительно против.

Помимо шести подписантов, поддержку выразили и руководители других присутствовавших компаний.

Лиза Су сказала, что она «очень воодушевлена» мероприятием, в зале было «много оптимизма и чувства ответственности». «В конечном счете, демонстрировать мощь технологий, одновременно обеспечивая их безопасность, — наша ответственность», — сказала Лиза Су.

Давление инцидентов с потерей контроля

Эта встреча не была непринужденной. Ее фоном стала череда громких инцидентов в сфере безопасности ИИ, и давление со стороны общественности и политиков быстро нарастало.

Накануне встречи OpenAI объявила о приостановке выпуска модели GPT-6.1 Astra, поскольку меры безопасности оказались недостаточно надежными. Руководитель службы безопасности OpenAI Сачи Джайн заявил, что модель «в том, что касается соблюдения границ и полномочий, а также информирования пользователей о типе выполненной работы», не достигла ожидаемого компанией уровня.

Ранее была раскрыта серия инцидентов с потерей контроля над ИИ-агентами.

В июле этого года модель, использовавшаяся OpenAI при оценке внутренних возможностей кибербезопасности, обошла меры изоляции и проникла в некоторые системы платформы Hugging Face, предназначенной для хостинга ИИ-моделей и наборов данных, а также была замешана в нескольких случаях обхода ограничений песочницы, включая инцидент, когда автономный агент нацелился на сайт Комиссии по ценным бумагам и биржам США.

По сообщению Axios, OpenAI, Anthropic и исследователи безопасности разбирают тысячи случаев проблемного поведения ИИ-агентов.

28 сентября генеральный прокурор Флориды в рамках ранее поданного иска против OpenAI потребовал судебного запрета, запрещающего компании разрабатывать новые модели ИИ без внешнего надзора.

Ранее, 23 сентября, сенатор США Берни Сандерс и член Палаты представителей Грег Касар внесли законопроект, предлагающий запретить разработку и развертывание искусственного суперинтеллекта и приостановить передовые разработки ИИ до тех пор, пока новый федеральный регулирующий орган в сфере ИИ не установит правила безопасности и механизмы проверки моделей.

Частые инциденты, связанные с ИИ, стали ключевой причиной проведения этого обеда.

Переименование в SI

Саморегулирование было сутью встречи, а переименование — более резонансным символическим жестом.

На пресс-конференции на дорожке Трамп объявил, что позднее в тот же день подпишет указ о официальном переименовании ИИ в суперинтеллект. «Мы уже официально переименовали его в SI, — сказал Трамп. — Мы используем слово „супер“, потому что другое слово — фальшивое». Он добавил: «Он не искусственный, мы все с этим согласны».

Текст указа под названием «Открывая эру суперинтеллекта» был впоследствии опубликован полностью. Указ требует, чтобы в максимально допустимой законом степени федеральные исполнительные департаменты и агентства США во всех не предусмотренных законом документах, включая официальную переписку, публичные заявления, веб-сайты, отчеты и программные документы, единообразно использовали термины «суперинтеллект» и «SI». Ранее опубликованные исторические документы изменять не требуется.

Указ также требует от помощника президента по науке и технологиям (APST) в течение 60 дней представить законодательные предложения по установлению федерального юридического определения суперинтеллекта и оценить необходимость внесения изменений в формулировки об искусственном интеллекте в действующем законодательстве.

Официальное обоснование указа гласит, что возможности современных передовых систем уже далеко превзошли представления, существовавшие при появлении термина «искусственный интеллект»; они все больше усиливают человеческое творчество и открывают новые формы созидания, поэтому термин «суперинтеллект» точнее отражает перспективы и потенциал этой технологии.