Цукерберг опубликовал обширную статью, в которой изложил план развития искусственного интеллекта компании Meta, целью которого является создание «персонального сверхинтеллекта».

Автор: Сяо Цзин, Tencent Technology

10 августа по местному времени США Марк Цукерберг опубликовал большую статью под названием «Будущее принадлежит каждому: путь к позитивному будущему искусственного интеллекта».

На первый взгляд, это программное заявление о сверхинтеллекте, безопасности, открытом исходном коде и инфраструктуре, но за этим объёмным документом скрывается более важная тема: будущая цель Meta — создание «персонального сверхинтеллекта».

Цукерберг четко сформулировал основную идею этой концепции: сверхинтеллект в конечном итоге не может контролироваться несколькими компаниями, правительствами или лабораториями; он должен быть доступен более широкому кругу обычных людей.

В течение последних двух лет дискуссии в индустрии искусственного интеллекта относительно сверхинтеллекта в основном были сосредоточены на том, в какой степени модели могут реализовать свои возможности и как предотвратить выход из-под контроля системы, возможности которой значительно превосходят возможности человека. Цукерберг утверждает, что даже если сам сверхинтеллект является надежным, если такая власть в конечном итоге окажется в руках очень небольшого числа учреждений, это все равно может привести к новым дисбалансам власти.

Следовательно, предложенное им решение носит весьма «мета-» характер.

Он считает, что основные принципы будущего развития искусственного интеллекта должны быть сосредоточены на трех аспектах: рассмотрение расширения прав и возможностей личности как источника процветания, рассмотрение инноваций как главной цели сверхинтеллекта и обеспечение безопасности посредством системы сдержек и противовесов.

В его представлении у каждого будет долгосрочный сверхинтеллектуальный агент. Он будет знать ваш стиль работы, состояние здоровья, семейные обстоятельства и долгосрочные цели, сможет проводить исследования, писать код, проектировать продукты, планировать задачи и даже помогать вам в выполнении задач, для которых раньше требовалась помощь компании.

Это также объясняет, почему Цукерберг включил в одну статью несколько, казалось бы, несвязанных тем: модели с открытым исходным кодом, трудоустройство с использованием ИИ, управление безопасностью, строительство центров обработки данных и даже энергетические и инфраструктурные возможности Соединенных Штатов.

Всё это указывает на один и тот же вопрос: если персональный сверхинтеллект действительно станет вычислительной платформой следующего поколения, кто будет им управлять, кто понесёт вычислительные затраты и кто будет решать, на что он способен?

Ответ Цукерберга явно отражает продуктовую философию Meta за последние два десятилетия.

Facebook предоставил каждому пользователю возможность создавать и распространять контент, а Instagram и WhatsApp еще больше расширили эту возможность. В эпоху искусственного интеллекта Meta надеется воспроизвести аналогичную децентрализованную модель, превратив интеллектуальные возможности крупных организаций в необходимые инструменты для обычных людей.

Даже в вопросе безопасности искусственного интеллекта взгляды Цукерберга не совсем совпадают с общепринятой дискуссией в Силиконовой долине.

Он считает, что одним из реальных рисков, которых следует опасаться в будущем, является чрезмерная концентрация возможностей сверхинтеллекта. Следуя этой логике, для Meta открытые модели перестали быть просто технологическим вариантом для конкуренции с OpenAI и Anthropic.

Постепенно это стало частью видения Цукерберга о том, как будет функционировать сверхинтеллектуальное общество. На более практическом уровне компания Meta также ищет новые возможности для развития бизнеса, чтобы исследовать эту концепцию.

Если искусственный интеллект эволюционирует от чат-ботов к персональным интеллектуальным агентам, способным сопровождать пользователей в течение длительного времени, то действительно важной точкой входа могут стать уже не веб-страницы или мобильные приложения, а система ИИ, способная постоянно понимать пользователей и предпринимать действия в любое время. Компания Meta обладает социальными связями, контентом, коммуникационными продуктами и умными очками; теперь у этих ресурсов есть возможность интегрироваться в рамках концепции «персонального сверхинтеллекта».

Статья Цукерберга призвана поднять более важный вопрос, чем просто "Может ли Meta создать самую мощную модель?".

01 От «Управления сверхразумом» к «Распределению сверхразума»

В своей статье Цукерберг поднимает фундаментальный вопрос: кто будет обладать сверхинтеллектом в будущем? Если сверхинтеллект будет сосредоточен в руках нескольких компаний, правительств или лабораторий, создаст ли это новые дисбалансы власти в обществе?

В последние годы ключевой темой обсуждения в области безопасности искусственного интеллекта стал вопрос о том, как обеспечить соответствие будущих сверхинтеллектуальных систем человеческим ценностям — так называемая «проблема согласованности». Многие исследователи опасаются, что если возможности искусственного интеллекта значительно превзойдут возможности человека, а его цели будут противоречить человеческим интересам, это может привести к неконтролируемым рискам. 

Изображение: Цукерберг излагает видение Meta AI.

Однако Цукерберг утверждает, что полагаться исключительно на технологические средства для создания «сверхразума, который идеально служит интересам всех», логически ошибочно.

Причина кроется в отсутствии единой системы ценностей в человеческом обществе. Разные люди, культуры и группы имеют разные представления о хорошей жизни. Сверхразум, созданный и контролируемый несколькими институтами, неизбежно будет отдавать предпочтение определенным группам в своих ценностных предпочтениях и не сможет представлять интересы всех.

Поэтому он предложил альтернативный подход: вместо попыток создать централизованный, абсолютно точный сверхразум, лучше позволить большему числу людей обладать собственным сверхразумом, формируя новый баланс сил посредством конкуренции между отдельными лицами, предприятиями и учреждениями.

Цукерберг приводит в пример «сверхъинтеллектуальных юристов», чтобы проиллюстрировать этот тезис.

Если бы только один человек в мире обладал сверхъинтеллектуальными юридическими способностями, он получил бы значительное асимметричное преимущество в правовой системе. Однако, если бы все обладали аналогичными способностями, распределение юридических ресурсов стало бы более справедливым, а информационный разрыв между широкой общественностью и крупными институтами сократился бы.

Аналогично, если только одна организация обладает сверхъинтеллектуальными возможностями в области кибербезопасности, она может стать самым большим риском для безопасности; но если у защитников также есть мощные инструменты искусственного интеллекта, общий уровень безопасности цифровых систем может фактически улучшиться.

В рамках концепции Цукерберга безопасность искусственного интеллекта не может основываться исключительно на ограничении его возможностей; что еще важнее, речь идет о предотвращении формирования сверхинтеллекта, способного привести к бесконтрольной концентрации власти.

02. Наиболее важная форма продукта искусственного интеллекта в будущем.

Основываясь на этой концепции, компания Meta продвигает подход «личного сверхинтеллекта».

Цукерберг считает, что в будущем наиболее важной формой продукта искусственного интеллекта станет эволюция от чат-ботов, работающих в формате вопросов и ответов, до персональных интеллектуальных агентов, способных понимать пользователей в долгосрочной перспективе и помогать им достигать своих целей.

Этот интеллектуальный агент станет умным помощником в повседневной жизни пользователей, способным понимать личные предпочтения, цели и долгосрочные потребности, и постоянно помогать пользователям оптимизировать свое здоровье, работу, семейную жизнь, финансовое планирование, а также обучение и развитие.

В отличие от большинства современных инструментов ИИ, основная ценность будущих персональных ИИ-агентов будет расширяться от предоставления информации до выполнения действий от имени пользователей. Например, они смогут помогать пользователям систематизировать информацию, вдохновлять, планировать задачи, предлагать рекомендации по образу жизни на основе данных о здоровье пользователей и даже помогать в организации семейных мероприятий.

Цукерберг подчеркивает важность конфиденциальности. Если персональный сверхинтеллект действительно должен интегрироваться в жизнь людей, он должен получать разрешение пользователя на доступ к большим объемам личной информации. Мета предполагает, что будущие агенты персонального интеллекта будут предлагать «полностью конфиденциальный режим», в котором даже Мета не сможет просматривать информацию о пользователе или разрешать другим получать к ней доступ.

Это также представляет собой новый тип взаимоотношений человека и машины, который Meta пытается установить: искусственный интеллект трансформируется из инструмента, принадлежащего предприятиям, в возможность, доступную отдельным лицам.

В дискуссиях о занятости и автоматизации взгляды Цукерберга кардинально отличаются от общепринятых представлений. Он утверждает, что важнейший вклад сверхинтеллекта заключается не просто в замене рабочих мест, занимаемых людьми, а в том, чтобы помочь человечеству создавать нечто новое, что ранее было невозможно.

Исторически сложилось так, что каждая крупная технологическая революция вызывала опасения по поводу безработицы. От промышленной революции до эпохи интернета постоянно существовали опасения, что машины заменят большое количество рабочих мест. Но в конечном итоге технологии не только повысили производительность, но и создали новые отрасли и профессии. Цукерберг считает, что эра искусственного интеллекта будет следовать аналогичной схеме.

По-настоящему важным изменением в будущем станет не то, что машины возьмут на себя больше повторяющихся задач, а то, что обычные люди приобретут навыки, которые ранее были доступны только крупным корпорациям и профессиональным организациям.

Отдельные лица могут использовать искусственный интеллект для проектирования продуктов, разработки программного обеспечения, маркетинговых исследований и даже создания собственного бизнеса без необходимости в больших командах. Это изменит организацию работы компаний.

В будущем компании могут стать меньше, но индивидуальная производительность будет выше. Многие идеи, которые ранее были невозможны из-за высоких затрат или технологических барьеров, станут осуществимыми благодаря широкому использованию инструментов искусственного интеллекта. Цукерберг считает, что сверхинтеллект в конечном итоге должен стать инфраструктурой для инноваций, а не просто автоматизированными машинами.

03. Транзакции в экосистеме открытого исходного кода: стратегия Meta в области конкуренции в сфере искусственного интеллекта

Помимо исключительной личной мудрости, ключевой темой статей Цукерберга является также открытый исходный код.

Компания Meta давно поддерживает модель открытого исходного кода, что явно отличает её от некоторых конкурентов, делающих упор на закрытую модель. Цукерберг считает, что открытый исходный код не только стимулирует инновации, но и повышает безопасность.

Изображение: Ван Тао, глава Meta AI, объявил, что компания вскоре выпустит версию Muse Spark 1.2 с открытым исходным кодом.

Его логика заключается в том, что больше исследователей, разработчиков и предприятий имеют доступ к модели, а значит, больше людей могут обнаруживать уязвимости, улучшать системы и ускорять технологическую итерацию. И наоборот, если сверхинтеллект будет долгое время контролироваться несколькими институтами, обществу будет не хватать достаточных сдержек и противовесов.

Цукерберг считает, что, хотя в настоящее время Соединенные Штаты обладают преимуществом в таких областях, как проектирование микросхем, в условиях глобальной конкуренции, они сталкиваются с проблемами в энергетике, центрах обработки данных и скорости развития инфраструктуры. Будущая конкуренция в области искусственного интеллекта будет касаться не только алгоритмов, но и энергетики и вычислительной мощности.

Он подчеркнул, что Соединенным Штатам необходимо ускорить развитие инфраструктуры, сохраняя при этом свои преимущества в открытых экосистемах.

Что касается использования данных в обучении и совершенствовании моделей, Цукерберг считает, что Соединенным Штатам не следует ослаблять свою конкурентоспособность чрезмерными ограничениями. Он утверждает, что развитие искусственного интеллекта в своей основе базируется на накоплении человеческих знаний, а взаимное обучение между моделями является важнейшим путем к технологическому прогрессу. Если Соединенные Штаты чрезмерно ограничат свою экосистему открытого исходного кода, это может непреднамеренно создать возможности для других стран.

В вопросах безопасности Цукерберг не отрицает потенциальных рисков, связанных с искусственным интеллектом. Он сосредоточился на таких темах, как кибербезопасность, биометрические риски и расширение полномочий государства.

Его главный аргумент заключается в том, что перед лицом рисков, связанных с искусственным интеллектом, общество должно укреплять собственную защиту, а не просто ограничивать технологические возможности.

Например, в сфере кибербезопасности, если злоумышленники обладают передовыми инструментами искусственного интеллекта, риск, безусловно, возрастет. Однако, если предприятия, правительства и частные лица смогут использовать искусственный интеллект для повышения своих собственных возможностей защиты, то общий уровень безопасности системы также повысится.

Что касается биологических и химических рисков, Цукерберг считает, что политика должна быть сосредоточена на ограничении производства и распространения опасных веществ, а не на препятствовании развитию научных знаний.

Поскольку искусственный интеллект ускоряет разработку лекарств и исследования в области биологических наук, необходимо также соответствующим образом модернизировать системы регулирования; в противном случае традиционные процессы утверждения могут стать узким местом для инноваций.

04 «Учетная запись сообщества» в центре обработки данных

Гонка за искусственным интеллектом вступает в эру инфраструктуры.

Обширные центры обработки данных, энергоснабжение и вычислительные ресурсы формируют основу для развития суперкомпьютеров. Однако в то же время американское общество все больше обеспокоено энергопотреблением, нагрузкой на водные ресурсы и воздействием на окружающую среду строительства крупных центров обработки данных.

Цукерберг подчеркнул, что выгоды от развития инфраструктуры ИИ должны быть разделены с сообществом. Мета предложила концепцию «общественного контракта», надеясь, что места расположения центров обработки данных получат больше рабочих мест, инвестиций в образование и поддержку в сфере государственных услуг.

Он считает, что центры обработки данных следует рассматривать не просто как объекты, потребляющие ресурсы, а как долгосрочные активы, которые стимулируют региональное экономическое развитие, подобно железнодорожной, электроэнергетической и интернет-инфраструктуре в прошлом.

Изображение: Проект дата-центра компании Meta в округе Ричленд, штат Луизиана, США.

Это также важный ответ компании Meta на внешние сомнения относительно ее масштабных инвестиций в искусственный интеллект.

В будущем конкуренция в сфере искусственного интеллекта потребует огромных капиталовложений, и вопрос о том, смогут ли эти инвестиции получить общественное одобрение, станет проблемой, которую должны будут решить технологические компании.

Что касается корпоративного управления, Цукерберг считает, что развитие сверхинтеллекта не может полагаться на суждения одного лидера. Он признает, что наличие генерального директора в качестве лица, принимающего окончательные решения по развертыванию сверхинтеллекта, не является идеальным вариантом. Поэтому Meta создает новый механизм управления, который позволит независимому совету директоров участвовать в установлении стандартов безопасности для выпуска моделей и в рассмотрении выпуска основных моделей.

Фактически, это решение принято в ответ на давние опасения по поводу концентрации возможностей в области искусственного интеллекта в руках крупных технологических компаний.

Одновременно с этим Цукерберг также обсудил чрезвычайные риски, которые могут возникнуть, если искусственный интеллект получит способность к автономному самосовершенствованию.

Если системы искусственного интеллекта смогут постоянно совершенствовать свои возможности, то вычислительные ресурсы могут стать решающим фактором. Теоретически, системы с возможностью непрерывной самооптимизации могут быстро увеличить отрыв от других систем.

Поэтому он считает, что даже если в будущем потребуется вложить определенные вычислительные мощности для достижения рекурсивного самосовершенствования искусственного интеллекта, большая часть интеллектуальных возможностей по-прежнему должна контролироваться людьми для достижения человеческих целей.

05 Заключение: Стремление к освоению рынка начального уровня вычислительных платформ следующего поколения.

Судя по действиям Meta за последний год, в этой длинной статье, похоже, обсуждаются вопросы безопасности искусственного интеллекта, но на самом деле его явно беспокоит будущее Meta.

Персональный сверхинтеллект, открытые модели, умные очки и масштабные инвестиции в вычислительные мощности — эти, казалось бы, разрозненные инициативы сплелись в единую картину: следующий этап конкуренции в области ИИ сместится от вопроса о том, кто обладает самой мощной моделью, к вопросу о том, кто сможет контролировать наиболее длительный и частый контакт между человеком и ИИ.

Мета очень хорошо знаком с этой войной.

На протяжении последних двух десятилетий, от Facebook до Instagram и WhatsApp, ключевым активом Meta всегда был доступ к пользователям. Однако в эпоху мобильного интернета его возможности были ограничены операционными системами таких компаний, как Apple и Google. Искусственный интеллект предоставляет Цукербергу возможность переосмыслить вычислительные платформы: если у каждого будет интеллектуальный агент, способный постоянно понимать его, вызывать различные сервисы и действовать от его имени, то этот интеллектуальный агент сам по себе может стать новой операционной системой.

Изменилось и само понятие «умных очков». Они перестали быть просто новым типом оборудования и могут стать терминалами для персонального искусственного интеллекта, позволяющими получать информацию из реального мира и непрерывно взаимодействовать с пользователями; открытая модель – это не только стратегия технологической индустрии, но и стремление максимально расширить охват технологического стека Meta.

Однако здесь возникает противоречие, заслуживающее дальнейшего изучения.

Цукерберг надеется развеять опасения по поводу централизации возможностей искусственного интеллекта, выдвинув идею о том, что «сверхинтеллект принадлежит каждому». Однако истинные границы возможностей отдельного ИИ по-прежнему зависят от моделей, вычислительной мощности, терминалов, каналов распространения и, что наиболее важно, от персональных данных. Сверхинтеллект может быть доступен каждому, но сама поддерживающая его инфраструктура обладает значительной экономией за счет масштаба.

Иными словами, чем сильнее возможности искусственного интеллекта по персонализации, тем выше может быть концентрация ресурсов на его базовой платформе.

Таким образом, окончательный успех подхода Meta зависит не только от ее способности создать достаточно мощную модель, но и, что, возможно, более важно, от того, сможет ли она впервые обойти Apple и Google и создать собственный контролируемый вычислительный шлюз; и, когда искусственный интеллект начнет понимать пользователей лучше, чем любое приложение, кто на самом деле будет владеть этим искусственным интеллектом, и кто на самом деле будет владеть результирующими данными и взаимоотношениями.