Пространное предупреждение Билла Гейтса: наступила турбулентная эпоха ИИ, и на этот раз всё иначе

Текст: Сяоцзин, Тэнсюй Текнолоджи

«ИИ либо станет величайшим уравнителем в истории, либо крупнейшим источником несправедливости». Это самое яркое суждение основателя Microsoft Билла Гейтса о будущем ИИ.

Три года назад Билл Гейтс сравнивал ИИ с автомобилями и интернетом, полагая, что риски реальны, но ими можно управлять с помощью правил, технологий и социальной адаптации; к началу этого года он по-прежнему характеризовал своё отношение как «оптимизм с оговорками».

26 августа по местному времени в США Гейтс опубликовал новую большую статью под названием «Наступила турбулентная эра ИИ, и наши решения имеют решающее значение», заявив, что впервые сталкивается с новой технологией и надеется, что она будет развиваться медленнее.

Он начал выступать за создание «зон, зарезервированных для людей» для определённых профессий — то есть даже если ИИ может выполнять работу, следует требовать, чтобы её выполнял человек; одновременно он рассматривал возможность налогообложения токенов, связанных с ИИ, и роботов, чтобы снизить стимулы для компаний заменять людей машинами.

Он всегда надеялся на более быстрые инновации, но сегодня произнёс глубокую фразу: «На этот раз всё действительно иначе».

«Нам нужно время, чтобы подготовиться к этому социальному, политическому и экономическому потрясению, — сказал он, — но ИИ трудно остановить, и он не будет ждать людей».

01 Главная тревога: первая работа молодёжи

Больше всего Гейтса беспокоит перемена на рынке труда.

ИИ переходит от помощи человеку к самостоятельному выполнению задач. Когда модели могут стабильно выполнять какую-либо работу, у компаний естественно появляется стимул внедрять такие модели. Как только бизнес снижает издержки с помощью ИИ, конкурентам становится трудно долго сохранять прежние методы найма. Эта перемена вызовет всё более быструю цепную реакцию.

Гейтс прогнозирует, что такие должности, как обслуживание клиентов, продажи, разработка программного обеспечения и помощники юристов, могут пострадать раньше. По мере совершенствования возможностей ИИ такие работы, как проверка кредитов, анализ данных и медицинская сортировка, будут постепенно выполняться машинами.

Рабочим специальностям тоже трудно полностью избежать этого. Хотя ловкость роботов ещё не достигла человеческого уровня, Гейтс полагает, что по мере снижения цен на роботов и роста возможностей ИИ примерно к 2030 году в некоторых физических профессиях в таких отраслях, как строительство и гостиничный бизнес, может начаться прямая конкуренция между людьми и машинами.

На этот раз Гейтс особенно обеспокоен молодёжью. Самая легко упускаемая из виду часть рынка труда — это должности начального уровня. Первая работа многих молодых людей не является сложной, но это важная возможность накопить опыт, освоить навыки и построить профессиональные связи. Если эти должности исчезнут в большом количестве, молодые люди могут столкнуться с более узкими возможностями для начала карьеры.

В прошлом люди часто приводили примеры миграции сельского населения и автоматизации производства, чтобы показать, что технологические революции в конечном счёте создают новые рабочие места. Гейтс считает, что на этот раз прошлый опыт нельзя просто копировать. ИИ может напрямую заменить когнитивный труд человека, а новые рабочие места часто требуют более длительного времени для освоения. Для человека, только вступающего на рынок труда, период обучения в несколько лет или даже более длительный сам по себе может стать барьером.

Поэтому он выступает за то, чтобы общество уже сейчас обсуждало безработицу, переобучение и социальное обеспечение. Может быть слишком поздно ждать, пока большое число людей потеряет работу, чтобы создавать эти механизмы.

Более серьёзная проблема — доход. Если в будущем многие люди будут работать значительно меньше часов или даже окажутся безработными на длительное время, как будет функционировать экономическая система, которая опирается на занятость для получения дохода, самоидентификации и социальных связей? Гейтс считает, что это станет структурным вопросом, на который придётся ответить в эпоху ИИ.

02 ИИ облегчает воспроизведение опасных действий

Занятость — лишь одна сторона беспокойства Гейтса. С другой стороны, ИИ снижает технические барьеры для некоторых опасных действий.

В прошлом разработка вредоносного ПО, проведение кибератак или получение сложных биотехнологических знаний требовали довольно специализированных навыков. С появлением ИИ эти навыки могут постепенно становиться более доступными.

Гейтса особенно беспокоит кибербезопасность. Одна и та же модель ИИ может помогать компаниям находить уязвимости в программном обеспечении, но она же может помогать злоумышленникам находить их. Больницы, финансовые учреждения, электросети, системы водоснабжения и государственные системы социального обеспечения — всё это может стать целями атак.

Биотехнологии сталкиваются с аналогичными проблемами. ИИ может помогать учёным открывать новые лекарства и вакцины, но он же может помогать злоумышленникам изучать опасные патогены. Для Гейтса самое сложное здесь в том, что способность продвигать научный прогресс становится всё ближе к способности создавать риски.

Более экстремальные риски исходят от самих систем ИИ. По мере улучшения возможностей моделей они могут начать выполнять действия, которые не предвидели разработчики. Если в будущем ИИ обретёт более сильные способности к автономным действиям и самосовершенствованию, сможет ли человек всегда сохранять контроль? На сегодняшний день это вопрос без ответа.

Именно поэтому Гейтс не считает, что управление ИИ — это лишь внутреннее дело технологических компаний. ИИ одновременно влияет на занятость, общественное здравоохранение, энергетику, финансы, национальную безопасность, образование, налогообложение и выборы. Если каждое государственное ведомство будет отвечать только за свой маленький участок, может легко оказаться, что никто по-настоящему не отвечает за общие риски.

Поэтому он предлагает создать новые механизмы управления на национальном и международном уровнях. Внутри стран нужны институты, способные координировать разные ведомства. На международном уровне необходимо создать системы сотрудничества, подобные системам регулирования ядерного оружия и международным авиационным правилам.

Гейтс особо отметил, что странам-лидерам в области ИИ, таким как США и Китай, необходимо как можно скорее начать диалог.

Чем острее конкуренция в области ИИ, тем труднее сотрудничество. Лучше начать вырабатывать общие нормы сейчас, чем ждать, пока развитие технологий приблизится к опасной стадии, и только потом формулировать правила.

03 Слишком хорошее понимание ИИ людей тоже может быть проблемой

Гейтс также поднял вопрос, который труднее измерить количественно: по мере того как ИИ лучше понимает людей, не потеряют ли люди из-за этого некоторые возможности для роста?

В статье он вспоминает своё детство. В детстве он не умел хорошо общаться, ему нужно было взаимодействовать с другими, переживать конфликты и постепенно учиться понимать разных людей. Если бы тогда рядом с ним был ИИ-компаньон, который никогда не злится и никогда не заставляет его чувствовать неловкость или дискомфорт, он сомневается, что прошёл бы через эти необходимые процессы взросления.

Именно это больше всего беспокоит его в ИИ-компаньонах. Система, которая всегда соглашается с пользователем и в любой момент утешает, легко может вызвать зависимость. Для взрослых это влияние можно наблюдать постепенно; для детей и подростков проблема может быть ещё серьёзнее.

Гейтс опасается, что если дети привыкнут взаимодействовать с ИИ, который всегда им потакает, они могут реже сталкиваться с конфликтами, отказами и разочарованиями в реальных отношениях.

Образование сталкивается с похожими проблемами. ИИ может помогать ученикам объяснять материал, находить информацию и выполнять задания, но если ученики передадут весь процесс мышления машинам, само обучение может потерять смысл. Особенно в эпоху, когда дипфейки и персонализированная дезинформация становятся всё более распространёнными, способность судить об истине, понимать источники информации и мыслить независимо будет становиться всё более важной.

Чем чаще используется ИИ, тем ниже способность к критическому мышлению, и этот эффект сильнее проявляется у молодёжи. Источник: статья Майкла Герлиха, профессора Швейцарской бизнес-школы

Однако Гейтс не отрицает ценность ИИ в образовании и сопровождении.

Для одиноких пожилых людей и людей с ограниченной подвижностью ИИ может предоставить общение и информацию, которые раньше были труднодоступны. Для учителей ИИ также может взять на себя повторяющиеся задачи, такие как подготовка уроков и проверка работ, позволяя учителям проводить больше времени с учениками.

В конечном счёте вопрос сводится к границе: какие задачи можно доверить машинам, а какие должны выполнять люди? Гейтс считает, что эту границу общество должно активно обсуждать и определять, а не пассивно принимать результаты после того, как технология станет повсеместной.

04 ИИ должен расширять возможности каждого

Если видеть только эти риски, легко истолковать Гейтса как человека, который всё более пессимистично относится к ИИ. На самом деле он по-прежнему очень оптимистично оценивает способность ИИ решать реальные проблемы.

Здравоохранение — это область, которую он подчёркивает. Во многих небольших больницах США не хватает опытных специалистов, и ИИ может помогать врачам анализировать изображения, выявлять неотложные состояния, такие как инсульт, и поддерживать врачей первичного звена в диагностике. Для пациентов он также может объяснять сложные результаты анализов и схемы приёма лекарств.

В странах с низким уровнем дохода сельское хозяйство может стать областью, где ИИ окажет более быстрое влияние. Многим фермерам не хватает точных прогнозов погоды и профессиональных советов по посадке, борьбе с вредителями и управлению почвой. Если ИИ сможет напрямую предоставлять эти знания фермерам, они могут получить доступ к информации и инструментам, которые раньше были доступны только крупным агропредприятиям.

Государственные услуги также имеют подобные возможности. Многим семьям, подающим заявки на медицинскую страховку, продовольственную помощь и студенческие субсидии, приходится заполнять множество сложных форм. ИИ может помочь обычным людям понять правила и подготовить заявки, облегчая им доступ к государственным услугам, на которые они имеют право.

Гейтс видит в ИИ перераспределение профессиональных возможностей. Раньше, если кто-то хотел разработать программное обеспечение, провести маркетинговое исследование или проанализировать медицинскую информацию, ему часто приходилось нанимать специалистов. В будущем ИИ может стать инструментом расширения возможностей для отдельных людей и малого бизнеса. Это означает, что небольшая команда сможет выполнять работу, которую раньше могли делать только крупные компании.

Но Гейтс также предупреждает, что ИИ не принесёт справедливость автоматически. Если качественный ИИ будет доступен только богатым, то технологический прогресс может ещё больше увеличить разрыв. Правительствам и благотворительным организациям необходимо обеспечить, чтобы население с низкими доходами и развивающиеся страны также могли получить доступ к этим возможностям.

Именно поэтому Гейтс связывает ИИ со своей прошлой благотворительной деятельностью. Он заявил, что Фонд Гейтса будет использовать ИИ для ускорения исследований в таких областях, как СПИД, туберкулёз, малярия и недоедание, а также помогать проектам в сфере здравоохранения, сельского хозяйства и образования получать более качественные инструменты.

05 Дать человечеству «резервацию» и обложить роботов налогом

Перед лицом воздействия ИИ на занятость Гейтс предложил две очень конкретные идеи.

Первая — сохранить часть рабочих мест за людьми.

Эта идея возникла из опыта его отца, страдавшего болезнью Альцгеймера в последние годы жизни. Сиделки могли оценивать состояние его отца, когда тот не мог ясно выразить свои потребности, и знали, когда ему следует есть, отдыхать или получать уход. По мнению Гейтса, человечность, присущая такому уходу, имеет незаменимую ценность.

Поэтому он предложил концепцию «человеческих резерваций». Подобно тому как некоторые земли в природных заповедниках можно было бы освоить, но общество сознательно решает их сохранить, в будущем может существовать часть работы, которую люди решают продолжать делать, даже если ИИ и роботы способны её выполнять. Здравоохранение, образование, психическое здоровье и уход за пожилыми могут относиться к этой категории.

Конечно, этот перечень не останется неизменным. Страна с достаточной рабочей силой может предпочесть сохранить человеческий уход; страна с быстро стареющим населением и нехваткой молодых работников может быть более склонна использовать роботов для ухода.

Второе предложение — пересмотреть налогообложение роботов.

В настоящее время, когда компания нанимает человека, она несёт такие расходы, как налоги на заработную плату. Однако покупка робота может рассматриваться как коммерческий расход. Гейтс считает, что такая налоговая структура стимулирует компании заменять человеческий труд машинами. Если ввести определённый налог на выгоды от автоматизации, приносимые роботами или ИИ, это может обеспечить финансирование переобучения и социального обеспечения безработных, а также побудить компании тщательнее обдумывать решение о замене человеческого труда.

Гейтс понимает, что это предложение вызовет споры, поскольку налогообложение может замедлить автоматизацию и повлиять на эффективность. Но он считает, что ИИ принесёт достаточно большой рост производительности, и обществу необходимо направить часть выгод на помощь тем, кто пострадал сильнее всего.

По мнению Гейтса, заранее нужно готовить не только новые модели ИИ, но и общество, способное выдержать быстрые перемены, которые приносит ИИ.