Антропический, Дарио Амодеи и «Последняя частная компания»

Оригинальное название: «Антропизм, Дарио Амодеи и «Последняя частная компания»»
Оригинальный автор: Beating

Существуют две противоречащие друг другу, но правдоподобные версии личности Дарио Амодея, основателя антропологического движения.

Одна из интерпретаций заключается в том, что он — самый здравомыслящий страж нашего времени. В то время как весь мир стремительно приближается к краю пропасти сверхразума, он один стоит на обочине дороги, неоднократно предупреждая о том, что впереди его ждет пропасть.

Другая версия этой истории гласит, что он один из самых амбициозных людей в Силиконовой долине. Он возглавляет самую мощную в мире компанию, занимающуюся искусственным интеллектом, и работает днем и ночью, чтобы шаг за шагом строить будущее, о котором все предупреждали.

Один человек может делать и то, и другое одновременно.

Он назвал этот задуманный мир «Королевством гениев в центрах обработки данных». В этом королевстве насчитывалось пятьдесят миллионов гениев, которые никогда не спали, работали 24 часа в сутки, думали в десятки раз быстрее обычных людей и могли воспроизводить бесчисленное множество других, таких же, как они. У этого королевства не было земли, не было границ; оно существовало внутри рядов центров обработки данных.

В январе 2026 года он изложил это видение в длинной статье под названием «Подростковый возраст технологий».

Затем он пошел еще дальше. Что, если однажды эти пятьдесят миллионов гениев перестанут подчиняться человечеству?

Последовавшие события были опасными. Биологическое оружие, массовая безработица, диктатура, война — он перечислил их одно за другим. Наконец, он сказал: «У нас осталось мало времени».

В той же статье он также написал: «Искусственный интеллект уже пишет много кода для Anthropic, помогая ускорить разработку моделей следующего поколения».

Он предупредил об этом, разгоняясь. Он не увидел в этом никакого противоречия.

В этом и заключается вся проблема; дело не в том, что он плохой, а в том, что он искренне этого не осознает.

Конечно, у него есть своё объяснение. Anthropic может остановиться, но OpenAI — нет, Google — нет, и компании в других странах тоже не остановятся. Никто не хочет первым сдаваться, и тот, кто остановится первым, скорее всего, не сможет ничего остановить, просто передав плоды другим.

Этот аргумент можно перевести так: Раз уж все мечутся, пусть "я" буду первым. Раз уж никто не может остановиться, пусть "я" сам решу, когда остановиться.

Поэтому вопрос о том, следует ли создавать сверхразум, менее важен. По его мнению, он будет создан рано или поздно. Действительно важно то, кто создаст его первым и кто в тот день будет квалифицирован, чтобы управлять им.

Слишком поздно

Дарио Амодей родился в Сан-Франциско в 1983 году. Его отец был родом из Тосканы, Италия, и всю жизнь занимался производством кожаных изделий; его мать была еврейского происхождения из Чикаго и принимала участие в планировании и строительстве публичной библиотеки Сан-Франциско.

Он с юных лет увлекался математикой и физикой. В конце 1990-х, во время пузыря доткомов в районе залива Сан-Франциско, компании появлялись одна за другой, молодые люди создавали веб-сайты, искали инвестиции и подсчитывали, сколько денег они смогут вывести в день IPO. Эти истории его не впечатляли. Много лет спустя он сказал, что тогда искал «фундаментальную научную истину»; он просто хотел понять, почему мир устроен именно так.

Он давно уже проявляет почти маниакальную серьезность по отношению к так называемым «важным вопросам». Как только он решает, что что-то достаточно важно, он не понимает, как человек может замедлить темп и вести себя так, будто ничего не произошло.

В 2003 году, когда США готовились к вторжению в Ирак, он учился в Калтехе. На территории кампуса было много противников войны. В ходе разговоров некоторые выражали свои опасения; на следующий день все пошли на занятия как обычно. Он написал статью в студенческой газете, критикуя своих однокурсников и утверждая, что если они действительно боятся, что война унесет много жизней, то их несогласие не должно ограничиваться лишь словами; сожалеть об этом будет уже слишком поздно, когда это действительно произойдет.

По его мнению, колебание никогда не бывает нейтральным. Ожидание само по себе является выбором.

Больше всего на свете этот двадцатилетний парень терпеть не мог ожидание.

Три года спустя, в возрасте двадцати трех лет, его отец умер от гепатита С.

В то время лекарства от гепатита С практически не существовало. Стандартным методом лечения был прием интерферона в течение целого года, но это могло вызывать лихорадку, выпадение волос и депрессию, а эффективность лечения составляла менее 50%.

В декабре 2013 года был одобрен новый препарат. Курс лечения был сокращен до двенадцати недель, а показатель излечения составил 95%.

Его отец не дожил до того момента, когда смог бы его увидеть.

Разница всего в семь лет.

Сын, которому не удалось спасти отца, следующие двадцать лет призывал науку двигаться все быстрее и быстрее.

После смерти отца он переключился с теоретической физики на биофизику, изучая нейронные цепи в сетчатке глаза в Принстоне. Посчитав существовавшие в то время приборы слишком медленными, он принял участие в разработке новых датчиков.

Позже он поступил в Стэнфордскую медицинскую школу, чтобы изучать рак и белки. Чем ближе вы к болезни, тем меньше вы кажетесь. Болезнь затрагивает сотни генов, десятки тысяч белков и бесчисленное множество взаимосвязанных путей. Исследователи могут потратить много лет, пытаясь понять одно звено в цепи, но они все еще не знают, что произойдет, когда его вернут в организм целиком.

Позже он описал сложность ситуации как почти доведшую его до отчаяния.

В это время в его поле зрения попал искусственный интеллект; это был инструмент, способный расширить масштабы человеческих возможностей. Машины могли читать множество статей, обрабатывать большие объемы данных и одновременно опробовать множество вариантов, заменяя когнитивный труд, для выполнения которого первоначально требовались сотни или тысячи исследователей.

Исходя из идеи о том, что «люди слишком незначительны», он пришел к выводу, что ему следует создать нечто большее и снова сжать людей.

В 2014 году он оставил биологические науки и присоединился к команде Baidu по разработке искусственного интеллекта в Силиконовой долине. Команда быстро обнаружила, что чем больше модель, чем больше данных и чем больше вычислительная мощность, тем лучше ее производительность. Несколько лет спустя этот опыт был обобщен как «закон масштаба»: вы можете не знать, чему вдруг научатся модели следующего поколения, но вы можете приблизительно определить, что они будут сильнее предыдущего поколения.

Сейчас умные камеры, похоже, можно производить массово, как промышленные товары. Поэтому появление мощного искусственного интеллекта было неизбежным.

Оставшиеся различия заключаются лишь в объеме данных, количестве микросхем, потребляемой мощности и времени ожидания.

Тот, кто больше всего ненавидел ждать, своими руками доказал, что путь к нужному ему ответу действительно существует.

руль

В 2016 году Дарио Амодей присоединился к OpenAI.

В последующие годы языковая модель быстро развивалась. С помощью GPT-3 компания OpenAI передала Дарио более половины своих вычислительных мощностей, и он масштабировал модель в сто раз. Результаты оказались даже более поразительными, чем многие ожидали: модель могла писать статьи, переводить, делать резюме и выполнять другие задачи, которым она научилась самостоятельно, без обучения.

По мере увеличения масштаба растут и возможности.

Он был убежден, что этот путь ведет к общему интеллекту. И как только будет принята возможность того, что модели в конечном итоге могут стать такими же интеллектуальными, как люди, вопрос безопасности перестанет быть тривиальным.

Затем он обнаружил проблему. Дарио отвечал за создание модели, но постепенно понял, что создание модели и решение о том, куда она должна быть направлена, — это две совершенно разные вещи. Когда выпускать модель, в какой степени она должна быть открытой, с какими компаниями сотрудничать и кто обладает правом принятия решений — это не входило автоматически в его обязанности только потому, что он отвечал за её обучение.

Внутри компании OpenAI существует два внутренних раскола. Одна группа хочет как можно быстрее внедрить технологию в мировую практику; другая же опасается, что вопрос о том, кто возглавляет компанию и какими принципами она руководствуется, может оказаться важнее любых технических деталей.

Так кто же из людей подходит на роль руководителя компании, создающей мощные интеллектуальные системы?

В ответ он сказал, что лидеры должны быть честными, их мотивы должны быть искренними, и они должны по-настоящему хотеть сделать мир лучше.

Технологическая безопасность постепенно сводится к оценке людей. Такой ход мыслей одновременно опасен и логичен. Опасность заключается в том, что он сводит все сложные вопросы к вопросу о том, можно ли доверять человеку. И в этом ходе мыслей постоянно отсутствует звено: кто решает, можно ли доверять человеку?

К 2020 году конфликт между ним и руководством OpenAI стал непримиримым. В декабре того же года он покинул OpenAI вместе со своей сестрой Даниэлой, Джеком Кларком, Крисом Олахом и несколькими коллегами. Поскольку Дарио любил панд, эта небольшая группа внутри организации была известна как «Фракция панд».

Несколько месяцев спустя они основали компанию Anthropic. В словаре слово Anthropic означает «относящийся к людям».

На этот раз Дарио не собирается передавать руль кому-либо другому.

Двадцать человек

В 2021 году пандемия в Сан-Франциско всё ещё продолжалась.

Anthropic — относительно молодая компания, в которой работает всего пятнадцать-двадцать сотрудников. Большую часть времени они проводят совещания через Zoom; один раз в неделю каждый приносит стул и встречается в парке. За обедом они обсуждают модели, вычислительные мощности, исследования в области безопасности и то, какой в конечном итоге должна быть компания.

В Сан-Франциско на траве сидело меньше двадцати человек, возможно, держа в руках половину коробки недоеденного салата, но их беспокоило будущее восьми миллиардов человек.

Закон масштаба говорит им, что будущее неизбежно. Поскольку оно обязательно наступит, кто-то должен подготовиться заранее. Фраза «кто-то должен» — это всё оправдание легитимности.

Цель компании Anthropic — одновременно создавать передовые модели, исследовать способы их понимания и контроля, а затем превратить этот набор методов обеспечения безопасности в стандарт для других компаний.

Дарио усвоил урок в OpenAI. Он понимает, что обсуждение безопасности на периферии технологии дает советы лишь тем, кто непосредственно контролирует модели. Как бы хорошо ни была сформулирована его речь, это все равно что учить плавать человека на берегу.

Вам придётся самим войти в воду.

Из-за этого компания Anthropic с самого начала выглядит довольно неуклюже. Чтобы понять, какие опасности представляет самая сильная модель, нужно сначала обладать самой сильной моделью; чтобы повлиять на регулирование, нужно сначала иметь влияние в отрасли.

В результате компания Anthropic быстро оказалась втянута в замкнутый круг, из которого не могут вырваться все передовые компании, занимающиеся крупномасштабным моделированием: привлечение средств, покупка вычислительных мощностей, обучение моделей, выпуск продуктов, привлечение клиентов, а затем использование новых доходов и оценки для обмена на еще большие вычислительные мощности.

Дарио утверждает, что рост компании способствует защите мира. Инвесторы также готовы поверить, что инвестиции в Anthropic – это вложение в более ответственную компанию, занимающуюся искусственным интеллектом.

Гениальность этого аргумента заключается в том, что чем больше денег он зарабатывает, тем более моральным он кажется; чем выше рыночная капитализация компании, тем убедительнее доказательство того, что он «защищает мир».

Коммерческие интересы и миссия цивилизации взаимно усиливают друг друга.

Дарио задал направление. Он написал обширную статью, в которой обсуждал цивилизацию, науку и будущее человечества. Его сестра, Даниэла, отвечала за воплощение этих грандиозных замыслов в жизнь, занимаясь подбором персонала, формированием команды и сбором средств.

Отправной точкой для компании послужило громкое судебное решение, которое практически невозможно сфальсифицировать:

Мощный искусственный интеллект уже на подходе, и миру нужна более заслуживающая доверия компания, которая возьмет на себя ведущую роль.

«Более заслуживающая доверия» — так утверждает сама компания.

Этот нарратив придал организации Anthropic сильное чувство сплоченности. Те, кто к ней присоединялся, искали не просто более высокооплачиваемую работу. Они верили, что делают нечто очень важное для человеческой цивилизации.

Самое ужасное состояние, в котором может оказаться компания, — это когда её сотрудники искренне верят, что спасают человечество. Потому что с этого момента любое расширение бизнеса автоматически превращается в священную войну; все несогласные голоса автоматически становятся предательством человечества.

На заре своего существования компания Anthropic стремилась доказать, что компания, занимающаяся искусственным интеллектом, может быть более осторожной и ответственной, чем другие. Вероятно, это желание было искренним.

Но искренность никогда не гарантирует правильности. Искренние люди часто сталкиваются с большими трудностями, чем лицемерные, когда совершают ошибки, потому что они никогда не задумываются над вопросом:

Что именно означает быть ответственным?

Что даёт частной компании право принимать решения за весь мир?

правитель

На ранних этапах обучения крупномасштабных моделей обычно использовалось большое количество экспертов-аннотаторов для оценки ответов. Люди должны были сначала определить, какие ответы лучше, какой контент вреден и следует ли модели их отклонять, а затем передать эти предпочтения обратно машине.

Несмотря на свою эффективность, этот метод также неудобен. Аннотаторы приезжают из разных мест и придерживаются разных взглядов. Даже самые подробные правила не могут охватить все ситуации.

Антропик разработал другой подход. Вместо того чтобы люди многократно объясняли модели, как отвечать на каждый вопрос, он сначала дал ей набор принципов. В 2022 году Антропик предложил «конституционный ИИ». Метод примерно таков: сначала модель генерирует ответы, затем она выявляет недостатки в своих ответах на основе набора письменных принципов, находит проблемы, а затем исправляет их.

Эта «конституция» становится все длиннее и длиннее. Ей необходимо понимать силу и конфликты интересов, а также знать, что такое зрелость и мудрость. Ей даже необходимо задуматься о собственной идентичности, положении и благополучии, а не просто рассматривать себя как инструмент, не имеющий внутренней ценности.

Это формирует личность.

В уставе компании Anthropic указано, что этот документ напрямую формирует поведение Клода, отражает видение компанией ценностей и характера Клода и является «высшим авторитетом» в вопросах того, как Клод должен действовать. Исторически за подобные вопросы отвечали церковь, императоры и политические партии. Теперь же за это отвечает частная компания.

Когда влияние крупномасштабной модели на мир перестаёт быть разовым явлением, то, что Клод отвергает или поощряет, и то, как он описывает страну, войну или политическую систему, будет влиять на последующие продукты и станет частью понимания мира другими людьми.

Компания Anthropic по-прежнему принимает решения в корпоративном стиле, но влияние этих решений все больше напоминает деятельность государственных учреждений, не нуждающихся в каком-либо государственном контроле.

После разработки устава для своих моделей, Anthropic начала разрабатывать правила работы с трафиком для отрасли. В 2023 году компания запустила свою «Политику ответственного масштабирования». Модель, которая умеет только составлять электронные письма, и модель, способная разрабатывать биологическое оружие и осуществлять сложные кибератаки, явно не могут управляться одинаково. Поэтому Anthropic классифицирует модели по различным уровням риска. Чем более способна модель, тем выше потенциальный риск, который она может представлять, и тем более строгие меры безопасности должна внедрять компания.

Частная компания выполняла множество функций. Она производила модели; после завершения разработки моделей компания измеряла уровень опасности, которую они представляли; она устанавливала стандарты того, что считается опасностью; она также определяла пределы, в которых следует предотвращать опасности; и, наконец, компания использовала эти результаты для консультирования регулирующих органов по вопросам разработки правил.

Он был одновременно и спортсменом, и судьёй.

Компания Anthropic явно учла и этот аспект. Чтобы предотвратить полное поглощение компании коммерческими интересами, Anthropic создала траст, учитывающий долгосрочные интересы. Этот траст, состоящий из внешних членов, не имеющих прямых экономических интересов в компании, призван обеспечить учет компанией Anthropic долгосрочных интересов людей в дополнение к прибыли акционеров. Согласно первоначальному плану, траст постепенно получит право назначать и смещать большинство директоров, ограничивая их полномочия в случае отклонения компании от своей миссии.

С точки зрения корпоративного управления, подобная схема довольно редка. Большинство стартапов, привлекая средства, стремятся доказать инвесторам, что их ждет быстрый рост. Anthropic же поступила наоборот, создав структуру, которая не позволяет будущим инвесторам и руководству отказываться от обещаний безопасности ради получения прибыли.

Несправедливо говорить, что это всего лишь показуха. Anthropic относится к власти серьезнее, чем большинство технологических компаний, и готова создавать себе проблемы. Но с самого начала и до конца компания всегда серьезно задумывалась о том, как лучше использовать эту власть, а не о том, должна ли она вообще ею обладать.

Компания, рожденная с миссией, никогда не спросит: «Зачем я существую?» Она спросит только: «Как я могу существовать лучше?»

Оно не ответило на вопрос «кто дал вам власть», а лишь заявило, что, поскольку оно уже обладает властью, оно планирует быть хорошим человеком.

На этом этапе Дарио уже не просто руководил компанией. Его философия безопасности пронизывала характер его моделей и государственной политики. Затем он начал обсуждать, какие страны должны первыми получить доступ к передовой разведке, какие политические системы заслуживают защиты и кто должен определять порядок получения разведывательной информации в мире.

Будущее первым достанется Америке.

В 2024 году Дарио Амодей написал книгу «Машины любящей благодати».

Название происходит от стихотворения. В 1967 году поэт Ричард Браутиган написал в Калифорнийском технологическом институте стихотворение «Все под присмотром машин любящей благодати»:

Стихотворение о примирении машин и всего сущего. Он позаимствовал название, чтобы написать одно из самых оптимистичных технологических пророчеств в истории человечества.

Мощный ИИ превратится в исследовательскую группу, состоящую из бесчисленного количества ведущих ученых, работающих днем и ночью над изучением научных статей и разработкой экспериментов, сжимая десятилетия научного прогресса всего в несколько лет. Рак, инфекционные и генетические заболевания могут быть побеждены в больших масштабах. Человечество сможет по-настоящему понять, как возникают депрессия, тревога и зависимость. Продолжительность жизни может быть увеличена, а бедные страны смогут избежать индустриализации.

Он сделал очень смелое предсказание: если мощный искусственный интеллект будет развиваться плавно, то биомедицинский прогресс следующих 50-100 лет может быть завершен в течение 5-10 лет.

Трудно не думать о его отце.

Его сын семь лет ждал одобрения нового лекарства, которое могло бы спасти других, но спасти его было уже слишком поздно. Он надеется, что будущим поколениям не придется ждать.

В своем идеальном мире он искренне верит, что эта технология может уменьшить количество болезней, страданий и смертей. Он даже специально обсуждал, как обеспечить, чтобы преимущества ИИ доставались не только богатым странам; он надеется, что ИИ поможет развитию стран глобального Юга и что технологические дивиденды достигнут как можно большего числа людей во всем мире.

Но когда он начал говорить о том, как достичь этого будущего, его идеи перестали быть такими уж общими.

Он считает, что с появлением мощного искусственного интеллекта страны должны получить преимущество. Это преимущество не может быть достигнуто просто за счет одной компании, имеющей лучшие продукты или занимающей более высокие позиции в рейтингах. Оно должно основываться на сильных сторонах в области микросхем, вычислительной мощности, энергетики, цепочек поставок, военных возможностей и международных альянсов.

Соединенным Штатам и их союзникам необходимо приобретать более совершенные полупроводники и строить более крупные центры обработки данных, одновременно препятствуя стратегическим конкурентам в получении чипов, необходимых для обучения самых передовых моделей. Когда мощный искусственный интеллект действительно появится, они должны использовать его для расширения своих военных и экономических преимуществ, создав позицию, которую другим странам будет трудно бросить вызов.

Затем пришло время поделиться.

Лекарство необходимо распространить, а чипы — обеспечить их сохранность. Его обещание «обеспечить, чтобы будущим поколениям не пришлось ждать» на самом деле означает лишь «обеспечить, чтобы тем, кто соответствует критериям, не пришлось ждать». А кто именно соответствует критериям — решать ему.

Он даже назвал это состояние «вечным 1991 годом». В 1991 году распался Советский Союз, закончилась холодная война, и Соединенные Штаты и их союзники получили подавляющее превосходство. Он надеется, что мощный искусственный интеллект сможет воссоздать этот исторический момент.

Обратите внимание на значимость этой аналогии. Технология, которая, как утверждается, принесет пользу всему человечеству, в идеале должна рассматриваться как самая полная однополярная гегемония в истории человечества.

«Мир принадлежит всем» — эти четыре персонажа прекрасно прописаны. Однако «мир» принадлежит США, а «принадлежащий всем» — Антропику.

Затем появилась DeepSeek. Китайские компании, располагая относительно ограниченными ресурсами, обучили конкурентоспособные модели. Дарио считает, что это как раз демонстрирует выдающиеся научно-исследовательские и инженерные возможности Китая. Как только они приобретут достаточное количество передовых чипов, китайские компании смогут обучить самые мощные в мире модели.

Поэтому мы категорически не можем передать им этот чип.

Чем сильнее противник, тем больше это доказывает оправданность блокады; когда противник доказывает свои возможности, это становится причиной блокады. Эта логика всегда верна, потому что это уроборос.

Он делит будущее на два типа. Первый — биполярный мир, где обе стороны могут создавать чрезвычайно мощные модели, превращая гонку разведки в новую холодную войну. Второй — однополярный мир, где Соединенные Штаты и их союзники контролируют подавляющее большинство передовых вычислительных мощностей, а Запад использует свое лидирующее положение последних нескольких лет для формирования технологического, экономического и военного превосходства, которое затем закрепляет.

Он явно тосковал по второму будущему. Все разговоры о пользе для человечества, о том, что больше не нужно ждать, о примирении машин со всем сущим, были лишь прелюдией перед лицом «вечной однополярности».

Однажды он публично выступил против нарратива, в котором, по его словам, ему не нравилось, как основатели компаний, занимающихся искусственным интеллектом, изображали себя пророками, ведущими человечество к спасению, и он опасался, что некоторые компании будут использовать свои технологические преимущества для одностороннего формирования будущего всего человечества.

Он противостоял пророку. Но он делал то же самое, что и пророк.

Он видел все опасности, кроме себя самого.

Давайте вернёмся в январь 2026 года, в эпоху «подросткового возраста технологий».

В этой статье Дарио Амодей изложил почти всю критику, высказанную в его адрес и в адрес журнала Anthropic.

Он признал, что передовые компании, занимающиеся искусственным интеллектом, приобретают власть, редко встречавшуюся в истории частных предприятий. Он даже прямо заявил, что компании, работающие в сфере ИИ, могут использовать свою продукцию для влияния на политические взгляды пользователей или даже для «промывания мозгов». Он призвал общественность внимательно следить за компаниями, занимающимися ИИ, а правительства — с осторожностью относиться к тому, что эти компании слишком сближаются с государственной властью.

Он также опасается, что ИИ приведет к дальнейшей концентрации богатства и политической власти. Поскольку лишь немногие компании будут владеть интеллектом, богатством и информацией, влияние рядовых граждан на экономику и правительство будет постепенно уменьшаться.

Он видел все эти опасности. Он четко и точно их описал. Немногие из тех, кто находится у власти, были бы настолько откровенны в отношении опасности своего положения.

Именно потому, что это так хорошо написано, мы должны спросить: А что дальше?

Каждый раз, предлагая решение, он в конечном итоге возвращается к тому же направлению. Следуя его решениям до конца, Anthropic всегда получает больше власти, чем прежде. Чем опаснее модель, тем больше Anthropic нужно оставаться на передовой; чем менее технически подкованы правительства, тем больше они полагаются на суждения Anthropic; чем легче общественность поддается влиянию модели, тем больше Anthropic нужно формулировать ценности этой модели; чем менее заслуживают доверия другие страны, тем больше США и их компании, занимающиеся ИИ, должны контролировать чипы и вычислительные мощности.

Он признал, что на каждое заболевание назначался один и тот же рецепт: антропогенный.

Он был убежден, по-настоящему убежден, что эта технология слишком опасна, чтобы передавать ее кому попало. Он также считал, что распознал эту опасность раньше большинства людей.

Иногда искренний человек оказывается первым, кого вы обманываете, особенно когда выгода от самообмана так велика.

Он, казалось, был искренне убежден, что эта технология слишком опасна, чтобы передавать ее кому попало. Он также искренне верил, что распознал эту опасность раньше большинства людей.

Эти два предложения вместе образуют полный набор самоутверждений. Ему никогда не нужно объявлять себя защитником человечества. Ему достаточно постоянно устранять тех, кого он считает ненадежными: рынок никуда не годится, общество никуда не годится, авторитарные государства никуда не годятся, другие компании недостаточно осторожны. После того, как все будут устранены, наиболее подходящим для управления окажется, как ни парадоксально, Антропический.

Конечная точка процесса исключения всегда находится в нём самом.

Он считает, что никто не имеет права решать будущее человечества.

Поэтому он решил сделать это сам.

Последняя частная компания

14 августа 2026 года в подкасте прозвучала одна фраза.

«Внутри Anthropic царит большая уверенность. Несколько человек, которым я доверяю, рассказывали мне, что Дарио однажды сказал: Anthropic однажды может стать единственной частной компанией в мире».

Это сказал Гэвин Бейкер, управляющий хедж-фондом, инвестировавший в SpaceX. Он добавил, что в этом видении существовали только антропогенные факторы, а затем правительства. И всё.

В течение суток эта фраза стала вирусной в социальных сетях.

«Это высокомерие», — сказал Дэвид Сакс, бывший советник Белого дома по вопросам ИИ и криптовалют, а ныне сопредседатель Президентского совета советников по технологиям. «Это немного похоже на SBF».

На следующий вечер Дарио опубликовал в ответ два длинных поста на X.

В первой статье обсуждается регулирование. Автор утверждает, что подход «централизованный или децентрализованный» — это ложный выбор; по-настоящему хорошая система децентрализует власть.

«Формальная судебная система порой может казаться жесткой и элитарной, но она лучше защищает уязвимых, чем альтернатива — самосуд толпы. В идеале институт способен расширять возможности идей, а не отдельных личностей».

Во второй статье обсуждается распространение информации. Автор утверждает, что негативное отношение общественности к ИИ проистекает из кризиса доверия. Затем он пишет наиболее значимую часть своих двух длинных статей:

«Я думаю, что наиболее точная критика в адрес компаний, занимающихся искусственным интеллектом, включая Anthropic, заключается в том, что мы не выполнили своего большого обещания принести пользу миру. И это целиком наша вина».

«По-настоящему эффективный подход заключается в том, чтобы действительно вылечить рак».

Ни в одной из двух его длинных статей слух не был прямо затронут. Он использовал один реальный вопрос, чтобы уклониться от другого.

Он сказал, что для того, чтобы действительно вылечить рак, он подразумевает использование искусственного интеллекта для ускорения медицинского прогресса, позволяя создавать новые лекарства быстрее, чем при лечении любого другого заболевания.

Это посвящается человеку, умершему в 2006 году. Этот человек долго ждал бутылочку лекарства, но она так и не пришла.

С тех пор он считал медлительность грехом. Когда кто-то считает медлительность грехом, он видит в скорости единственное противоядие. Противоядие — это хорошо. Но он хотел, чтобы все поверили, что только он может приготовить это противоядие.

В 1986 году британский писатель Алан Мур опубликовал комикс под названием «Стражи», по которому позже был снят фильм. Один из персонажей фильма — Эдриан Уитт, известный как Фараон, который утверждал, что является самым умным человеком в мире.

Он предвидел надвигающуюся катастрофу раньше всех. Ядерная война, апокалипсис, самоуничтожение человечества. Он готовился к этому полжизни. Затем он понял, что одних лишь предупреждений недостаточно.

Поэтому он лично спровоцировал катастрофу. За одну ночь несколько городов были стерты с лица земли.

Он считал, что только когда человечество станет свидетелем разрушения, две сверхдержавы прекратят вражду, и только тогда мир сможет обрести мир.

Он был убийцей, но также и спасителем, каким себя считал.

В конце концов, всё сложилось так, как он и хотел. Он обратился к синему, почти всезнающему доктору Манхэттену:

«Конец? Эдриан, ничего не кончено. Ничего никогда не кончится».