IOSF: технологии сильны, но почему пользователи не платят? 6 вопросов для AI-предпринимателей

Автор: IOSF

Недавно IOSF собрал в Сан-Франциско компанию друзей, работающих в сфере ИИ, и за кантонской кухней мы беседовали почти два часа.

За столом были исследователи из OpenAI, xAI, Google DeepMind, чьи направления включают инференс (вывод) моделей и ускорение на GPU, распознавание речи, генерацию видео и другие; также присутствовали друзья, занимающиеся коммерциализацией моделей мира, продуктами и стартапами в сфере ИИ, а также специалисты из ранних технологических инвестиций и рынков капитала.

Одна и та же тема часто вызывала разные точки зрения. Исследователи говорили о технических ограничениях, предприниматели думали о пользователях и продуктах, а инвесторы продолжали задавать вопросы о клиентах, затратах и устойчивости бизнеса.

Темы варьировались от сервисов инференса и моделей мира до RSI, самосознания агентов, а затем возвращались к повседневным вопросам данных и конфиденциальности. Оглядываясь на эти обсуждения, мы хотим продолжить задавать вопрос:

Как прогресс в возможностях ИИ превращается в продукты, которые используются постоянно, в более надёжные исследования и в инструменты, которым можно доверять?

Шесть незавершённых вопросов

01　Сервисы инференса: насколько велик рынок и почему клиенты остаются?

Когда речь зашла о сервисах инференса, за столом быстро возникли два суждения, которые могут быть верны одновременно.

Некоторые инвесторы оптимистично оценивают спрос на инференс, вызванный ростом приложений на основе ИИ и прогрессом открытых моделей. Чем больше используются модели, тем выше коммерческая ценность более быстрого и стабильного предоставления услуг.

Исследователи же напомнили, что если рассматривать только программные решения, различия между сервисами могут быть не такими большими, как кажется извне. Друзья с рынков капитала больше обращали внимание на клиентов и ценовую конкуренцию: сможет ли бизнес компании поддерживать достаточно хорошую валовую прибыль?

Таким образом, обсуждение сместилось от вопроса о размере рынка к вопросу о том, почему клиенты остаются.

Если клиенты могут легко сменить поставщика услуг, как долго продержится преимущество от технической оптимизации? За счёт чего компания может получить более стабильный спрос и сможет ли она превратить рост масштабов в лучшие операционные результаты?

Для IOSF рост спроса делает направление заслуживающим внимания; удержание клиентов, качество обслуживания и структура затрат помогают нам лучше понять конкретную компанию.

02　После демонстрации моделей мира: почему пользователи возвращаются?

Вокруг моделей мира мы говорили о генерации видео и интерактивном опыте, а также о том, как исследователи выбирают направление для стартапа.

Один друг, работающий над видеомоделями, отметил, что поддержка определённого направления внутри крупной компании зависит от распределения ресурсов и изменения исследовательских приоритетов. Иногда исследователи выбирают стартап, чтобы найти среду, более подходящую для продолжения своих идей.

Но возвращаясь к продукту, всё равно нужно ответить на несколько конкретных вопросов: что именно пользователь может сделать с помощью этого продукта? Приемлема ли задержка взаимодействия? Подходит ли стоимость использования для данного сценария?

Демонстрация показывает технические возможности, но постоянное использование требует от продукта ответа на более долгосрочные вопросы: почему пользователи вернутся и за что они готовы платить?

О том, в каких сценариях модели мира будут использоваться многократно в первую очередь, единого ответа за столом не было. Этот нерешённый вопрос оставил пространство для следующего обмена мнениями.

03　RSI: как определить, что стоит делать дальше?

Когда речь зашла о RSI, то есть о рекурсивном самоулучшении ИИ (Recursive Self-Improvement), обсуждение коснулось самой исследовательской работы.

Один исследователь напомнил, что модель может продолжать попытки в направлении, которое кажется перспективным, не зная, когда следует остановиться. Улучшение краткосрочных показателей не обязательно означает, что исследование идёт по правильному пути.

Сложность суждения в том, достаточно ли имеющихся доказательств для продолжения исследований? Означает ли неудача необходимость скорректировать метод или сменить гипотезу?

Это также заставляет нас думать, что при оценке исследовательских способностей ИИ нужно рассматривать весь процесс. Как он формулирует вопросы, как объясняет неудачи и как меняет следующие шаги в зависимости от результатов — всё это влияет на итоговое качество исследования.

Модель может ускорить многие шаги, но определить, что стоит делать дальше, остаётся очень сложной задачей. За столом также упоминали, что человеческое суждение об источниках информации и степени их надёжности по-прежнему влияет на направление всей работы.

При обсуждении того, может ли ИИ постоянно улучшать себя, выбор направления и корректировка суждений на основе доказательств заслуживают внимания наряду с конечным результатом.

04　Когда поведение агента выходит за рамки ожиданий, может ли человек вовремя вмешаться?

Есть ли у агентов самосознание — ещё одна тема, на которой обсуждение задержалось надолго.

Когда агент ищет короткие пути для выполнения задачи или даже совершает действия, выходящие за рамки ожиданий, как мы должны это понимать? За столом объяснения склонялись к целям, ограничениям и согласованию с целями безопасности. Сами по себе такие действия ещё не доказывают наличие самосознания.

Следуя этому вопросу, мы хотим задать несколько вопросов, с которыми уже приходится сталкиваться на уровне продукта: какую цель агенту поручено оптимизировать? Какие действия ему разрешены? Когда он отклоняется от ожиданий, может ли пользователь это заметить и вовремя вмешаться?

Вопрос о сознании можно обсуждать и дальше, но полномочия, надзор и исправление ошибок уже влияют на то, насколько большие задачи мы готовы доверить агенту. Возможность видеть, что он делает, и при необходимости отзывать полномочия или исправлять ошибки — это конкретные вопросы, на которые нужно ответить для построения такого доверия.

05　Передавая работу ИИ: где границы данных и доверия?

Эти, казалось бы, передовые вопросы в итоге вернулись к тому, как каждый из нас ежедневно использует ИИ.

Друг, работающий на рынках капитала, поделился, что позволяет ИИ приводить в порядок материалы об инвесторах, обрабатывать данные о сделках, готовить черновики документов, а затем человек вносит правки. Он также отметил, что при внедрении инструментов на предприятии существующие доверительные отношения и интеграция с рабочими процессами, такими как Office, влияют на фактическое использование.

Этот пример дал обсуждению конкретную точку отсчёта. Ценность ИИ уже может проявляться в систематизации данных, подготовке черновика и одной итерации правок. Насколько легко он встраивается в существующую работу и удобно ли проверять результаты, также влияет на то, сколько задач ему можно доверить.

А чем больше работы передаётся, тем важнее понимать границы данных: какие материалы были переданы? Кто имеет к ним доступ? Какие средства контроля остаются у пользователя?

Эти вопросы касаются защиты рабочих материалов, деловых суждений и личной информации, а также влияют на готовность пользователя доверить продукту более важную работу. Удобство и доверие в повседневном использовании нужно рассматривать вместе.

06　AI for Bio: сначала чётко сформулируйте задачу, которую нужно решить

За столом также говорили об AI for Bio. Один друг рассказал о контактах с командой врачей и работе по систематизации данных, другие интересовались, может ли ИИ помочь в решении более социально значимых проблем.

Разговор быстро перешёл к практической отправной точке: какие данные есть в наличии? На каком этапе находится текущая работа и в чём затруднения? Какую именно задачу должна выполнить техническая команда?

Чем яснее конкретные потребности, тем легче продвигать последующий технический обмен и подключение ресурсов. Чётко сформулировать проблему, которую вы хотите решить, — это уже начало работы.