a16z беседует с профессором Стэнфорда: взломает ли ИИ криптографию? Правда и домыслы

Автор: a16z crypto

Перевод: Shenchao TechFlow

Введение от Shenchao: Последние достижения OpenAI в области математических моделей вызвали панику в индустрии, и некоторые начали беспокоиться, что ИИ уничтожит криптографические системы, от которых мы зависим. В этой статье мы пригласили профессора криптографии из Стэнфорда и исследовательскую команду a16z crypto, чтобы прояснить, что является фактом, а что — домыслом, и указать на реальные возможности, которые может открыть ИИ. Это стоит прочитать каждому специалисту, зависящему от криптографической инфраструктуры.

После того как математические достижения OpenAI вызвали предупреждения отраслевых экспертов и опасения, что ИИ может взломать криптографию, от которой мы зависим, мы пригласили криптографов из Стэнфордского университета и экспертов a16z crypto, чтобы обсудить, что является фактом, а что — домыслом, о чем стоит беспокоиться, а о чем — нет.

Дэн Боне, профессор Стэнфордского университета, возглавляет группу прикладной криптографии и со-руководит лабораторией компьютерной безопасности; также является научным консультантом a16z crypto

Эдди Лаццарин, генеральный партнер a16z crypto

Джастин Талер, научный партнер a16z crypto, доцент кафедры компьютерных наук Джорджтаунского университета

Лиз Харкави, инвестиционный партнер a16z crypto

Сонал Чокши, главный редактор a16z crypto

Итак, шесть основных выводов:

1. Прогресс ИИ в математике не затрагивает ключевые проблемы криптографии

Недавно опубликованные результаты демонстрируют впечатляющий прогресс в математике и компьютерных науках, но среди них нет достижений в области криптографии.

«Это замечательный прогресс в математике и компьютерных науках, но здесь нет ничего, связанного с криптографией. …Поэтому вы можете задаться вопросом, означает ли это, что эти модели действительно плохи в криптографии? Мы не знаем», — Дэн Боне, 03:00

«Мы не узнали, что эллиптические кривые стали более уязвимыми, чем раньше. Мы не узнали, что стойкость каких-либо конкретных криптографических предположений снизилась», — Эдди Лаццарин, 15:19

2. Даже если ИИ станет умнее, он не найдет алгоритм, которого не существует

Значительная часть современной криптографии основана на предположении, что для некоторых математических задач не существует эффективных решений. Это, вероятно, справедливо и для ИИ с растущими возможностями.

«Мы в целом верим, что для этих задач не существует эффективных алгоритмов. Не то чтобы мы думали, что они могут существовать, просто люди недостаточно умны, чтобы их найти. Мы считаем, что их вообще не существует. Если их не существует, неважно, насколько умен ИИ. Он не найдет алгоритм, которого нет», — Джастин Талер, 16:12

«Мы должны предполагать, что некоторые задачи сложны. Мы не можем доказать, что эти задачи сложны, потому что это связано с известной нерешенной проблемой в компьютерных науках — проблемой P против NP. В некотором смысле, нам нужно сначала решить эту проблему, чтобы действительно доказать, что некоторые криптографические задачи действительно очень сложны. …Ни одна из проблем, опубликованных на этой неделе, даже близко не подошла к решению проблемы P против NP. Нам по-прежнему приходится постоянно делать предположения в криптографии, верно?» — Дэн Боне, 06:00

3. ИИ может сократить годы криптографического анализа

Попытки взломать криптографию — один из способов, которым исследователи укрепляют доверие. Дизайн, выдержавший постоянные серьезные атаки, заслуживает доверия. ИИ может изменить скорость, с которой происходит такой анализ.

«Раньше, когда кто-то предлагал предположение и строил на его основе систему, мы часто ждали около 10 лет, прежде чем развернуть эту систему, чтобы укрепить доверие и дать людям достаточно времени для анализа этого предположения. …А теперь, внезапно, мы можем использовать эти модели, чтобы значительно ускорить этот процесс. …Теперь мы можем дать модели поработать месяц, попытаться взломать ее, и если модель не сможет этого сделать, наша уверенность в справедливости этого предположения значительно возрастет», — Дэн Боне, 12:10

4. Подготовка к квантовым вычислениям дает преимущество в защите от некоторых рисков ИИ

Хотя недавние опасения связаны с ИИ, некоторые из этих систем уже давно являются объектами миграции из-за угрозы квантовых вычислений. Это совпадение имеет свои ограничения.

«Из-за опасений по поводу квантовой угрозы люди уже начали рассматривать криптографию на эллиптических кривых как потенциально уязвимую в ближайшем будущем. Поэтому, в ответ на эти же самые опасения, мы фактически уже участвуем в подготовке и развертывании многих необходимых мер смягчения, только изначально они предназначались для другой угрозы», — Эдди Лаццарин, 20:52

«Угроза ИИ в некотором смысле шире, потому что он может также изучить наши постквантовые системы и каким-то образом ослабить их или даже полностью взломать», — Дэн Боне, 22:08

5. Криптографическая гибкость позволяет системам адаптироваться при появлении уязвимостей

Криптографическая гибкость — это способность системы менять свои криптографические методы при изменении доказательств или требований. Она дает инженерам возможность реагировать на открытия, которые невозможно предвидеть заранее.

«Системы, которые мы развертываем, могут быстро переключаться с одного дизайна на другой, если используемый дизайн окажется небезопасным. Криптографическая гибкость в некотором смысле — наш союзник в защите от неожиданностей», — Дэн Боне, 22:47

Дэн отметил, что интернет-соединения уже используют комбинацию различных криптографических методов:

«Они уже используют гибкую криптографию. Они одновременно используют эллиптические кривые и решетки для шифрования. Если вы взломаете эллиптические кривые, это не имеет значения, потому что данные также зашифрованы с помощью системы на основе решеток», — Дэн Боне, 38:40

6. Ближайшая возможность: находить больше дефектов до выпуска программного обеспечения

Для разработчиков одна из самых очевидных возможностей — внедрение большего количества тестов безопасности в процессе разработки.

Обсуждая сложные криптографические системы, Джастин отметил:

«Площадь атаки становится очень большой, и да, я очень оптимистично настроен, что эти инструменты ИИ, которые заставляют людей паниковать по поводу криптографии, также помогут нам устранить все уязвимости. Это очень сложная проблема», — Джастин Талер, 28:56

«После развертывания системы она привлекает внимание многих криптографов, но к тому времени атаковать криптографическую систему уже слишком поздно. А теперь, поскольку мы контролируем эти модели ИИ, любой стартап, развертывающий новые криптографические возможности, или даже любая компания, развертывающая любое программное обеспечение, может позволить этим моделям анализировать уязвимости в своей криптографии и в программном обеспечении в целом», — Дэн Боне, 35:05

«Уязвимости можно устранить. Их можно избежать с помощью дизайна, их можно смягчить, и основной ресурс, который мы используем для их смягчения, — возможности ИИ, — дешевеет в несколько раз каждые несколько месяцев», — Эдди Лаццарин, 37:10