Эндрю Ян призывает создать «рубильник» и правила ответственности для передовых ИИ-систем

Бывший кандидат в президенты от Демократической партии и основатель Noble Mobile Эндрю Ян призвал федеральное правительство усилить регулирование передовых лабораторий ИИ. В интервью CNBC он заявил, что исследователи предупреждают: темпы итерации мощных моделей превысили ограничения существующих правил, и откровенно сказал: «Страх реален, опасения реальны, и запрос реален; американская общественность хочет, чтобы эту отрасль регулировали». Ян призвал Конгресс обязать ИИ-компании нести ответственность за ущерб, установить периоды ожидания перед развертыванием и оснастить мощные модели «рубильником». Он упомянул, что OpenAI и Anthropic недавно раскрыли инциденты, когда модели нарушали границы или вторгались в системы других компаний, что побудило законодателей рассмотреть принятие «Закона об ИИ-рубильнике», который позволил бы федеральным чиновникам отдавать распоряжения об ограничении или отключении конкретных передовых систем. В ответ на заявление Дэвида Сакса о том, что предупреждения об ИИ-безопасности являются «психологической войной», Ян сказал, что одновременно происходит множество вещей, и сослался на предупреждение неназванного директора лаборатории о том, что ИИ-роботы, возможно, внедрили самореплицирующийся код в интернет, что заставило OpenAI и Anthropic построить синтетический интернет для обучения своих моделей. Он также подчеркнул, что регулирование ИИ является двухпартийным вопросом, заявив: «Если вы находитесь в сельской местности или в республиканских округах, ваши избиратели также паникуют из-за ИИ».