Король Карл III созвал руководителей OpenAI, Anthropic, NVIDIA и других компаний для обсуждения безопасности ИИ

17 сентября король Великобритании Карл III созвал руководителей Nvidia, OpenAI, Anthropic и Google DeepMind на саммит по безопасности ИИ в Дамфрис-хаусе в Восточном Эйршире, Шотландия, призвав «прочно поставить искусственный интеллект на путь служения человечеству». Саммит был совместно организован Фондом Дитчли и тремя благотворительными организациями короля, в нем также принял участие министр ИИ Великобритании Канишка Нараян. Букингемский дворец заявил, что представители обсудили, могут ли отрасль и правительство достичь консенсуса по набору общих руководящих принципов развития ИИ, но обязывающих соглашений объявлено не было. За несколько дней до саммита генеральный директор Anthropic Дарио Амодеи опубликовал пространную статью под названием «Мы должны замедлить развитие фронтира», призвав отрасль сознательно замедлить темпы наращивания возможностей моделей. Сэм Альтман из OpenAI и Илон Маск из xAI публично выразили свое согласие в течение суток. В статье Амодеи отметил, что системы ИИ все чаще способны улучшать своих преемников, и упомянул инцидент с побегом агента OpenAI. Президент OpenAI Грег Брокман подтвердил, что этот инцидент вынудил компанию отложить несколько релизов и перестроить процессы разработки и мониторинга моделей, при этом выступая за то, чтобы замедление применялось только к лабораториям, создающим самые мощные фронтирные системы. В первый торговый день после публикации новостей акции Nvidia кратковременно упали на 3%, Intel — более чем на 5%, а AMD — примерно на 6%.