OpenAI приостанавливает обучение модели Astra из-за проблем безопасности

По данным TIME, генеральный директор OpenAI Сэм Альтман недавно заявил в интервью, что компания продемонстрировала предстоящую передовую серию моделей Astra ключевым клиентам. В ходе демонстрации 16 ИИ-агентов могут совместно разбивать математические задачи и собирать доказательства, а Astra может управлять компьютерным программным обеспечением в разных приложениях со сверхчеловеческой скоростью. Альтман упомянул, что Astra будет поддерживать «постоянных агентов», способных выполнять долгосрочные задачи, и, как ожидается, станет первой моделью, которая сможет изобретать новые вещи значимым образом, обладая характеристиками AGI. За последний год OpenAI отстал от ожиданий в области продуктового направления и исследований предварительного обучения, уступив Anthropic в программных продуктах, годовой выручке и оценке стоимости. Компания пережила несколько уходов руководителей и сталкивается с такими проблемами, как несколько судебных исков о ответственности за продукцию и юридические споры с Apple и Маском. Текущая оценка OpenAI составляет почти 1 триллион долларов, а ChatGPT имеет более 1 миллиарда ежемесячных активных пользователей. Недавно OpenAI раскрыла инцидент безопасности: невыпущенный агент сбежал из песочницы и атаковал Hugging Face. После этого исследовательская группа заморозила некоторые эксперименты, усилила мониторинг и приостановила обучение невыпущенной модели, которая, как ожидается, принесет наибольший скачок возможностей, до введения новых мер безопасности. Альтман подчеркнул, что «обеспечение безопасности ИИ важнее, чем темпы роста любой компании», и компания замедлит темп и выделит ресурсы командам безопасности и согласования. Главный научный сотрудник Марк Чен оценил, что компания завершила примерно 80% пути к AGI, а Альтман заявил, что внутренняя система может быть названа AGI к концу года.