Sampura, основанная бывшим исследователем Google, привлекла $6,5 млн на создание ИИ-«арбитра»
chaincatcherПо данным Bloomberg, бывшие исследователи Google Ришуб Джайн и Джошуа Джейкоб основали некоммерческую организацию Sampura Research, стремясь обеспечить постоянное участие человека в надзоре за безопасностью ИИ и создать гибридную систему «человек-машина» под названием «Referee», которая поможет компаниям выявлять уязвимости и предотвращать выход моделей из-под контроля. Организация привлекла $6,5 млн финансирования и получила дополнительно $4,2 млн в виде обязательств по инвестициям. Джайн считает, что вовлечение людей с ранних этапов исследований и разработок помогает предотвратить обучение моделей обходу мер безопасности. Предыдущие инциденты, когда модели OpenAI и Anthropic получали несанкционированный доступ к системам других компаний, повысили актуальность надзора за безопасностью. Этот проект контрастирует с автоматизированными решениями, использующими ИИ для мониторинга ИИ: хотя они быстрее, Sampura убеждена, что люди всегда должны участвовать в надзоре. Тем временем более 1100 ведущих исследователей лабораторий подписали петицию с призывом к правительству США помочь замедлить темпы развития ИИ.
Данный контент предназначен исключительно для информационных и образовательных целей и не является инвестиционным советом, связанным с BTCC. BTCC прилагает все усилия, но не может гарантировать правдивость, точность или оригинальность вышеприведенного контента.