Блогер-расследователь разоблачает «теорию AI-апокалипсиса» Anthropic: возможен замкнутый круг интересов, призыв к расследованию Конгресса

Odaily News: Известный американский блогер-расследователь Kevin Bass опубликовал пост на платформе X, разоблачающий скрытую подоплёку «теории AI-апокалипсиса» Anthropic. После проверки финансовых связей Anthropic он обнаружил, что компания, возможно, уже сформировала «машину регуляторного захвата», движимую финансовыми отношениями, и призвал Конгресс США провести расследование.

Доля в Anthropic, принадлежащая соучредителю Facebook Dustin Moskovitz, была вложена в Good Ventures Foundation — фонд, являющийся важным спонсором таких организаций по безопасности ИИ, как METR, и стоящий за организациями, продвигающими «теорию AI-апокалипсиса». Примечательно, что CEO Anthropic Dario Amodei ранее предложил, чтобы третьи стороны оценивали риски AI-моделей, и назвал METR одной из таких организаций.

На основании этого Kevin Bass ставит под сомнение, способны ли соответствующие третьи стороны провести действительно независимую оценку Anthropic и рисков ИИ. Более того, это может привести к тому, что чем сильнее влияние «теории AI-апокалипсиса», тем больше регуляторы и общественность будут требовать от независимых третьих сторон проведения оценки Anthropic. Оценочные организации получат больше финансирования, но, возможно, никогда не выдадут результат о смертельной опасности новейшей модели Claude, что приведёт к потенциальному замкнутому кругу интересов между ростом оценки Anthropic, нарративом о рисках ИИ, регуляторными требованиями и получением финансирования оценочными организациями.