OpenAI 機器人團隊負責人宣布離職，因美國對國內監控和致命自主武器系統的擔憂
6
3
深潮 TechFlow 消息，03 月 08 日，據 Forbes 消息，OpenAI 硬體與機器人工程團隊負責人 Caitlin Kalinowski 於週六在 X 平台宣布離職，並表示此次決定“事關原則”。 Kalinowski 指出，AI 在國家安全領域具有重要價值，但「在未經司法監督的情況下監控美國公民，以及在未經人工授權的情況下實施致命性自主行動，這些紅線本應得到比實際更充分的審慎討論」，而相關協議在「未明確安全護欄的情況下倉促宣布」。
OpenAI 本周宣布與美國國防部達成合作，其技術將支援網路安全、情報分析及後勤等軍事領域的應用。 該協議在 OpenAI 內部及 AI 研究界引發批評，ChatGPT 行動端在協議宣布隔天卸載量激增 295%。 OpenAI CEO Sam Altman 隨後承認協議推進「倉促」，並對協議內容進行修訂，明確 ChatGPT 系統「不得被有意用於監控美國公民」。 與此同時，Anthropic 的 Claude 應用程式下載量在截至 3 月 2 日的一周內環比激增約 55%。
此前，美國國防部曾與 Anthropic 合作，但因 Anthropic 拒絕允許軍方將其 AI 用於自主武器或大規模監控，川普政府終止了與 Anthropic 的合同，轉而深化與 OpenAI 的合作關係。
來源:
