마이크로소프트(MSFT), ’Mu’ 소형 언어 모델 출시…로컬 AI 처리 강화

테크 대기업 마이크로소프트(MSFT)가 Copilot+ PC와 같은 디바이스에서 복잡한 언어 작업을 효율적으로 처리할 수 있는 소형 언어 모델 'Mu'를 출시했습니다. 클라우드에서 운영되는 대형 AI 모델과 달리 Mu는 디바이스의 신경 처리 장치(NPU)에서 완전히 작동합니다. 이 설계로 전력 및 메모리 사용량을 줄이면서도 빠른 응답 속도를 구현했습니다. Mu는 마이크로소프트의 이전 Phi 모델 연구를 바탕으로 개발되었으며, 고품질 교육 데이터로 훈련되었습니다. 또한 증류(distillation) 및 저순위 적응(low-rank adaptation) 같은 고급 기법을 활용해 매개변수 수가 적음에도 우수한 성능을 발휘하도록 미세 조정되었습니다.

투자의 자신감은 여기서 시작됩니다:

• TipRanks의 새로운 KPI 데이터로 기업 성과를 쉽게 분석하여 스마트한 투자 결정을 내리세요
• TipRanks의 Smart Value 뉴스레터로 저평가된 시장 회복력 강한 종목을 받아보세요

Mu의 효율성은 인코더-디코더 아키텍처에서 비롯됩니다. 일반적인 모델이 입출력을 동시에 처리하는 것과 달리, Mu는 입력과 출력 처리를 분리합니다. 이 설계와 함께 회전 위치 임베딩(rotary positional embeddings), 그룹화된 쿼리 어텐션(grouped-query attention), 듀얼 LayerNorm 같은 기술이 적용되어 지연 시간을 줄이며 더 빠르게 실행됩니다. 마이크로소프트는 또한 양자화(quantization) 기법을 적용해 모델 가중치를 부동 소수점에서 더 작은 정수로 변환함으로써 메모리 사용량을 줄이고 정확도를 유지하면서 속도를 높였습니다. 이로써 Mu는 디바이스 내장형 AI로 최적의 성능을 제공합니다.

Windows 설정의 AI 에이전트를 구동하기 위해 마이크로소프트는 Mu를 360만 개 이상의 예시로 미세 조정했습니다. 이를 통해 수백 가지 시스템 설정을 이해하고 실행하는 능력이 향상되었습니다. 다중 모니터 관련 모호한 명령 같은 복잡한 상황에서는 가장 일반적으로 사용되는 설정에 집중하는 방식으로 접근했습니다. 짧거나 불명확한 쿼리는 기존 검색으로 처리되지만, 명확한 다단어 명령이 입력되면 AI 에이전트가 활성화됩니다. 결과적으로 Mu는 기존 AI 도구의 10분의 1 크기만으로도 시스템 설정 관련 빠르고 정확한 지원을 제공합니다.

MSFT 주식, 매수 기회인가?

월가 애널리스트들은 지난 3개월 동안 MSFT 주식에 대해 30개의 매수 추천과 5개의 보유 의견을 내며 '강력 매수(Strong Buy)' 등급을 유지하고 있습니다. 또한 평균 목표주가 $516.14는 6%의 상승 여력을 시사합니다.

번역: Str1k3F0rc3