캐릭터.AI, MoE 대규모 언어 모델 미세 조정을 위한 ’파이프라인-SFT’ 프레임워크 공개

피터 장
2025년 7월 26일 02:05

캐릭터.AI가 Mixture-of-Experts(MoE) 대규모 언어 모델의 미세 조정을 향상시키기 위한 오픈소스 프레임워크 '파이프라인-SFT'를 발표했습니다. 이는 AI 연구의 확장성과 효율성을 높일 것으로 기대됩니다.

캐릭터.AI는 MoE 아키텍처를 활용한 대규모 언어 모델의 미세 조정 프로세스를 개선하기 위한 혁신적인 오픈소스 프레임워크인 파이프라인-SFT의 출시를 발표했습니다. 캐릭터.AI 블로그에 따르면, 이번 개발은 AI 커뮤니티의 연구 및 개발을 간소화할 것으로 예상됩니다.

미세 조정의 과제 해결

MoE 아키텍처를 사용하는 대규모 언어 모델의 미세 조정은 메모리 제약, 병렬화 복잡성, 훈련 불안정성으로 인해 상당한 어려움을 겪고 있습니다. 파이프라인-SFT는 이러한 장애물을 효율적으로 극복할 수 있도록 프로세스를 단순화하고 안정화하도록 설계되었습니다.

이 프레임워크는 유용성을 높이기 위해 다음과 같은 다양한 기능을 제공합니다:

• 다중 수준 병렬화: 파이프라인 병렬화, 전문가 병렬화, 텐서 병렬화를 통합하여 여러 노드와 GPU에 걸친 대규모 MoE 모델을 최적화합니다.
• 고급 정밀도 훈련: 안정성을 위한 혼합 정밀도 최적화와 함께 bfloat16 훈련을 지원하며, 효율성을 높이기 위한 실험적 FP8 훈련을 포함합니다.
• 허깅페이스와의 원활한 통합: 추가 전처리 없이 허깅페이스 형식으로 모델 가중치를 전환할 수 있습니다.
• 향상된 훈련 안정성: 발산을 방지하고 수렴을 가속화하기 위해 그래디언트 동기화 및 맞춤형 최적화 도구를 활용합니다.
• 유연한 적응성: 순수 파이토치로 개발되어 특정 모델과 작업에 맞게 쉽게 사용자 정의할 수 있습니다.

커뮤니티 협력 및 미래 전망

캐릭터.AI의 연구팀은 협력을 촉진하고 오픈소스 대규모 언어 모델 연구를 가속화하기 위해 파이프라인-SFT를 실험적 프로젝트로 공개했습니다. 이 프레임워크는 새로운 인프라를 처음부터 개발할 필요 없이 대규모 LLM을 미세 조정하려는 팀에게 중요한 자원을 제공합니다.

캐릭터.AI는 대규모 MoE 모델을 연구하는 연구자 및 엔지니어들에게 파이프라인-SFT를 탐색하고 커뮤니티와 협력하며 프로젝트의 성장에 기여할 것을 권장합니다. 이 프레임워크는 GitHub에서 탐색 및 협력이 가능합니다.

파이프라인-SFT를 오픈소스로 공개함으로써, 캐릭터.AI는 강력한 도메인 특화 애플리케이션의 생성과 AI 연구 커뮤니티 내 MoE LLM의 역량 향상을 목표로 합니다.

• 캐릭터.ai
• moe llm
• 파이프라인-sft

번역: Str1k3F0rc3