텐센트의 거대한 혁신, Hunyuan-Large
Hunyuan-Large는 3890억 개의 총 파라미터와 520억 개의 활성 파라미터를 가진 최대 규모의 오픈 소스 Transformer 기반 MoE 모델입니다. 이 모델은 자원 소비 최적화와 고성능 유지라는 도전을 해결하기 위해 개발되었습니다. Hunyuan-Large는 다양한 벤치마크에서 경쟁 모델을 능가하는 성능을 보여주며, Hugging Face와 호환되는 훈련 프레임워크를 지원합니다.