메타, 확장성 향상된 바이트 잠재 변환기 LLM 오픈소스 공개
메타가 바이트 잠재 변환기(BLT)라는 새로운 대형 언어 모델을 오픈소스로 공개했습니다. 이 모델은 전통적인 토큰화 대신 바이트 패치를 동적으로 처리하여 Llama 3와 비슷한 성능을 50% 적은 연산으로 달성합니다. 특히 '딸기 문제'를 해결하고, 노이즈가 있는 입력을 더 잘 처리할 수 있어 주목받고 있습니다.