대규모 AI/ML/LLM 워크로드 확장을 위한 현대 컴퓨팅 스택 소개
Jules Damji가 대규모 AI/ML/LLM 워크로드를 확장하기 위한 현대 인프라와 컴퓨팅 스택에 대해 설명합니다. 그는 기존 스택의 주요 도전 과제를 지적하고, 이를 해결하기 위해 Ray라는 분산 프레임워크를 제시합니다. Ray Data와 Ray Train을 활용한 대규모 언어 모델의 분산 튜닝 방법도 소개합니다.