Apple Neural Engine에서 LLM 실행하기: ANEMLL 소개
ANEMLL은 Apple Neural Engine에서 대형 언어 모델(LLM)을 손쉽게 실행할 수 있도록 돕는 오픈소스 프로젝트입니다. Swift와 Python 샘플 코드, iOS/macOS 앱, 벤치마크 도구까지 제공해, 프라이버시와 성능을 모두 잡을 수 있어요! 최신 LLM을 아이폰에서 직접 돌려보고 싶다면 주목하세요.