오늘날의 Azure AI 클라우드 데이터 센터 내부
Microsoft는 Azure에서 대규모 AI 작업을 지원하기 위해 하드웨어와 소프트웨어 인프라 구축에 투자를 아끼지 않고 있습니다. 이들은 14,400개의 Nvidia H100 GPU를 갖춘 최신 AI 트레이닝 슈퍼컴퓨터를 운영하며, Maia라는 자체 개발 추론 가속기를 통해 대규모 AI 모델을 효율적으로 실행합니다. 또한, Azure는 서버를 더 효율적으로 배치하기 위해 전력 모니터링과 조절 기술을 사용하고, 고대역폭 네트워킹과 Project Forge 소프트웨어 플랫폼을 통해 일관된 성능을 제공합니다.