read: fail

QCon 샌프란시스코 2024에서 다룰 주제에 대한 팟캐스트 요약입니다. 대규모 언어 모델(Large Language Models, LLMs)의 실제 적용 사례, 사회 기술적 회복력, Rust 사용 경험, 그리고 차세대 포괄적 사용자 인터페이스 설계의 중요성 등이 논의되었습니다. 이 회의는 AI와 신흥 기술을 중심으로 최신 혁신과 최선의 방법들을 공유하는 장이 될 것입니다.

음악 스트리밍 서비스인 Deezer가 쿠버네티스를 사용하여 자동 스케일링을 개선했습니다. 특히, Node.js 애플리케이션에 대해 CPU 사용량보다 서버 부하를 더 잘 나타내는 Event Loop Utilization (ELU) 메트릭을 사용했습니다. 이를 통해 더 정확한 스케일링이 가능해졌으며, Prometheus와 Prometheus Adapter를 활용하여 커스텀 메트릭을 구현했습니다.

OpenAI가 GPT-4o 및 GPT-4o mini 모델을 지원하는 .NET 라이브러리의 안정 버전을 출시했습니다. 이 라이브러리는 NuGet 패키지로 제공되며, .NET Standard 2.0을 구현하는 모든 .NET 플랫폼에서 사용할 수 있습니다. 개발자들이 AI 기반 애플리케이션을 더욱 쉽게 구축할 수 있게 되었습니다.

Mitmproxy 11 버전이 출시되었습니다. 이번 업데이트에서는 HTTP/3을 완벽하게 지원하며, DNS 관련 여러 개선사항이 포함되어 있습니다. 특히, HTTPS 레코드 지원, DNS-over-TCP, 사용자 지정 DNS 서버 설정 등이 개선되었습니다. 또한, TLS 핸드셰이크 시 도메인을 숨기는 ECH 처리 기능도 향상되었습니다.

리눅스 재단은 Redis의 후속작으로 개발된 오픈 소스 인메모리 저장 솔루션인 Valkey 8.0의 정식 버전을 발표했습니다. 이 버전은 노드당 키 저장 능력을 20% 향상시키고, 메모리 오버헤드를 줄이기 위해 다양한 최적화를 도입했습니다. Valkey는 Redis 라이선스 변경 논란 이후 주요 오픈 소스 대안으로 부상하고 있습니다.

마이크로소프트가 고성능 및 계산 집약적 작업을 위해 설계된 새로운 Azure FXv2 시리즈 가상 머신의 공개 시범 서비스를 시작했습니다. 이 시리즈는 CPU 성능이 1.5배 향상되었고, 최대 96 vCPUs 및 1800 GiB 메모리를 지원합니다. 또한, 인텔의 고급 기술을 통해 AI 추론 및 훈련 성능이 개선되었습니다.

마이크로소프트가 Dev Proxy v0.21을 출시했습니다. 이 버전은 API 테스트를 위해 실제 API 동작을 시뮬레이션하는 커맨드라인 도구로, 인증 플러그인, JWT 토큰 생성, 그리고 Visual Studio Code용 Dev Proxy 툴킷 등의 새로운 기능을 포함하고 있습니다. 이러한 기능들은 개발자들이 더욱 견고한 API 연결 애플리케이션을 구축할 수 있도록 돕습니다.

마리아 페르난데스 과하르도와의 팟캐스트에서는 AI의 부상과 함께 엔지니어와 제품 관리자 간의 사고방식 변화, 창업가 정신, 그리고 혁신적인 제품 개발을 위한 내부 협력의 중요성을 강조했습니다. 또한, 큰 조직 내에서 새로운 아이디어를 실행하기 위한 실질적인 조언도 공유되었습니다.

구글이 최근 자바와 코틀린을 지원하는 컴파일러 익스플로러를 추가했습니다. 이 도구를 사용하여 안드로이드 엔지니어들은 컴파일러의 최적화 과정을 직접 확인하며 앱 성능을 향상시킬 수 있습니다. R8을 사용한 앱 축소나 실행 시간에 중요 메소드를 미리 컴파일하는 등의 방법으로 앱을 더 빠르게 시작할 수 있습니다.

함수형 프로그래밍(FP)은 웹 애플리케이션을 데이터 변환 파이프라인으로 취급하여 예측 가능하고 재사용 가능한 코드를 작성하는 데 도움을 줍니다. 특히 Kotlin을 사용하여 기존 코드베이스에 점진적으로 FP 개념을 도입하면 유지 관리가 용이하고 오류가 줄어드는 코드를 작성할 수 있습니다.

결정은 중요하면서도 어려운 과제입니다. 발표에서는 결정 과정의 중요성, 데이터, 추론뿐만 아니라 개인의 성격 유형, 팀 역학, 흔한 편견 등 심리학적 측면도 다룹니다. 효과적인 결정을 위한 구조화된 과정과 실용적인 팁을 제공하여, 결정 과정을 더 투명하게 만드는 데 도움을 줍니다.

소프트웨어 팀이 작은 단계로 문제를 해결하고 지속적인 개선을 도모할 수 있게 하는 실험 방법론에 대해 알아보세요. 실험은 빠르고 저렴해야 하며, 실패도 배움의 기회로 여겨집니다. 이를 통해 팀은 큰 변화 없이도 점진적인 개선을 이룰 수 있습니다.

AI가 창의적 분야에서 점점 증가하는 존재감을 나타내고 있으며, AI가 만든 책과 음악의 성장이 폭발적입니다. 그러나 품질과 다양성은 여전히 도전 과제로 남아 있습니다. 생성적 AI는 창의력을 향상시킬 잠재력을 가지고 있지만, 인간의 선호도와 일치시키기 위해서는 자동화된 측정 방법과 인간의 평가 및 피드백이 필요합니다.

Joe Rowell이 발표한 GPU의 통합 메모리 모델의 함정에 대해 설명합니다. 통합 메모리는 CPU와 GPU에서 동일한 포인터로 메모리 접근을 허용하지만, 데이터의 물리적 위치 변경으로 인해 성능이 예측 불가능해질 수 있습니다. Rowell은 코드를 철저히 프로파일링하고, 성능을 우선시하는 것이 중요하다고 강조했습니다.

구글 연구진이 음성 전환(VT) 모델을 개발하여, 음성을 잃은 사람들이 자신의 원래 음성을 복제할 수 있는 텍스트-투-스피치(TTS) 시스템을 사용할 수 있게 되었습니다. 이 모델은 단 몇 초의 음성 샘플만으로도 음성을 재현할 수 있으며, 100개 이상의 언어로 TTS를 수행할 수 있습니다.

대규모 언어 모델(LLM)을 도입할 때 API 기반과 자체 호스팅 모델 간의 선택, 프롬프트 엔지니어링과 검색 증강 생성(RAG)의 활용, 그리고 교육 및 훈련의 중요성 등이 논의되었습니다. 이러한 접근 방식은 비용, 개인정보 보호, 효율성 측면에서 중요한 고려사항입니다.

AWS가 AWS App Mesh, Amazon FSx File Gateway, AWS DeepComposer, Amazon Lookout for Equipment, NICE EnginFrame 등 여러 서비스의 종료를 예고했습니다. 특히 AWS App Mesh는 2026년 9월 30일까지 기존 고객은 사용 가능하지만, 새로운 고객은 2024년 9월 24일 이후 가입이 불가능합니다. 이러한 변화는 AWS가 기존 서비스에 대한 장기적인 지원 정책을 재조정하고 있음을 시사합니다.

새로운 플랫폼인 '시스템 이니셔티브'가 클라우드 인프라 자동화와 스택 드리프트 문제를 해결하기 위해 출시되었습니다. 이 플랫폼은 디지털 트윈 접근 방식을 사용하여 인프라 모니터링과 변경을 분리하고, AWS와 같은 클라우드 서비스의 기능을 모델링하여 더욱 신뢰성 있는 피드백 루프를 제공합니다.

플랫폼 엔지니어링은 조직이 내부 개발자 플랫폼을 구축함으로써 소프트웨어를 빠르고 안전하며 효율적으로 제공하려는 목표를 가지고 주목받고 있습니다. 이 분야의 전문가들은 개발자 경험을 개선하고, 자율성, 책임감을 강조하며, 고객 중심의 접근 방식을 채택할 것을 권장합니다.

쿠버네티스에서의 카오스 엔지니어링은 단순한 장애 유발이 아닌, 시스템의 회복력을 예상하고 관찰하는 과정입니다. 이는 쿠버네티스의 빠른 자가 치유 능력, 복잡한 마이크로서비스 의존성 등 독특한 도전을 제시합니다. LitmusChaos와 Chaos Mesh와 같은 오픈소스 도구를 활용하며, 작게 시작하여 시스템 이해를 바탕으로 점차 실험의 복잡성을 높여가는 것이 중요합니다.