read: fail

Google Cloud Run이 볼륨 마운트라는 새로운 기능을 선보였습니다. 이 기능은 클라우드 네이티브 애플리케이션이 Cloud Storage 버킷이나 NFS 공유와 같은 공유 데이터 저장소와 직접 통합할 수 있게 해주어, 개발자들이 파일 시스템을 더 효율적으로 활용할 수 있게 합니다. AWS와 Azure와 같은 경쟁 제품과 비교했을 때, Google Cloud Run에게 경쟁 우위를 제공합니다.

메타가 각각 24,576개의 GPU를 포함하는 두 개의 새로운 AI 컴퓨팅 클러스터 디자인을 발표했습니다. 이 클러스터들은 차세대 Llama 3 모델 훈련에 사용되며, 600,000개에 달하는 NVIDIA H100 GPU에 해당하는 AI 인프라를 2024년 말까지 확장할 계획입니다. 이는 AI 인프라 규모의 급속한 성장을 보여줍니다.

이 발표에서는 Netflix의 자산 관리 플랫폼 예시를 들며, 멀티 테넌트 분산 아키텍처에서 '소음이 많은 이웃' 문제를 다루는 전략들을 소개합니다. 예방, 진단, 그리고 교정 전략을 포함하여, 시스템 자원을 독점하는 애플리케이션으로 인한 성능 문제를 해결하는 방법을 탐구합니다. 신뢰할 수 있는 아키텍처를 지속적인 여정으로 보고, 사건에서 배우는 것이 중요하다는 것을 강조합니다.

애플리케이션에 자연어 인터페이스(챗봇)를 추가하는 것은 생각보다 쉽습니다. 기본 챗봇 개발부터 OpenAI Playground를 통한 맞춤형 지식 추가, 음성 명령 확장까지 다양한 방법이 소개되었어요. 이를 통해 사용자 경험을 향상시키고, 애플리케이션의 기능을 자연스럽게 탐색할 수 있게 됩니다. 음성 인식과 자연어 처리 기술의 발전으로, 오프라인에서도 AI 모델을 실행할 수 있는 미래가 기대되네요!

2024년 3월 25일 자바 뉴스에서는 JDK 23을 위한 클래스 파일 API의 두 번째 프리뷰가 목표로 설정되었고, 자카르타 데이터와 자카르타 NoSQL의 새로운 마일스톤 릴리스가 발표되었습니다. 또한, 스프링 프레임워크와 쿼커스 등 다양한 프로젝트에서 버그 수정 및 새로운 기능이 추가된 업데이트가 있었습니다.

마이크로소프트는 2022년 11월에 출시된 .NET 7이 2024년 5월 14일에 지원 종료에 도달할 것이라고 공식 발표했습니다. 개발자들은 지속적인 지원을 보장하기 위해 .NET 8으로 전환할 것을 권장받습니다. 이는 .NET 7이 18개월의 단기 지원 주기를 가진 STS(Short-Term Support) 릴리스로 분류되기 때문입니다. .NET 8은 개발자들이 사용하기 위해 권장되는 최신 안정 버전입니다.

Kubecost 2.0은 쿠버네티스 및 클라우드 네트워크 비용에 대한 전체 가시성을 제공하고, 비용 예측 개선, 비용 최적화 자동화, 이상 징후 감지 등을 통해 조직이 예상치 못한 비용 증가를 식별하고 줄일 수 있게 합니다. 이로써 조직은 클라우드 지출을 더 잘 관리할 수 있게 됩니다.

Netflix가 eBPF 프로그램의 최적화와 모니터링을 강화하기 위한 커맨드라인 도구인 bpftop을 발표했습니다. 이 도구는 실시간 인사이트와 평균 실행 시간, 이벤트 처리율, CPU 사용량 같은 메트릭을 제공합니다. Rust로 개발되었으며, 오픈 소스 프로젝트로 제공됩니다. eBPF의 활용 범위가 넓어지는 가운데, bpftop은 이 기술의 잠재력을 더욱 발휘할 수 있게 해줄 것입니다.

GitHub은 30,000개 이상의 풀 리퀘스트와 450만 번의 CI 실행을 관리하기 위해 병합 대기열 시스템을 개발했습니다. 이 시스템은 풀 리퀘스트를 배포 가능한 배치로 조직하고, GitHub Actions를 통해 빌드와 테스트를 실행하며, 실패한 커밋이 있는 업데이트를 방지함으로써 메인 브랜치의 무결성을 유지합니다. 2023년까지 대규모 모노레포와 프로덕션 리포지토리로 시스템을 체계적으로 이전했으며, 배포 변경에 대한 평균 시간을 33% 줄였습니다. 이는 GitHub 엔지니어에 의해 배포 변경을 위한 가장 중요한 품질 향상 중 하나로 묘사되었습니다.

Reddit이 다양한 시스템에서 관리되던 미디어 메타데이터를 AWS Aurora Postgres로 통합했습니다. 이 결정은 더 나은 디버깅 능력과 유연한 쿼리 패턴 때문이었습니다. 테이블 파티셔닝과 JSONB 형식의 사용으로 읽기 성능이 향상되었으며, 데이터 마이그레이션은 Apache Kafka를 활용한 다단계 접근 방식으로 해결했습니다.

Databrix가 업계 벤치마크에서 잘 알려진 경쟁자들을 능가하는 새로운 오픈소스 대규모 언어 모델(DBRX)을 출시했습니다. 1320억 개의 파라미터를 가진 DBRX는 언어 이해, 프로그래밍, 수학 작업에서 LLaMA 2 70B, Mixtral, Grok-1을 능가하며, Anthropic의 비공개 모델 Claude와도 경쟁적으로 비교됩니다. DBRX는 더 효율적인 전문가 혼합 구조 덕분에 추론 속도가 2배 빠르며, 훈련도 2배 더 계산 효율적입니다. 이 모델은 맞춤형 LLM의 기반으로 채택될 것으로 기대됩니다.

Elastic이 eBPF 기술을 사용하는 지속적인 프로파일링 에이전트를 OpenTelemetry(OTel) 프로젝트에 기부합니다. 이 에이전트는 애플리케이션 변경이나 재시작 없이 네트워크와 시스템 전반에 걸쳐 지속적인 프로파일링을 가능하게 하며, 성능 문제를 식별하는 데 도움을 줍니다. OTel 커뮤니티의 계산 효율성 향상과 소프트웨어의 탄소 발자국 감소를 지원하는 것이 목표입니다.

DBOS 클라우드는 TypeScript 개발자를 위한 트랜잭셔널 서버리스 플랫폼입니다. 이는 신뢰할 수 있는 실행과 '타임 트래블' 기능을 제공하며, 클라우드 네이티브 운영 체제와 쿠버네티스 대안으로 설명됩니다. PostgreSQL과 Apache Spark의 창시자들이 이 프로젝트를 시작했습니다.

애플 연구원들이 다양한 대규모 언어 모델(LLM)과 비전 기반 모델을 결합한 다중 모달 대규모 언어 모델(MLLM)을 설계하는 데 있어 중요한 설계 원칙과 교훈을 공유했습니다. 이들은 모델 아키텍처와 사전 훈련 데이터에 초점을 맞춰, 이미지 해상도, 시각적 인코더 손실 및 용량, 그리고 시각적 인코더 사전 훈련 데이터와 같은 핵심 아키텍처 결정을 분석했습니다. MM1이라는 모델을 구축하여 캡셔닝 및 시각적 질문 응답 작업에서 현재 최고 성능 모델을 능가함으로써, 그들의 설계 원칙의 효과를 입증했습니다.

CNCF의 졸업 프로젝트가 26개에 도달했으며, CloudEvents와 Falco가 최근 목록에 추가되었습니다. CloudEvents는 안정성과 느린 릴리스 리듬으로 유명한 기본 사양이며, Falco는 보안 감사 후 졸업한 클라우드 네이티브 보안 도구입니다. 또한, Tetragon과 Linkerd는 각각 커널 이벤트 관찰과 레거시 시스템의 메쉬 통합에 대한 새로운 기능을 소개했습니다.

Honeycomb의 주요 엔지니어인 Hartshorne이 회사의 성장에 따른 확장 문제를 해결하기 위해 기술 부채 작업을 우선순위에 두고 계획하는 방법을 공유했습니다. 중요한 것은 기술적 필요를 비즈니스 언어로 번역하고, 데이터를 사용해 그 영향을 정량화하는 것입니다. Honeycomb 사례를 통해 이러한 접근 방식이 어떻게 성공적인 비즈니스 성장을 가능하게 했는지 설명합니다.

2024년 소프트웨어 엔지니어링 문화와 관행에 대한 토론을 담은 팟캐스트에서는 원격/하이브리드 근무의 도전, 개발자 경험(DevEx)의 중요성 증가, 다양성의 지속적인 과제, 기술의 지속 가능성과 기후 영향, 그리고 2024년 소프트웨어 엔지니어링에 대한 희망과 바람이 논의되었습니다. 이 팟캐스트는 흥미로운 주제들로 가득 차 있어요!

HashiCorp가 Kubernetes용 Terraform Cloud Operator의 새 버전 2.3을 출시했습니다. 이 버전은 작업 공간 실행을 선언적으로 시작할 수 있는 기능을 추가했으며, Kubernetes 네이티브 경험을 제공합니다. 또한, 자원 관리의 유연성과 네임스페이스 관리, 사용자 정의 리소스와 Terraform Cloud 간의 동기화 빈도 구성 등의 주요 이점을 제공합니다. 이로써 팀들은 인프라를 보다 효율적으로 관리할 수 있게 되었습니다.

Kubernetes 생태계가 확장되면서 더 많은 CNCF 인큐베이션 프로젝트들이 졸업을 준비하고 있습니다. 이들은 클라우드 네이티브 환경을 위한 새로운 도구를 제공할 예정입니다. Backstage, Volcano, KubeFlow, Crossplane 등이 사용성, 개발자 경험, 구조적 견고함을 개선하며 졸업을 목표로 하고 있습니다. CNCF는 AI의 급속한 채택부터 클라우드 인프라의 탄소 발자국 증가에 이르기까지 미래의 도전에 대비하고자 합니다.

마린 후이젠벨드는 기술 부채를 방지하기 위해 규율이 매우 중요하다고 강조합니다. 기술 부채 목록을 눈에 띄게 하는 것과 같은 방법으로 규율을 촉진시키는 것이 좋습니다. 이러한 접근 방식은 처음에는 저항을 일으킬 수 있지만, 장기적으로는 기술 부채 관리 및 상환에 대한 논의를 더 자주 이끌어냅니다. 후이젠벨드는 즉시 해결 가능한 작은 문제를 고치기, 개선 노력에 대한 시간 제한 합의, 수동 수정 대신 자동화된 해결책 사용, 변화를 촉진하기 위해 지저분한 것들을 의도적으로 지저분하게 보이게 하기, '피부를 가진' 사람들만이 부채를 상환하도록 허용하기 등의 기술 부채를 다루는 여러 가지 방법을 제공합니다. 안정적이고 자주 변경할 필요가 없는 영역은 그대로 두는 것이 좋습니다. 기술 부채를 다루는 성공을 측정하는 방법으로는 팀의 행복도, 계획되지 않은 작업의 감소, 버그 해결 속도의 향상, 시장 출시 시간의 단축 등을 추적하는 것이 있습니다.