read: fail

LLM(Large Language Models)이 소프트웨어 개발에 중대한 영향을 미치기 시작하면서, 코드 제안이나 프로토타입 제작 등에서 역할을 할 수 있습니다. 하지만, LLM이 생성한 코드의 오류를 인식하는 것이 즉각적인 도전이며, 이로 인해 개발자들 사이에서 중요한 기술과 맥락을 잃을 수 있는 우려가 있습니다. LLM을 도입하는 과정을 신중하게 관리할 필요가 있습니다.

AWS는 파이썬 애플리케이션의 자동 계측을 지원하는 Amazon CloudWatch Application Signals 기능을 발표했습니다. 이 기능은 코드 변경 없이 AWS Distro for OpenTelemetry (ADOT)를 사용하여 계측을 가능하게 합니다. 이로써 사용자는 비즈니스 목표를 모니터링할 수 있는 서비스 수준 목표(SLOs)를 생성할 수 있습니다.

최근 자바 생태계의 주요 업데이트를 소개합니다. JDK 23의 새로운 빌드가 출시되었고, 스프링 부트의 창립자들이 10주년을 맞이하여 팟캐스트에 출연했습니다. 또한, 파야라와 오픈 리버티에서 새로운 버전이 발표되었습니다. 이 외에도 여러 프로젝트에서 중요한 업데이트가 있었습니다.

헬스케어 서비스 제공업체인 Livi는 온프레미스와 클라우드를 결합한 복잡한 시스템인 MJog를 운영합니다. 이들은 하이브리드 전략을 채택하여 기존 옵션의 단점을 완화했습니다. 이 기사는 Livi가 기술적, 조직적 도전을 관리하며 헬스케어 인프라를 현대화하는 데 성공한 방법에 대한 통찰력을 제공합니다.

Amazon Q, AWS에서 개발한 인공지능(AI) 기반 비서가 이제 일반에게 공개되었습니다. 이 서비스는 비즈니스와 개발자 모두에게 데이터 분석, 내용 생성, 문제 해결 등을 도와줍니다. 특히, Amazon Q Business는 데이터로부터 통찰을 얻고, Amazon Q Developer는 앱 개발을 지원합니다. 이들 제품의 출시로 업계의 반응은 혼합적이지만, 자연어 인터페이스를 통한 생산성 향상 가능성에 주목하고 있습니다.

클라우드 컴퓨팅을 사용하는 기업이 94%에 달하며, 이는 유연성과 낮은 초기 비용을 제공하지만, 컴퓨팅 비용이 상당할 수 있습니다. JVM을 최적화하는 주요 목표는 수요에 맞게 확장하고 밀도를 높이는 것입니다(더 적은 리소스로 더 많은 작업 수행). 이를 위해 클래스 메타데이터 캐싱, 정적 컴파일, 체크포인트/복원 등의 기술이 논의되었습니다.

2024년 11월 18일부터 22일까지 열리는 QCon 샌프란시스코 컨퍼런스는 혁신과 신기술 트렌드에 초점을 맞추고 있습니다. 이번 컨퍼런스에서는 생산에서의 생성적 AI, 현대 데이터 구조, 기계 학습 입문 등 다양한 주제가 다루어질 예정입니다. 참가자들은 소프트웨어 리더들로부터 실용적인 인사이트를 얻고 기술을 한 단계 업그레이드할 수 있는 기회를 가질 수 있습니다.

개발자 경험의 중요성이 커지고 있으며, GitHub Copilot과 같은 도구가 더 나은 코딩 도구의 이점을 제공합니다. 좋은 개발 문화를 만들고, 기술 리더를 내부에서 육성하는 것이 조직의 성공에 중요합니다.

기술 리더들은 조직의 핵심 가치, 미션, 비전을 전달하고, 팀의 자율성을 지원하며, 다양성과 포용성을 증진시키는 방법을 공유합니다. 또한, 지식 공유를 통해 혁신과 효율성을 높이는 것이 중요하다고 강조합니다. 이 글은 효과적인 지원과 조정을 통해 자율적인 소프트웨어 팀을 어떻게 이끌어갈지에 대한 통찰력을 제공합니다.

QCon 런던 2024에서는 AI의 부상, 클라우드 관련 주제, 소프트웨어 아키텍처의 사회기술적 측면, 그리고 환경에 미치는 영향 등 다양한 주제가 다뤄졌습니다. 특히 AI의 민주화, 개발자 경험 개선, 그리고 대규모 AI/ML 플랫폼 구축에 대한 교훈이 주목받았습니다.

QCon 런던 2024에서 Flutter의 Andy Burgin이 개발자 경험(DevEx)을 운영 철학으로 채택하는 것에 대해 발표했습니다. Flutter는 2016년부터 배포를 간소화하기 위한 플랫폼을 구축하기 시작했으며, 이는 DevEx 여정의 기반이 되었습니다. 발표에서는 DevEx의 성공적인 실행을 위해 진정한 참여, 반복적 개선, 그리고 적응성이 필수적임을 강조했습니다.

머신러닝 시스템을 구축할 때는 데이터 관리, 모델 훈련 및 평가, 생산성 유지 등 다양한 도전이 따릅니다. 하지만 중요한 것은 단순히 도구가 아니라, 시스템을 구축하고 유지하는 문화와 관행에 초점을 맞추는 것입니다. 특정 문제를 정확히 진단하고 적절한 해결책을 도입하는 것이 중요합니다.

AWS 람다의 콜드 스타트는 종종 잘못 이해되어 여러 오해가 존재합니다. 이에 대한 올바른 이해와 관리는 서버리스 애플리케이션 최적화에 핵심적입니다. AWS는 SnapStart, Provisioned Concurrency 등을 통해 이를 효과적으로 관리할 수 있는 전략을 제공합니다.

Jules Damji가 대규모 AI/ML/LLM 워크로드를 확장하기 위한 현대 인프라와 컴퓨팅 스택에 대해 설명합니다. 그는 기존 스택의 주요 도전 과제를 지적하고, 이를 해결하기 위해 Ray라는 분산 프레임워크를 제시합니다. Ray Data와 Ray Train을 활용한 대규모 언어 모델의 분산 튜닝 방법도 소개합니다.

GitHub이 보안과 회복력을 강화하기 위해 두 가지 새로운 기능을 출시했습니다: Dependabot을 GitHub Actions 워크플로우로 활성화하고, Artifact Attestations을 도입하여 빌드 아티팩트의 출처를 간소화합니다. 이러한 변화는 소프트웨어 공급망의 보안과 투명성을 향상시키는 것을 목표로 합니다.

메타 AI가 오픈 소스 대형 언어 모델(LLM)인 '라마 3'을 출시했습니다. 이 모델은 기존 모델보다 향상된 토크나이저와 효율적인 그룹화된 쿼리 주의 기능을 갖추고 있으며, 코딩 및 추론 작업 성능을 개선하기 위해 최신 학습 방법을 사용했습니다. 또한, 메타는 '코드 실드'와 같은 새로운 안전 도구도 함께 발표했습니다.

Microsoft의 Azure Monitor는 텔레메트리 데이터를 수집, 시각화 및 분석하는 클라우드 모니터링 서비스입니다. 최근에는 Azure Monitor edge 파이프라인을 통해 데이터를 클라우드로 보내기 전에 수집 및 라우팅할 수 있는 기능을 추가했습니다. 이 파이프라인은 ETL 프로세스처럼 작동하여 다양한 소스에서 데이터를 효율적으로 수집할 수 있습니다.

웹어셈블리(WebAssembly, Wasm)는 브라우저를 넘어 클라우드, 엣지, 임베디드 환경에서도 사용되고 있습니다. 웹어셈블리 컴포넌트 모델(WCM)을 통해 다양한 언어로 작성된 라이브러리가 원활하게 상호 작용할 수 있으며, 이는 진정한 다중 언어 프로그래밍을 가능하게 합니다.

JobRunr 7.0은 JDK 21을 실행하는 애플리케이션을 위해 기본적으로 활성화된 가상 스레드를 지원합니다. 이는 특히 I/O 바운드 작업에서 전통적인 스레드보다 향상된 동시성과 감소된 오버헤드를 제공합니다. 또한, 데이터베이스 성능을 개선하기 위한 시간 기반 UUIDs 도입과 개발 및 테스트 중 빠른 작업 처리를 위한 InMemoryStorageProvider의 향상이 포함되어 있습니다.

Podman 5는 맥과 윈도우에서 podman machine 명령어를 완전히 재작성하여 하이퍼바이저 지원을 개선했습니다. 이제 맥에서는 QEMU 대신 Apple Hypervisor를 사용하여 안정성과 부팅 시간, 파일 공유 성능이 향상되었습니다. 또한, Pasta를 기본 무근접 네트워킹 백엔드로 채택하여 성능을 높였습니다.