RAG가 생성 AI의 환각 문제를 해결하지 못하는 이유
생성 AI 모델이 거짓이나 부정확한 정보를 생성하는 환각은 기업에게 큰 문제입니다. RAG(Retrieval Augmented Generation) 기술이 이를 줄이는 데 도움이 될 수 있지만, 완벽한 해결책은 아닙니다. 특히 추론이 필요한 작업에서는 한계가 있으며, 구현 비용도 많이 듭니다.
RAG가 생성 AI의 환각 문제를 해결하지 못하는 이유
생성 AI 모델이 거짓이나 부정확한 정보를 생성하는 환각은 기업에게 큰 문제입니다. RAG(Retrieval Augmented Generation) 기술이 이를 줄이는 데 도움이 될 수 있지만, 완벽한 해결책은 아닙니다. 특히 추론이 필요한 작업에서는 한계가 있으며, 구현 비용도 많이 듭니다.
애플의 AI 전략에 대해 배운 세 가지 주요 사항
애플 CEO 팀 쿡이 2분기 실적 발표에서 회사의 AI 계획에 대한 통찰을 제공했습니다. 애플은 자체 투자와 데이터 센터 등을 위한 공급업체 및 제3자 제공업체와의 파트너십을 혼합한 '하이브리드' 접근 방식을 취하고 있습니다. AI는 아이폰뿐만 아니라 M3 맥북 에어와 애플 워치를 포함한 전 제품 라인에서 중요한 기회로 보고 있습니다.
X, 전 트위터, Grok AI로 트렌드 뉴스 요약 기능 출시
X(이전의 트위터)가 Grok AI를 활용하여 앱의 탐색 섹션에서 개인화된 트렌딩 스토리를 요약하는 새로운 기능을 선보였습니다. 이 기능은 프리미엄 구독자만 이용할 수 있으며, 'Grok's Stories'라는 이름으로 제공됩니다. 이는 사용자의 반응과 의견을 반영한 요약으로, 뉴스 출판사에 미치는 영향은 아직 불확실합니다.
클라우드 인프라 시장, 2023년에 다시 활기를 띠다
2024년 첫 분기에 클라우드 인프라 시장은 전년 대비 21% 증가하여 760억 달러에 달했습니다. 이러한 성장은 인공지능(AI) 생성을 지원하기 위한 수요 증가에 힘입은 것으로, 주요 클라우드 제공업체들이 시장 점유율과 수익에서 큰 성장을 보였습니다.
Allozymes, 15백만 달러 투자 유치로 효소 공학 플랫폼 가속화
바이오테크 스타트업 Allozymes가 효소 변형을 하루에 수백만 번 테스트할 수 있는 기술로, 새로운 화학 물질 생산 경로를 발견하며 지속 가능한 방법을 모색하고 있습니다. 이들은 최근 15백만 달러의 자금을 확보하여 사업 확장과 미국 내 사무소 개설을 계획 중입니다.
Y Combinator 창업자 매칭 서비스로 성공한 의료 기록 AI 스타트업 Hona
Y Combinator의 창업자 매칭 도구는 많은 창업자들이 서로 연결되어 회사를 설립할 수 있도록 도와주는 중요한 디지털 제품 중 하나입니다. 이 도구를 통해 설립된 Hona는 의사들이 환자 방문을 준비할 수 있도록 전자 의료 기록 시스템과 통합되어 환자 데이터를 요약하는 GenAI 의료 기록 스타트업입니다.
TC의 테크스타 조사와 AI가 장애 기술을 가속화하는 방법
벤처 캐피탈 자금의 감소로 인해 테크스타와 같은 스타트업, VC 회사, 액셀러레이터가 영향을 받았습니다. TechCrunch는 테크스타에서 발생한 일들을 자세히 조사했습니다. 또한, 이 기사는 AI가 장애 기술 발전을 어떻게 가속화하고 있는지에 대해서도 논의합니다.
EU, 메시징 앱에 CSAM 스캔 강제 계획, 전문가들은 수백만 건의 오진 가능성 경고
EU가 메시징 플랫폼에서 아동 성학대 자료(CSAM)를 스캔하도록 법안을 제안하고 있습니다. 270명 이상의 보안 및 개인정보 보호 전문가들은 이 계획이 기술적으로 불가능하며, 엔드-투-엔드 암호화 보호를 약화시킬 것이라 경고합니다. 이로 인해 하루에 수백만 건의 오진이 발생할 수 있으며, 인터넷 사용자의 감시 및 통제 능력이 전례 없이 확대될 수 있습니다.
애플, 아이폰 판매 10% 감소에도 월스트리트 예상치 초과
애플이 올해 2분기에 아이폰 판매가 10% 감소했음에도 불구하고, 월스트리트의 예상을 뛰어넘는 성과를 보였습니다. 특히, 중국 시장에서의 판매 하락이 큰 영향을 미쳤습니다. 하지만, 서비스 수익의 증가와 새로운 아이패드 출시 예정 등이 주목받고 있습니다.
람니, 기업용 생성 AI 플랫폼 구축을 위한 스타트업에 드롭박스, 피그마 CEO 지원
팔로알토에 기반을 둔 스타트업 람니가 기업의 특정 요구를 충족시키기 위해 생성 AI 기술을 배포하는 플랫폼을 구축하기 위해 2,500만 달러를 조달했습니다. 이 회사는 기억 튜닝, 고도의 보안, 확장성, 그리고 데이터 소유권을 강조하며, 높은 성능을 자랑합니다.
미국 경찰의 얼굴 인식용 엔터프라이즈 AI 도구 사용 금지
마이크로소프트가 미국 경찰이 Azure OpenAI 서비스를 통해 얼굴 인식을 위한 생성 AI 사용을 금지하는 정책을 재확인했습니다. 이 정책은 실시간 얼굴 인식 기술의 사용도 금지하며, 이는 특히 몸에 착용하는 카메라나 대시캠과 같은 이동식 카메라에 적용됩니다. 이러한 변경은 경찰 기술 제조업체 Axon이 새로운 제품을 발표한 후 이루어졌습니다.
AI 스타트업의 독특한 도전 고비
AI 스타트업은 일반 SaaS 회사와는 다른 도전에 직면해 있습니다. 진정한 AI 회사는 단순히 AI API에 연결하는 것이 아니라, 알고리즘과 데이터를 핵심으로 합니다. AI 제품은 출시 전 훈련과 성숙이 필요하며, 이는 초기 사용자 확보를 어렵게 만듭니다. AI 스타트업은 실제 비즈니스 문제를 해결하고 명확한 가치 제안을 제시해야 성공할 수 있습니다.
Danti, 인공지능 기반 지구 데이터 검색 엔진 개발사, 5백만 달러 투자 유치
인공지능 회사 Danti가 자연어 검색 엔진을 개발하여, 위성 이미지와 같은 분산된 데이터 소스를 통합 검색할 수 있게 하였습니다. 이를 통해 분석가는 간단한 언어로 복잡한 질문을 할 수 있으며, 미국 우주군 등 초기 고객들이 제품을 활용하고 있습니다. Danti는 이번에 방위 산업에 집중하는 Shield Capital로부터 투자를 받았습니다.
Airbnb, 그룹 예약 기능 도입 및 AI 고객 서비스 활용
Airbnb가 2023년 여름 업데이트를 통해 새로운 그룹 예약 기능을 선보이며, 사용자들이 함께 위시리스트를 만들고 여행 세부사항을 조율할 수 있게 되었습니다. 또한, AI를 활용하여 고객 지원을 강화하고, 리스팅 정보를 개선하는 등 AI 기술을 전반적으로 적용하여 고객 경험을 향상시키고 있습니다.
Anthropic, 비즈니스를 위한 새로운 프리미엄 플랜 출시
인공지능 스타트업 Anthropic이 기업 고객을 대상으로 한 'Team' 플랜을 새롭게 출시했습니다. 이 플랜은 보건, 금융, 법률 등 규제 산업에 특화되어 있으며, 고급 관리 기능과 AI 생성 문서 협업 기능을 제공합니다. 또한, Anthropic은 연간 850백만 달러의 수익을 예상하며 강력한 재정 상태를 유지하고 있습니다.
앳라시안, 새로운 AI 동료 '로보' 출시
앳라시안이 라스베이거스에서 열린 '팀 24' 컨퍼런스에서 새로운 AI 보조 도구인 '로보'를 출시했습니다. 로보는 데이터를 쉽게 검색할 수 있게 해주며, 지라와 컨플루언스 같은 도구에서 프로그래밍 없이 워크플로우를 자동화할 수 있는 로보 에이전트 기능이 특히 주목받고 있습니다.
앳라시안, 지라 소프트웨어와 워크 매니지먼트 툴 통합
앳라시안이 지라 소프트웨어와 지라 서비스 매니지먼트를 하나의 제품으로 통합하여 다양한 팀이 협업하고 작업을 추적하기 쉽게 만들고 있습니다. 새로운 AI 기능과 목표 설정 기능, 그리고 다양한 뷰를 추가하여 전체 조직의 프로젝트 관리 도구로서의 기능을 강화하고 있습니다.
트레이서블, API 보안 스타트업에 시티그룹 VC 부문 투자
트레이서블은 Jyoti Bansal과 Sanjay Nagaraj가 공동 설립한 보안 회사로, 고객의 API를 사이버 공격으로부터 보호하기 위한 플랫폼을 구축하고 있습니다. 이 회사는 AI를 사용하여 API 사용 데이터를 분석하고, 비정상적인 활동을 탐지합니다. 최근에는 시티그룹 VC 부문으로부터 3천만 달러의 투자를 유치했습니다.
TechCrunch 미니뉴스: OpenAI, 파이낸셜 타임스와의 미디어 협약으로 활동 가속화
OpenAI가 파이낸셜 타임스(FT)와 새로운 콘텐츠 협약을 체결했습니다. 이번 협약은 단순한 금전 거래가 아니라 두 회사가 더 깊이 협력하는 것을 목표로 하고 있습니다. 앞으로 ChatGPT에 FT.com 링크가 통합될 예정입니다. 이는 OpenAI가 뉴욕 타임스와의 초기 파트너십을 넘어 미디어 협약을 확대해 나가고 있음을 시사합니다.
포르노 사이트에 개인 영상이 유출된 창업자, AI 스타트업 아이디어로 반격하다
댄 퍼셀은 전 파트너가 자신의 개인 영상을 포르노 사이트에 올린 것을 알고 충격을 받았습니다. 이 경험을 바탕으로 2021년, 존니 스미스와 함께 Ceartas를 설립하여 무단 콘텐츠와 딥페이크에 맞서는 AI 기술을 개발했습니다. 이 회사는 구글에서 문제가 되는 콘텐츠의 가시성을 98% 감소시키는 성과를 보였습니다.