read: fail

연구자들은 AI 모델이 다른 AI 모델이 생성한 데이터로 훈련될 때 '모델 붕괴' 현상이 발생할 수 있다고 경고합니다. 이는 AI가 진짜 데이터 분포를 잊어버리고, 점점 더 왜곡된 결과를 내놓게 되는 원인이 됩니다. 이러한 '우로보로스 효과'는 AI 개발의 중대한 도전으로, 자기 생성 데이터로의 훈련 위험을 해결할 필요가 있습니다.

2024년 10월 28일부터 30일까지 샌프란시스코에서 열리는 테크크런치 디스럽트에는 구글 클라우드가 주최하는 AI 스테이지가 마련됩니다. 이 스테이지에서는 지식 엔진, AI의 대규모 성장, 가짜 정보의 확산, AI 모델의 개방성, 법적 및 윤리적 문제, 그리고 음악 및 비디오 제작에서 AI의 역할 등 다양한 주제가 다뤄질 예정입니다.

메이븐 벤처스는 Zoom과 같은 성공적인 스타트업을 지원한 시드 단계 벤처 회사입니다. 최근에는 6000만 달러 규모의 새로운 펀드를 조성했습니다. 데쉬판데는 AI가 소비자 경험을 개선할 가능성이 빠르게 다가올 것이라고 보며, AI 주변의 논란이 있음에도 불구하고 이 분야의 규칙이 아직 정립 중임을 인정합니다.

엘론 머스크가 AI 기능 실험을 위해 사용하는 X 플랫폼에서 '이 계정에 대해 더 알아보기'라는 새로운 기능을 선보였습니다. 그러나 이 기능은 종종 일반적이거나 부정확한 정보를 제공하여 사용자들에게 실망을 안겨주고 있습니다. Grok 모델이 제공하는 정보가 정확성을 높이기 위해 개선이 필요함을 보여줍니다.

스위스 스타트업 Lakera가 인공지능 애플리케이션을 악의적인 프롬프트와 위협으로부터 보호하는 기술을 개발하고 있습니다. 이 회사는 Atomico가 주도하는 시리즈 A 라운드에서 2천만 달러를 유치했습니다. Lakera의 주력 제품인 'Lakera Guard'는 실시간으로 악의적 프롬프트를 감지하는 모델을 구축하여 AI 애플리케이션 방화벽 역할을 합니다.

마크 저커버그는 콘텐츠 크리에이터들이 주당 20시간 이상 새로운 콘텐츠를 만드는 데 시간을 소비하며, 이로 인해 관객과의 교류에 어려움을 겪고 있다고 지적했습니다. 그는 AI가 이 문제를 해결할 수 있다고 보며, AI 시스템을 통해 크리에이터의 개성과 비즈니스 목표를 반영하는 커뮤니티 아웃리치를 수행할 수 있을 것으로 전망합니다.

테슬라 CEO 엘론 머스크가 2026년에 인간형 로봇 '옵티머스'를 판매할 예정이라고 발표했습니다. 이 로봇은 이미 테슬라 시설에서 배터리 취급과 같은 작업을 자율적으로 수행하고 있습니다. 또한, 팬데믹 동안 로봇 산업이 부흥하면서 여러 회사들이 인간형 로봇 개발에 투자를 늘리고 있습니다.

테슬라의 CEO 일론 머스크가 2026년에 인간형 로봇 옵티머스를 판매할 계획이라고 발표했습니다. 이 로봇은 이미 테슬라 시설에서 배터리 취급과 같은 작업을 자율적으로 수행하고 있습니다. 또한, 팬데믹 기간 동안 로봇 산업이 부흥하면서 여러 회사들이 인간형 로봇 개발에 투자를 확대하고 있습니다.

AI 기반 '변호사 조력자'를 개발하는 스타트업 하비가 GV(구글 벤처스) 주도로 시리즈 C에서 1억 달러를 유치했습니다. 이번 투자로 하비의 총 자금은 2억 600만 달러에 이르며, 회사 가치는 15억 달러로 평가받고 있습니다. 하비는 법률 문제 해결과 계약 조항 검토를 돕는 OpenAI의 GPT-4 모델을 활용하고 있습니다.

미국 연방거래위원회(FTC)가 AI 감시 서비스 가격 책정을 제공하는 8개 기업에 대한 정보 제공을 요구했습니다. 이들 기업은 소비자의 행동, 위치, 개인 데이터를 기반으로 가격을 달리 책정하는 방식을 사용하고 있으며, 이는 개인 정보 보호, 경쟁, 소비자 보호에 영향을 미칠 수 있습니다. FTC는 이러한 실천이 어떻게 소비자 가격에 영향을 미치는지 더 알아보고자 합니다.

메타가 4050억 개의 파라미터를 가진 언어 모델인 Llama 3.1 405B를 공개했습니다. 이 모델은 코딩, 수학, 다국어 문서 요약 등 다양한 작업을 수행할 수 있으며, OpenAI의 GPT-4와 비슷한 성능을 보여줍니다. 메타는 이를 통해 생성적 AI 분야에서의 입지를 강화하고자 합니다.

메타 AI가 새로운 언어와 스타일 셀피 기능을 추가하며, 사용자는 이제 Llama 3.1 405B 모델을 통해 복잡한 질문을 처리할 수 있습니다. 또한, 'Imagine Yourself'라는 창의적 AI 모델로 사용자의 사진과 프롬프트를 기반으로 이미지를 생성할 수 있습니다. 이 기능은 베타 버전으로 제공되며, 메타의 이용 약관에 따라 플랫폼의 공개 게시물과 이미지를 모델 훈련에 사용할 수 있습니다.

2022년에 설립된 Mytra는 창고 자동화를 재고하는 스타트업입니다. 이 회사는 테슬라와 리비안 출신의 자동차 베테랑들에 의해 설립되었습니다. Mytra는 무거운 짐을 다룰 수 있는 로봇 시스템을 개발하여 창고 자동화의 새로운 해결책을 제시하고 있으며, 이미 알버트슨스와의 파일럿 프로젝트를 확보했습니다.

영국의 첼머 밸리 고등학교가 학생들의 명시적 동의 없이 얼굴 인식 기술을 사용하여 점심 결제를 관리하다가 데이터 보호 규제 기관(ICO)으로부터 공식적인 경고를 받았습니다. 이 기술 사용은 개인 정보 보호에 대한 우려를 불러일으켰으며, 학교는 적절한 데이터 보호 영향 평가도 수행하지 않았습니다.

어도비가 일러스트레이터와 포토샵용 새로운 파이어플라이 AI 도구를 출시했습니다. 이 도구들은 그래픽 디자이너들이 텍스트 프롬프트를 통해 텍스처와 이미지를 생성할 수 있게 해줍니다. 특히, 'Generative Shape Fill' 기능을 통해 사용자는 스타일 참조를 사용하여 도형에 디테일과 텍스처를 추가할 수 있습니다. 어도비는 매달 제한된 수의 생성 크레딧을 추가 비용 없이 제공하며, 이는 사용자들의 관심을 끌 것입니다.

2019년에 설립된 레벨 AI는 콘택트 센터에서의 인간 작업을 보조하기 위해 AI를 사용합니다. 이 회사는 고객 서비스 작업을 자동화하는 다양한 AI 도구를 제공하며, 주요 과제로는 데이터 프라이버시, 보안, 시스템 통합 등이 있습니다. 레벨 AI는 연간 계약을 통해 수익을 창출하며, 향후 두 해 동안 연간 반복 수익이 5000만 달러를 넘길 것으로 예상됩니다.

벨로다인의 전 CTO이자 CEO였던 아난드 고팔란이 공동 창립한 Vayu Robotics는 LiDAR을 사용하지 않고 기존의 비용 문제를 해결하고자 합니다. 이 회사는 기초 모델을 활용하여 배송 로봇을 더 저렴하고 확장 가능하게 만들며, 최대 100파운드의 무게를 20마일 속도로 운반할 수 있는 로봇을 개발하였습니다.

구글 출신 연구원이 공동 설립한 AI 스타트업 Cohere가 Cisco, AMD, Fujitsu, 캐나다 연금 펀드 PSP Investments 등으로부터 5억 달러를 유치했습니다. 이번 투자로 Cohere의 가치는 55억 달러에 달하며, 기업용 AI 확장과 기술 팀 강화에 집중할 예정입니다.

CIA의 인공지능 담당자 락쉬미 라만이 신중한 접근을 강조하며, 법적 요구사항을 준수하고 AI 시스템의 한계와 편향성을 이해하도록 노력하고 있습니다. 특히, Osiris와 같은 AI 도구를 개발하여 데이터 요약 및 분석을 강화하고 있으며, 개인정보 보호와 시민의 자유에 대한 우려를 해소하기 위해 노력 중입니다.

구글의 다음 하드웨어 이벤트는 8월 13일에 열릴 예정이며, 픽셀 9와 새로운 폴더블 기기, 젬마이니 AI 기술이 통합된 제품들이 공개될 것으로 보입니다. 이번 이벤트는 미국 대선 전 '소란스러운' 기간을 피하기 위해 예년보다 약 두 달 일찍 진행됩니다. 또한, 안드로이드 15와 픽셀 워치 3, 픽셀 버즈 프로 2도 발표될 것으로 기대됩니다.