read: fail

낸시 펠로시 의원이 캘리포니아의 AI 규제 법안 SB 1047에 반대 의견을 표명했습니다. 펠로시는 이 법안이 '선의는 있으나 잘못된 정보에 기반한' 것이라고 지적하며, 이는 AI 발전에 더 해가 될 수 있다고 언급했습니다. 법안은 최근 수정되어 캘리포니아 주 의회에서 투표를 앞두고 있습니다.

2017년에 설립된 EliseAI는 부동산 관리를 위한 AI 도구를 개발하는 스타트업으로, 최근 시리즈 D 투자 라운드에서 75백만 달러를 유치하며 기업 가치를 10억 달러로 평가받았습니다. 이들의 주력 제품은 임대인과의 소통을 자동화하는 챗봇 스위트입니다.

MIT 연구진이 AI 위험 저장소를 개발했습니다. 이는 700개가 넘는 AI 위험을 포함하고 있으며, 이를 통해 정책 입안자와 이해관계자들이 AI 위험을 보다 체계적으로 다룰 수 있는 기반을 마련하고자 합니다. 그러나 이러한 지식을 효과적인 규제와 위험 완화로 전환하는 데는 여전히 도전이 따릅니다.

이번 주 TechCrunch AI 뉴스레터에서는 AI의 현재 문제점과 발전에 대해 다룹니다. 연구에 따르면, 현재의 AI 모델들은 스스로 새로운 기술을 배울 수 없으며, 일부 전문가들은 기업들이 실제 문제보다는 상상의 시나리오에 집중하고 있다고 지적합니다. 또한, AI 서비스의 투명성 부족에 대한 우려도 제기되었습니다.

코넬, 워싱턴 대학, 워털루 대학, AI2의 연구자들이 진행한 연구에 따르면, 구글의 제미니, 앤트로픽의 클로드, 오픈AI의 GPT-4o를 포함한 모든 생성 AI 모델들이 정보를 잘못 생성하는 '환각' 현상을 겪고 있습니다. 이 연구는 다양한 주제에 걸쳐 인기 있는 AI 모델들의 사실성을 평가했으며, 평균적으로 모델들은 35%의 정확도로만 사실적인 텍스트를 생성할 수 있었습니다.

스탠포드 대학의 Fei-Fei Li 교수가 창립한 World Labs는 최근 NEA 주도로 1억 달러를 유치하며 회사 가치가 10억 달러를 넘어섰습니다. 이 회사는 실제 객체의 3차원 물리적 특성을 정확히 추정할 수 있는 AI 모델을 개발하여, 자율 주행 차량, 로봇공학, 게임 등에 필수적인 기술을 제공하고자 합니다.

SIGGRAPH 패널의 전문가들은 생성 AI가 미디어 제작 방식을 변화시킬 잠재력을 논의했지만, 단기적으로는 개선되지 않을 것이라고 지적했습니다. 그러나 장기적으로는 비디오 게임, 영화, 실제 생활이 혼합된 새로운 엔터테인먼트 장르가 등장할 것으로 예측됩니다.

일론 머스크의 AI 챗봇 '그록'이 새로운 이미지 생성 기능을 출시했습니다. 이 기능은 블랙 포레스트 랩스가 개발한 FLUX.1 모델에 의해 구동되며, 거의 보호 장치가 없어 사용자가 가짜 이미지를 자유롭게 생성할 수 있습니다. 이로 인해 논란이 되고 있습니다.

CodeRabbit이 AI를 이용해 코드 리뷰를 자동화하려는 시도로 16백만 달러를 유치했습니다. 이 회사는 주간 2-5시간을 코드 리뷰에 소요하는 기업들을 대상으로, AI 모델을 통해 코드 피드백을 제공함으로써 코드 품질을 개선하고 수작업을 줄일 수 있다고 주장합니다. 그러나 AI 리뷰가 인간 리뷰보다 떨어질 수 있다는 우려도 있습니다.

Primate Labs가 Geekbench AI 1.0을 출시했습니다. 이 앱은 기계 학습, 딥러닝 등 AI 작업에 Geekbench의 원칙을 적용합니다. 다양한 플랫폼(안드로이드, 리눅스, macOS, 윈도우)에서 AI 작업의 성능을 표준화하는 것이 목표입니다.

캘리포니아의 SB 1047 법안은 대규모 AI 모델이 인류에 대한 중대한 해를 끼치는 것을 방지하려는 목적을 가지고 있습니다. 이 법안은 OpenAI, Google, Microsoft와 같은 회사의 모델에 적용되며, 개발자는 안전 프로토콜을 구현하고 매년 제3자 감사를 받아야 합니다. 반면, 일부는 이 법안이 혁신을 저해하고 스타트업에 불공정한 부담을 줄 것이라고 주장합니다.

구글이 인도, 브라질, 일본, 영국, 인도네시아, 멕시코에 AI 기반 검색 요약인 'AI Overviews'를 확장합니다. 이 기능은 현지 언어 지원을 제공하며, 사용자는 소스 링크 아이콘을 탭하여 관련 내용을 더 읽을 수 있습니다. 또한, 구글은 인도 사용자를 위해 힌디어와 영어 결과를 전환할 수 있는 기능을 추가했습니다.

중국 자율주행 차량 스타트업 WeRide가 미국 IPO를 추진하며 캘리포니아에서 승객과 함께 무인 차량 테스트를 승인받았습니다. 챗봇 스타트업 EliseAI는 유니콘이 되며, 부동산 관리를 위한 챗봇을 제공하고 있습니다. Elon Musk의 xAI는 Grok-2 AI 모델을 출시했으며, 캘리포니아는 AI 시스템으로 인한 재난을 방지하기 위한 법안 SB 1047을 논의했습니다.

OpenAI가 미국 대통령 선거에 관한 내용을 생성하던 이란 영향력 작전과 연결된 ChatGPT 계정들을 차단했습니다. 이 작전은 AI를 이용해 기사와 소셜 미디어 게시물을 만들었지만, 큰 주목을 받지는 못했습니다. 이러한 영향력 작전은 선거가 다가올수록 더욱 빈번해질 것으로 예상됩니다.

마이크로소프트 코파일럿은 Bing, Windows, Microsoft Edge에 내장된 AI 비서로, 글쓰기, 번역, 요약 등 다양한 작업을 수행합니다. 코파일럿 프로는 월 $20의 프리미엄 구독 서비스로, 고급 AI 모델에 우선 접근할 수 있습니다. 또한, GitHub 코파일럿은 코드 작성을 돕는 도구로, 다양한 가격대의 서비스를 제공합니다.

OpenAI의 새로운 '고급 음성 모드'(AVM)는 ChatGPT와의 대화를 더 자연스럽고 대화적으로 만들어줍니다. 이 기능은 사용자의 하루를 묻거나 농담을 하는 등의 대화를 가능하게 합니다. 기존의 가상 비서들과 비교할 때, AVM은 대화 능력이 뛰어나지만 아직 기본 기능은 부족합니다. 이러한 AI의 발전은 흥미로우면서도 미래의 대화형 컴퓨터 사용에 대한 기대를 모으고 있습니다.

Elon Musk가 소유한 xAI의 Grok AI 모델이 이제 X 소셜 네트워크에서 이미지를 생성할 수 있습니다. 현재 Grok 접근은 X의 Premium과 Premium+ 사용자에게만 제한되어 있으며, 생성된 이미지는 Black Forest Labs의 FLUX.1을 사용하여 만들어집니다. 또한, Grok은 정치 인물의 이미지 생성에 대한 제한이 없어 미국 대선을 앞두고 규제 문제가 우려되고 있습니다.

구글의 최신 픽셀 9 시리즈에는 흥미로운 AI 기능들이 추가되었습니다. 전화 통화 내용을 요약하고 기록하는 콜 노트, 텍스트 프롬프트를 기반으로 이미지를 생성하는 픽셀 스튜디오, 그리고 스크린샷 내용을 분석하여 검색 가능하게 만드는 픽셀 스크린샷 등이 그것입니다. 이 기능들은 사용자에게 유용한 기능을 제공하면서도 개인 정보 보호에 대한 고려가 필요합니다.

Google이 Gemini Live를 출시하여 사용자가 AI 챗봇과 음성 대화를 할 수 있게 되었습니다. 이 기능은 2초 미만의 응답 시간을 자랑하며, 10가지 음성 옵션을 제공합니다. 하지만, 일부 정보의 정확성에는 문제가 있었습니다. 이는 Google의 더 큰 프로젝트인 Project Astra로의 한 걸음으로 보입니다.

구글의 픽셀 워치 3에 새롭게 추가된 '맥박 상실 감지' 기능은 심장 정지나 호흡 부전 같은 다양한 건강 상태에서 심장이 제대로 뛰지 않을 때 이를 감지합니다. 이 기능은 위급 상황을 자동으로 인지하여 응급 의료 서비스에 전화하고 사용자의 위치를 제공합니다. 이로써 사용자의 안전을 지킬 수 있는 중요한 도구가 될 것으로 기대됩니다.