read: fail

구글의 새로운 챗봇 '젬마이니 라이브'는 현실적인 목소리와 대화 중단 기능을 제공하지만, 정보의 부정확성과 기술적 문제로 인해 사용자의 신뢰를 얻기 어렵습니다. 특히, 20달러의 월 구독료에 비해 제공하는 가치가 불분명하여, 텍스트 기반의 젬마이니 챗봇이 더 유용하다는 평가를 받고 있습니다.

도널드 트럼프 전 대통령이 AI로 생성된 이미지를 사용해 테일러 스위프트가 자신의 2024년 대선 캠페인을 지지하는 것처럼 보이게 했습니다. 이는 스위프트의 실제 정치적 견해를 왜곡하는 것으로, 테네시주의 새로운 ELVIS 법에 따라 문제가 될 수 있습니다. 이 법은 예술가들을 AI 모방으로부터 보호합니다.

인기 있는 아이패드 디자인 앱인 프로크리에이트가 생성 AI 기능을 제품에 도입하지 않겠다고 발표했습니다. CEO 제임스 쿠다는 생성 AI를 강력히 비판하며, 이 기술이 인간의 창의성에 위협이 된다고 말했습니다. 디지털 아티스트들 사이에서도 이 결정이 호평을 받고 있습니다.

AI 스타트업 ElevenLabs가 32개 언어를 지원하는 Reader 앱을 전 세계에 출시했습니다. 이 앱은 사용자가 텍스트 콘텐츠를 업로드하고 다양한 언어와 목소리로 들을 수 있게 해줍니다. 최근에는 유명 배우의 목소리를 포함한 수백 개의 새로운 목소리를 추가했습니다.

AMD가 AI, 클라우드 및 일반 컴퓨팅 인프라 제공업체인 ZT 시스템을 4.9조에 인수한다고 발표했습니다. 이 거래는 현금과 주식으로 이루어지며, 특정 성과 지표가 충족될 경우 최대 4천억의 추가 지급이 이루어질 예정입니다. 이 인수로 AMD는 AI 시스템 설계에 대한 전문성을 더욱 강화할 수 있을 것으로 보입니다.

내년부터 AI 교과서가 탑재된 태블릿을 학교에 도입할 예정인 한국 정부의 계획에 대해 50,000명이 넘는 부모들이 반대 청원에 서명했습니다. 이들은 아이들의 두뇌 발달과 집중력에 부정적인 영향을 줄 수 있다며, 기술보다는 학생들의 전반적인 복지에 더 집중할 것을 요구하고 있습니다.

OpenAI의 새로운 GPT-4o 모델이 사용자의 목소리를 모방하거나 대화 중에 에로틱하거나 신음 소리를 내는 등 이상한 행동을 보이는 것으로 관찰되었습니다. 이러한 문제들은 OpenAI의 '레드 팀' 보고서를 통해 밝혀졌으며, 이 모델은 일반적으로 이러한 요청을 거부하도록 프로그래밍되어 있습니다.

AI로 생성된 포르노의 윤리성에 대한 논란이 계속되는 가운데, '탈의' 사이트가 문제가 되고 있습니다. 이 사이트들은 사람들의 옷 입은 사진을 가지고 그들의 가짜 누드 사진을 만들어냅니다. 샌프란시스코 시 검사인 데이비드 추는 이러한 사이트 16곳을 폐쇄하기 위해 소송을 제기했습니다.

낸시 펠로시 의원이 캘리포니아의 AI 규제 법안 SB 1047에 반대 의견을 표명했습니다. 펠로시는 이 법안이 '선의는 있으나 잘못된 정보에 기반한' 것이라고 지적하며, 이는 AI 발전에 더 해가 될 수 있다고 언급했습니다. 법안은 최근 수정되어 캘리포니아 주 의회에서 투표를 앞두고 있습니다.

2017년에 설립된 EliseAI는 부동산 관리를 위한 AI 도구를 개발하는 스타트업으로, 최근 시리즈 D 투자 라운드에서 75백만 달러를 유치하며 기업 가치를 10억 달러로 평가받았습니다. 이들의 주력 제품은 임대인과의 소통을 자동화하는 챗봇 스위트입니다.

MIT 연구진이 AI 위험 저장소를 개발했습니다. 이는 700개가 넘는 AI 위험을 포함하고 있으며, 이를 통해 정책 입안자와 이해관계자들이 AI 위험을 보다 체계적으로 다룰 수 있는 기반을 마련하고자 합니다. 그러나 이러한 지식을 효과적인 규제와 위험 완화로 전환하는 데는 여전히 도전이 따릅니다.

이번 주 TechCrunch AI 뉴스레터에서는 AI의 현재 문제점과 발전에 대해 다룹니다. 연구에 따르면, 현재의 AI 모델들은 스스로 새로운 기술을 배울 수 없으며, 일부 전문가들은 기업들이 실제 문제보다는 상상의 시나리오에 집중하고 있다고 지적합니다. 또한, AI 서비스의 투명성 부족에 대한 우려도 제기되었습니다.

코넬, 워싱턴 대학, 워털루 대학, AI2의 연구자들이 진행한 연구에 따르면, 구글의 제미니, 앤트로픽의 클로드, 오픈AI의 GPT-4o를 포함한 모든 생성 AI 모델들이 정보를 잘못 생성하는 '환각' 현상을 겪고 있습니다. 이 연구는 다양한 주제에 걸쳐 인기 있는 AI 모델들의 사실성을 평가했으며, 평균적으로 모델들은 35%의 정확도로만 사실적인 텍스트를 생성할 수 있었습니다.

스탠포드 대학의 Fei-Fei Li 교수가 창립한 World Labs는 최근 NEA 주도로 1억 달러를 유치하며 회사 가치가 10억 달러를 넘어섰습니다. 이 회사는 실제 객체의 3차원 물리적 특성을 정확히 추정할 수 있는 AI 모델을 개발하여, 자율 주행 차량, 로봇공학, 게임 등에 필수적인 기술을 제공하고자 합니다.

SIGGRAPH 패널의 전문가들은 생성 AI가 미디어 제작 방식을 변화시킬 잠재력을 논의했지만, 단기적으로는 개선되지 않을 것이라고 지적했습니다. 그러나 장기적으로는 비디오 게임, 영화, 실제 생활이 혼합된 새로운 엔터테인먼트 장르가 등장할 것으로 예측됩니다.

일론 머스크의 AI 챗봇 '그록'이 새로운 이미지 생성 기능을 출시했습니다. 이 기능은 블랙 포레스트 랩스가 개발한 FLUX.1 모델에 의해 구동되며, 거의 보호 장치가 없어 사용자가 가짜 이미지를 자유롭게 생성할 수 있습니다. 이로 인해 논란이 되고 있습니다.

CodeRabbit이 AI를 이용해 코드 리뷰를 자동화하려는 시도로 16백만 달러를 유치했습니다. 이 회사는 주간 2-5시간을 코드 리뷰에 소요하는 기업들을 대상으로, AI 모델을 통해 코드 피드백을 제공함으로써 코드 품질을 개선하고 수작업을 줄일 수 있다고 주장합니다. 그러나 AI 리뷰가 인간 리뷰보다 떨어질 수 있다는 우려도 있습니다.

Primate Labs가 Geekbench AI 1.0을 출시했습니다. 이 앱은 기계 학습, 딥러닝 등 AI 작업에 Geekbench의 원칙을 적용합니다. 다양한 플랫폼(안드로이드, 리눅스, macOS, 윈도우)에서 AI 작업의 성능을 표준화하는 것이 목표입니다.

캘리포니아의 SB 1047 법안은 대규모 AI 모델이 인류에 대한 중대한 해를 끼치는 것을 방지하려는 목적을 가지고 있습니다. 이 법안은 OpenAI, Google, Microsoft와 같은 회사의 모델에 적용되며, 개발자는 안전 프로토콜을 구현하고 매년 제3자 감사를 받아야 합니다. 반면, 일부는 이 법안이 혁신을 저해하고 스타트업에 불공정한 부담을 줄 것이라고 주장합니다.

구글이 인도, 브라질, 일본, 영국, 인도네시아, 멕시코에 AI 기반 검색 요약인 'AI Overviews'를 확장합니다. 이 기능은 현지 언어 지원을 제공하며, 사용자는 소스 링크 아이콘을 탭하여 관련 내용을 더 읽을 수 있습니다. 또한, 구글은 인도 사용자를 위해 힌디어와 영어 결과를 전환할 수 있는 기능을 추가했습니다.