맥북 로컬 LLM·엔비디아 투자·라우팅 병목 — 소식 4개
엔비디아가 AI 검색 스타트업에 수십억 달러 투자를 논의하는 한편, 멀티 에이전트의 고질적 병목도 새 기술로 건드리기 시작했습니다. 개인 맥북에서 대형 언어 모델을 직접 돌리는 길도 열렸고, 지역 언론도 AI로 제작하는 시대가 현실이 됐습니다.
알리바바 오픈소스 모델 '큐원 3.8 27B' 기반의 무삭제 변형이 허깅페이스에 공개됐습니다. 애플 실리콘 맥의 통합 메모리만으로 별도 GPU·클라우드 없이 구동되기 때문에, 인터넷 연결 없이도 개인 PC에서 대형 모델을 쓸 수 있습니다. 커뮤니티 개발자 조나단 코레티가 공개한 이 모델은 온프레미스 LLM 실험의 진입 장벽을 크게 낮춥니다.
AI 에이전트가 여러 모델을 순서대로 사용할 때마다 이전 맥락을 처음부터 다시 계산해야 하는 '라우팅 병목'이 고질적 문제였습니다. 엔비디아는 '크로스 모델 KV 캐시 전송'으로 한 모델이 쌓아 둔 맥락을 다음 모델이 그대로 이어받게 해, 중복 연산 없이 긴 에이전트 작업을 이어 달릴 수 있게 했습니다.
엔비디아가 AI 검색 스타트업 퍼플렉시티에 수십억 달러 규모 지분 투자를 논의 중이며, 이에 따라 기업 가치가 41조 5000억 원을 넘어설 전망입니다. 퍼플렉시티의 연간 반복 매출(ARR)은 최근 3배 가까이 급증했다고 보도됐습니다. 칩 제조사가 AI 검색 서비스에 직접 투자하는 구도는 하드웨어·소프트웨어 생태계 재편 신호로 읽힙니다.
순천시가 미래 신산업에 30억 원을 투입한다는 내용의 지역 뉴스가 AI 솔루션으로 자동 제작돼 공개됐습니다. 기자가 원고를 쓰면 AI가 영상·음성까지 완성하는 방식으로, 지역 언론사의 영상 뉴스 제작 자동화 사례를 국내에서 직접 확인할 수 있습니다.
이번 수집분의 공통 결은 'AI가 특수 인프라 밖으로 나온다'입니다. 클라우드·고가 GPU 없이 맥북 하나로 LLM을 돌리고, 멀티모델 에이전트는 연산 낭비 없이 이어 달리며, AI 검색은 41조 기업 가치를 인정받고, 지역 뉴스 제작까지 자동화됩니다. 거대 기업 전유물로 여겨졌던 AI 기술이 개인·지역 단위로 빠르게 내려오는 흐름입니다.