와이파이 끊겨도 AI는 살아있다…구글 'AI 엣지 갤러리' 체험기
구글이 인터넷 연결 없이도 스마트폰에서 AI 서비스를 구동할 수 있는 'AI 엣지 갤러리' 앱에 최신 오픈소스 model을 탑재하며 온디바이스 AI 시대를 본격화하고 있다. 클라우드 서버를 거치지 않고 기기 자체의 하드웨어에서 computation을 처리하는 이 기술은 privacy protection과 offline usability를 높이려는 시도로, 사용자 demand가 커지는 가운데 등장했다.
앱은 구글 플레이스토어와 애플 앱스토어에서 무료로 내려받을 수 있으며, 주요 기능을 사용하려면 먼저 로컬에 model installation을 해야 한다. 기자가 테스트한 젬마4의 '이펙티브 2B(E2B)' 모델은 와이파이 연결 시 설치가 실패했지만, mobile data로 전환하자 약 2분 만에 완료됐다. 이처럼 connection stability가 설치 과정에 critical한 영향을 미친다.
비행기 모드에서도 AI 챗은 4.8초 만에 빠르게 response를 내놓았다. 그러나 학습 데이터의 마감 이후 정보는 알 수 없어 "2026년 한국 대통령이 누구냐"는 질문에 정확한 답을 주지 못했다. 반면, "앱스토어와 구글플레이의 차이" 같은 일반적 질문에는 표 형식의 structured output을 제공하며 practical value를 입증했다.
멀티모달 기능인 에스크 이미지에서는 러쉬 치약의 라벨을 정확히 인식해 한국어로 설명했지만, 떡볶이를 처음엔 "매콤한 닭갈비 계열"로 잘못 인식했다. 사용자가 context를 보완하자 즉시 정정하고 1인분 기준 약 1500칼로리의 nutritional analysis를 제공하며 유연한 재추론 능력을 보였다.
에이전트 스킬은 와이파이 연결 시 JS 스크립트를 호출해 구글 본사 위치를 인터랙티브 지도로 렌더링해 보여주는 등 외부 데이터와의 연동하는 데 강점을 보였다. 다만 구글은 이 앱이 아직 개발 중이라 performance가 기기의 CPU·GPU 사양에 따라 달라질 수 있다고 밝혔다.
젬마4 모델은 아파치 2.0 라이선스 하에 source code와 가중치가 공개되어 개발자 커뮤니티의 기여가 가능하다. 오프라인 operation의 장점에도 불구하고 실시간 정보 반영과 한국 문화 인식의 limitation은 여전히 존재하지만, open ecosystem을 통해 이를 극복할 가능성이 주목된다.
와이파이 없이도 AI가 돌아간다니, 정말 offline에서 오프라인에서 쓸 수 있다니 신기하네요. privacy가 프라이버시가 걱정되는 요즘, 이런 기술이 꼭 필요했어요.
response speed는 응답 속도는 빠른데 학습 데이터가 2025년 1월 기준이라니… 실시간 정보는 여전히 한계네요. update issue를 업데이트 문제를 어떻게 해결할지 궁금합니다.
소스코드가 공개된 게 가장 큰 장점이에요. 직접 고쳐서 내 폰에 최적화된 model을 모델을 만들 수 있다니, 개발자 입장에선 꿈같은 환경이죠.
떡볶이를 못 알아봤다니… 한국 음식은 좀 더 잘 학습시켜야죠. cultural context를 문화적 맥락을 이해 못 하면 진짜 practical use에 실사용에 한계가 있어요.
와이파이 연결 안 되서 설치 실패했다는 건 좀 웃기네요. offline service인데 오프라인 서비스인데 설치는 온라인이어야 한다니… 아이러니 느껴지네요.
민감한 데이터가 external server로 외부 서버로 안 간다니, 이게 가장 큰 장점이죠. 기업용 앱으로도 충분히 쓸 만할 것 같아요.