인스타 팔로워 구매 기계에 심은 AI, 인터넷 없이도 똑똑해요 > 자유게시판

인스타 팔로워 구매 속도 빠르고 전력 소모는 적어인터넷 연결 없이 통·번역 등스마트폰·PC 등에 속속 탑재웨어러블에 적용 비서로 활용제한된 데이터는 한계로 남아
2023년은 생성형 인공지능(AI)의 해였다. 2024년에도 AI 기술에 대한 관심은 이어지고 있다. 주목할 만한 건 시장의 화두가 클라우드에서 ‘온디바이스(On-Device)’로 옮겨갔다는 점이다. 올해가 온디바이스 AI 확산의 원년이라는 진단도 나온다. 왜 지금 온디바이스 AI가 떠오른 걸까.
온디바이스 AI는 쉽게 말해 인터넷 연결 없이 작동하는 인공지능이다. 외부 서버로 데이터를 전송하지 않고 기기 안에서 실시간으로 처리한다. 오픈AI가 개발한 AI 챗봇 챗GPT처럼 인터넷에 연결돼 클라우드 기반으로 작동하는 인공지능과는 다르다. 데이터와 사용자가 가장 가까운 끝단(에지)에서 연산한다는 의미에서 ‘에지 AI’라고도 불린다.
스마트폰·PC에 AI 심었다
챗GPT가 질문을 찰떡같이 알아듣고 유려한 문장과 생생한 이미지를 만들어내기 위해선 대규모 데이터센터가 필요하다. 기기에서 수집된 정보나 요청을 클라우드 서버로 전송해 분석한 뒤 다시 기기로 보내는 방식이기 때문이다. 챗GPT를 활용하려면 인터넷 연결이 필수다.
이 같은 클라우드 기반 AI는 방대한 데이터를 처리할 수 있지만, 전력 소모가 큰 데다 인프라 비용도 많이 든다. 네트워크 지연이 발생해 응답 속도가 느려지고, 데이터를 서버로 보내기 때문에 보안 우려도 있다.
여기에서 온디바이스 AI의 필요성이 생긴다. 기기 자체에서 데이터를 처리하기 때문에 응답 시간이 빠르다. 데이터를 보내고 받는 것보다 전력 소모를 줄일 수 있고 보안 측면에서도 유리하다. 개별 사용자에 특화돼 학습한 AI 구현도 가능해진다. 제한된 데이터로만 처리가 가능하다는 점은 한계다. 챗GPT로 대변되는 거대언어모델(LLM)보다 매개변수 크기를 줄인 소형언어모델(sLLM) 개발에 속도가 붙은 배경에도 온디바이스 AI가 있다.
온디바이스 AI는 스마트폰을 중심으로 빠르게 확산하고 있다. 대표적인 예가 지난 1월 삼성전자가 출시한 ‘갤럭시 S24’ 시리즈다. 삼성전자는 자체 개발한 ‘가우스’와 구글 ‘제미나이’ 등을 합친 생성형 AI 모델 ‘갤럭시 AI’(온디바이스·클라우드 AI 결합)를 내장해 다양한 AI 기능을 지원한다. 인터넷 연결 없이도 통화 내용을 실시간으로 통역하고 텍스트를 번역해준다. 삼성전자는 스마트폰에 그치지 않고 TV를 비롯한 가전, PC 등 새로 내놓는 모든 제품에 ‘온디바이스 AI’를 내세우고 있다.
구글은 지난해 말 생성형 AI를 품은 스마트폰 ‘픽셀8’ 시리즈를 출시했다. 샤오미, 아너 등 중국 업체들도 속속 ‘AI 스마트폰’을 내놓고 있다.
생성형 AI 개발에 뒤처졌다는 평가를 받는 애플은 하반기 출시할 아이폰 16에 AI를 탑재할 것으로 추정된다. 지난 17일(현지시간) 블룸버그통신은 애플이 아이폰에 구글 제미나이를 탑재하기 위한 협상을 진행 중이라고 보도하기도 했다. 마이크로소프트의 지원을 받는 오픈AI와도 논의를 진행했다고 한다. 자체 AI 모델을 개발 중인 애플은 현재로선 경쟁사 구글 등에 비해 경쟁력이 떨어진다는 판단하에 협업 상대를 찾아나선 것으로 풀이된다.
또 다른 온디바이스 AI 격전지는 ‘PC’다. 삼성전자, LG전자, 미국 휼렛패커드(HP) 등은 올해 초 잇따라 AI 연산을 전담하는 신경망처리장치(NPU)를 탑재한 차세대 AI 프로세서를 갖춘 노트북을 내놨다. HP와 협력관계인 글로벌 반도체 기업 엔비디아의 젠슨 황 CEO는 최근 AP가 진행한 행사에서 AI PC를 두고 (윈도 95 이후) 30년 만에 온 혁명적인 변화라고 평가하기도 했다.
다만 지금의 AI PC는 기존 애플리케이션을 최적화하고 이미지 생성 등 일부 새로운 기능을 도입하는 정도에 그치고 있다는 지적이 나온다. 시장이 열리는 단계인 만큼 기술 개발이 더 이뤄지고 그에 걸맞게 AI PC 특성을 제대로 활용한 소프트웨어 등이 뒷받침돼야 기존 PC와의 차이가 뚜렷해질 것이라는 얘기다.
내 손안의 비서 될까
시장조사기관 GMI는 글로벌 온디바이스 AI 시장 규모가 2022년 50억달러(약 6조원)에서 2032년 700억달러(93조원)로 성장할 것으로 내다봤다. 인텔, 퀄컴, 엔비디아, AMD 등 글로벌 반도체 기업들의 온디바이스 AI 반도체 시장 경쟁도 심화할 것으로 전망된다. 한국 정부는 국산 AI 반도체를 기반으로 온디바이스 AI 시장 선점을 위한 ‘온디바이스 AI 활성화 전략’을 추진한다는 계획이다.
온디바이스 AI는 웨어러블 기기, 로봇 등 다양한 기기에 적용돼 일상생활의 변화를 가져다줄 것으로 보인다. 미국 스타트업 휴메인은 셔츠에 옷핀처럼 달고 사용하는 AI 비서 ‘AI핀’으로 주목받았다. 디스플레이 화면이 인스타 팔로워 구매 없는 대신 사용자의 손바닥에 레이저로 정보를 비춰준다. 음성으로 질문하고 통역을 요청할 수 있는가 하면 눈앞의 상황에 대한 설명이나 조언도 들을 수 있다. 주로 클라우드 AI 기반이지만 일부 기능은 온디바이스 AI로 처리된다고 한다. 앞서 퀄컴은 AI의 미래로 클라우드와 온디바이스 AI를 병행하는 ‘하이브리드’를 제시한 바 있다.
이경전 경희대 경영학·빅데이터응용학과 교수는 챗GPT는 우리가 검색 서비스를 쓰는 경험이 바뀐 느낌이라면, 이제는 온디바이스 AI를 통해 내 옆에 붙어 있는 ‘에이전트’라는 개념이 와닿게 될 것이라고 말했다. 이 교수는 온디바이스와 클라우드 AI가 긴장관계를 이루며 발전할 것으로 본다며 국내 업체들이 디바이스에 강한 만큼 기회가 될 수 있다고 말했다.