2023년 작년 한 해를 대표하는 키워드를 뽑자면 ChatGPT라고 해도 과언이 아니다. ChatGPT를 계기로 많은 기업들이 인공지능(AI) 도입에 대한 관심과 투자 또한 상당해서 인공지능 개발을 위한 환경에 필수적인 GPU 자원에 대한 수급 문제가 있었을 정도로 인공지능의 이슈가 상당했다.

개발사는 클라우드 컴퓨팅 자원을 활용하여 제공해야 하고 사용자는 인터넷이 필수로 연결되어야 인공지능 서비스를 제공받을 수 있다. 때문에 수많은 가전제품에 인공지능을 도입하려면 디바이스에 대한 문제가 허들이 된다. 그래서 이에 대한 해결책으로 ‘온디바이스AI’가 주목받고 있다.

인터넷 연결 없이 자체 AI 기능 가진, 온디바이스 AI
온디바이스 AI는 말 그대로 인터넷 연결이 필요 없이 스마트폰이나 태블릿 같은 디바이스에서 자체적으로 작동하는 인공지능을 의미하며, ChatGPT와 같은 AI 서비스는 인터넷에 연결되어야만 사용할 수 있지만, 온디바이스AI는 데이터를 외부 서버로 전송하지 않고 기기 내에서 실시간으로 처리한다.

우리 일상 속, 특히 스마트폰에서는 이미 온디바이스 AI가 활용되고 있고, 그 예로는 사진 속 피사체를 인물 또는 장소에 따라 구분하거나, 사진에서 원하는 부분만 떼어내는 작업(작업자들 사이에서는 ‘누끼 따기’라고 부른다.)을 들 수 있다. 이는 디바이스에 탑재된 프로세서와 인공지능 모델을 활용하여 데이터를 내부적으로 처리함으로써 사용자가 원하는 결과를 도출해 낼 수 있으며, 최근의 온디바이스AI 기술은 신경처리장치(Neural Processing Unit, NPU)라고 하는 전력 소모가 적으면서도 AI 추론을 효율적으로 수행하는 전용 프로세서를 통해 발전하고 있다.

진짜 빠른 속도가 주는 삶의 변화
최근 삼성이 공개한 신형 스마트폰은 온디바이스 AI를 통해 인터넷 연결 없이도 실시간 번역 기능을 가능하여 주목을 받았다. 먼저, 속도가 빠르다는 점이 그 이유이다. 인터넷에 연결해 클라우드 서비스를 이용할 필요가 없고, 데이터 센터의 서버 자원을 공유하지 않으며 자신의 기기만을 사용하기 때문에 실시간으로 번역을 제공하거나 수 초 내에 고품질 이미지를 생성하는 일이 가능하게 한다. 하지만 이 또한 사용자에게는 큰 장점으로 느껴지지 않을 수도 있는데, 클라우드 서비스도 이미 충분히 빠른 속도를 제공하기 때문이다.

그러나 서비스를 제공하는 기업의 입장에서는 다를 수 있다. 온디바이스AI를 활용함으로써 비용 절감이 가능해지기 때문이다. 특히 생성형 AI 모델이 복잡해지고 사용자가 증가함에 따라 필요한 인프라 비용이 기하급수적으로 늘어나고 있는데, 간단한 AI 작업의 경우 스마트폰 등 개인용 기기의 자원을 이용함으로써 클라우드 인프라 비용을 절약할 수 있고, 이는 사용자에게 혜택으로 환원될 수도 있다.

온디바이스 AI가 바꾸는 미래
온디바이스AI는 일상적인 스마트폰에서부터, 스마트워치, 확장현실(XR) 헤드셋에 이르기까지 다양한 기기와 상호 작용하는 방식을 변화시키고 개인화된 서비스를 제공함으로써 우리의 일상생활에 영향을 미치게 될 것으로 예상된다. 몇 가지 예시로는

• ㆍ개인 맞춤형 AI 어시스턴트 : 사용자의 선호도, 습관, 위치 정보 등을 기반으로 맞춤형 정보 제공, 일정 관리 등을 지원
• ㆍ실시간 번역 : 사용자의 목소리를 인식하여 다른 언어로 실시간 번역
• ㆍ맞춤형 콘텐츠 추천 : 사용자의 시청 기록, 검색 기록, 구매 기록 등을 분석하여 사용자 취향에 맞는 콘텐츠 추천
• ㆍ작업 자동화 : 사진 분류, 문서 정리, 음성 메모 작성 등 반복적인 작업 자동화
• ㆍ개인 데이터 보호 : 사용자의 개인 데이터를 기기 내에서 안전하게 저장하고 처리하여 유출 방지
• ㆍXR 및 웨어러블 기기 기능 확장 : 동작 및 활동 추적, 건강 관리, 알림 제공 등의 기능 강화

이와 같이 온디바이스AI를 장착한 기기는 사용자의 선호도를 실시간으로 학습하고 적용하여 극도로 개인화된 서비스 제공이 가능해지며 단지 스마트한 디바이스가 아닌, 우리의 필요를 이해하고 예측하는 진정한 인텔리전트 디바이스 시대가 열리고 있는 것이다.

마케터라면 놓치지 말아야 할 단어, 온디바이스 AI
물론 금빛 미래만 기다리는 건 아니다. 온디바이스AI에도 한계는 있다. 바로 하드웨어 문제로, 스마트폰이나 태블릿, XR 헤드셋과 같은 개인용 기기의 성능이 제한적이기 때문이다. 예를 들어, GPT-3의 경우 1,750억 개의 매개변수를 가지고 있으며 이를 실행하려면 고성능의 인프라가 필요하고, 당연히 모바일 기기에서는 이를 구현하기 어려울 수밖에 없다.

이러한 문제를 해결하기 위해서는 매개변수를 줄이면서도 성능 저하를 최소화한 AI 모델의 개발이 온디바이스AI 시대의 필수 요소로 여겨지고 있으며, 현재의 기술 발전 추세를 고려할 때, 온디바이스AI의 성능이 향상되는 것은 시간문제일 것이다.

아직은 도입 단계이지만 온디바이스AI는 다양한 분야에서 활용될 가능성이 높으며, 시장 조사 기관인 IDC는 온디바이스AI 시장이 2027년까지 1,500억 달러 규모로 성장할 것이라고 전망했다. 이처럼 앞으로 더욱 발전될 온디바이스AI 기술은 우리 일상을 더욱 편리하고 안전하게 만들어 줄 것이며, 개인화된 서비스를 제공하여 사용자의 만족도를 높이게 될 것이다.

요즘처럼 광고 마케팅 종사자들이 다양한 기술 용어를 알아야 하는 시기가 또 없었을 것이다. AI의 발전은 그야말로 '빛의 속도'로 이뤄지고 있다. 'ChatGPT' 등장 1년 만에 우리는 SF가 현실이 되는 장면을 목격하고 있다. 바쁜 비즈니스 현장 탓에 때론 신기술에 관심을 끄고 싶을 때도 있을 수도 있겠지만, AI 기술을 손안에서 만날 수 있게 하는 온디바이스AI는 우리가 간과할 수 있는 개념이 아니다. AI가 가져 바꿀 미래를 기대하며, 이에 대한 준비를 시작해야 할 때이다.

<참고 및 인용>

AI타임스 www.aitimes.com

국민대학교 소프트웨어융합대학 윤종영 교수