[IT트렌드] 온디바이스 AI 기능 이란? 온디바이스 AI 와 클라우드 AI 의 차이점은?

"온디바이스 AI 시대 열었다!...삼성전자, '갤럭시 S24' 시리즈 공개" 

"온디바이스 AI의 '퍼스트 펭귄'…삼성 갤럭시S24 기능 살펴봤더니"

 

삼성전자는 이번 업데이트를 통해 이들 제품에서 13개 언어 번역 및 문장 완성도 개선 ▲채팅 어시스턴트 ▲실시간 통역을 이용할 수 있도록 한다. ▲서클 투 서치 ▲노트 어시스트 ▲브라우징 어시스트 등도 지원한다.
사진은 ‘생성형 편집’ 및 ‘편집 제안’ 등을 제공한다. 사양에 따라 ‘인스턴트 슬로모’ 동영상도 추가할 계획이다.
- 원본 기사 https://www.thelec.kr/news/articleView.html?idxno=26097 - 

 

2024년 1월 삼성전자 기사를 찾아보면 온디바이스 AI 에 대한 기대감이 가득한 기사들 내용으로 수두룩 합니다. 그리고 2월에는 삼성전자가 '갤럭시 AI(인공지능)'을 스마트폰과 태블릿으로 확대한다고 밝히며 그 기대감은 하늘을 찌릅니다. 기사 내용에는 실시간 통역, 서클 투 서치 등의 새로운 기능들의 내용들로 가득한데요.

대체 이 기사에서 말하는 온디바이스 기반의 '갤럭시AI' 기술이란 무엇인지? 그리고 실시간 통역, 생성형 편집 기술은 무엇인지 궁금해집니다. 온디바이스 AI란 무엇이고, 이 기술이 적용된 기능은 어떻게 작동하는지 한번 살펴보고자 합니다. :)

 

 

온디바이스 AI vs 클라우드 AI 란?

온디바이스 AI(On-device AI)는 외부 클라우드 서버 연결없이 사용자의 장치/기기 내부(예: 스마트폰, 태블릿, 스마트워치 등)에서 직접 인공지능(AI) 연산을 수행하는 기술을 의미합니다. 온디바이스 AI(On-device AI)는 클라우드AI 처럼 방대한 데이터를 클라우드로 전송하고 이를 다시 받아서 처리하는 과정을 거치지 않는 다라는 점입니다. 즉, 외부 서버에 의존하지 않는다 라는 점이 가장 큰 특징입니다. 온디바이스 AI는 데이터를 단말 기기 내에서 직접 처리합니다. 이로 인해 여러 가지 장점이 있습니다.

[사진] 삼성 반도체 사이트(semiconductor.samsung.com/kr/) - 클라우드AI vs 온디바이스AI

 

 

온디바이스 AI 의 장점은?

1. 개인정보 보호와 보안: 데이터가 기기를 벗어나지 않기 때문에, 사용자의 개인 정보 보호가 강화됩니다. 데이터 유출의 위험도 줄어듭니다.
2. 실시간 처리: 데이터를 원격 서버에 보내지 않고 기기 내에서 처리하기 때문에, 응답 시간이 단축되어 실시간 반응이 가능해집니다.
3. 연결성: 인터넷 연결이 불안정하거나 없는 환경에서도 AI 기능을 사용할 수 있습니다.
4. 에너지 효율: 데이터를 원격 서버에 전송하고 처리하는 데 필요한 에너지보다 적은 에너지로 처리가 가능할 수 있어, 전력 소모를 줄일 수 있습니다.
5. 데이터전송 비용 절감: 에너지효율이 좋다보니 데이터 센터보다 디바이스 안에서 반도체를 구동시킬 때 드는 가격이 더 저렴한 장점이 있습니다. 

온디바이스 AI는 스마트폰, 자동차, 가정용 기기 등 다양한 분야에서 활용되고 있습니다. 예를 들어, 스마트폰에서는 사진 분류, 음성 인식, 얼굴 인식 등의 기능이 온디바이스 AI를 통해 제공됩니다. IoT(사물인터넷) 기기에서도 온디바이스 AI를 통해 데이터를 분석하고, 사용자의 행동을 예측하여 더 나은 서비스를 제공할 수 있습니다. 

 

 

온디바이스 AI 의 작동 원리 어떻게 될까?

1. 로컬 데이터 처리: 온디바이스 AI는 장치에 내장된 프로세서를 사용하여 데이터를 처리합니다. 이는 데이터를 외부 서버로 보내지 않고 장치 내에서 직접 처리함을 의미합니다. 
2. 신경망 모델의 최적화: 온디바이스 AI를 위해서는 AI 모델(주로 딥러닝 모델)이 장치의 제한된 처리 능력과 저장 공간에 맞게 최적화되어야 합니다. 이를 위해 모델 경량화 기법이 사용됩니다. 예를 들어, 모델 압축, 가중치 정밀도 감소(quantization), 프루닝(pruning) 등의 기술이 사용됩니다.
3. 하드웨어 가속: 많은 현대 장치들은 AI 연산을 가속화하기 위해 전용 하드웨어(예: GPU, TPU, NPU 등)를 포함하고 있습니다. 이러한 하드웨어는 온디바이스 AI의 성능을 크게 향상시킵니다.
4. 엣지(Edge) 컴퓨팅: 온디바이스 AI는 에지 컴퓨팅의 한 형태로 볼 수 있습니다. 엣지(에지) 컴퓨팅은 데이터 처리를 중앙 집중식 데이터 센터가 아닌 데이터가 생성되는 지점(즉, '에지')에서 수행하는 개념입니다.
   * '엣지 컴퓨팅'이란? 데이터가 생성된느 사용자의 단말과 가까운 지점에서 처리, 분석 및 저장을 하여 실시간에 가까운 빠른 분석과 응답을 가능하게 하는 것을 말함. (즉, 사용자 또는 데이터 소스의 물리적인 위치가 가까운 그 근처에서 컴퓨팅을 수행하는 것)

바로 삼성 갤럭시 24시리즈가 온디바이스AI 기술을 탑재하여 장치 내에서 모든 데이터 처리를 가능하게 합니다. 이 기술로 인해 데이터 프라이버시를 강화하고, 별도의 네트워크 연결 없이 인공지능 기능을 사용할 수 있기에 인터넷 연결이 어려운 상황에서도 실시간 통번역 같은 작업이 가능하게 된 것입니다. 즉, 이 기술로 인해 스마트폰에서의 얼굴인식 잠금 해제, 음성인식, 실시간 번역 등 다양한 기능에 이미 활용되고 있는 것입니다. 향후 IoT 기기, 자율주행차 등 다양한 분야에서의 적용이 기대됩니다.

 

---

온디바이스 AI

 

온디바이스 AI의 발전은 AI 기술의 미래에 매우 중요한 역할을 할 것입니다. 이러한 기술의 발전으로 인해 기기의 처리 능력는 점점 더 향상되고, AI 모델이 더욱 최적화됨에 따라, 온디바이스 AI의 성능과 활용 가능성은 계속해서 증가할 것입니다.

 

 

 

-

Reference

• aws 사이트 : https://aws.amazon.com/ko/what-is/edge-computing/
• YTN 사이언스 : https://www.youtube.com/watch?v=EfcFouhu7ug

-

함께 읽어보세요!

[IT 트렌드] AI(인공지능 기술), 어떻게 미래를 뒤흔들까?

[IT 트렌드] AI(인공지능 기술), 어떻게 미래를 뒤흔들까?