Edge App
Edge App이란?
Edge App은 다양한 디바이스에 설치되어 AI 모델의 추론 기능을 수행하는 어플리케이션입니다. 이를 통해 사용자들은 스마트폰, IoT 기기, 서버 등 다양한 디바이스에서 직접 AI 모델을 실행하고, 실시간으로 예측 및 분류 등의 작업을 수행할 수 있습니다.
핵심 기능
Edge App의 핵심 기능을 자세하게 살펴보겠습니다.
AI 모델 추론 수행
Edge App은 설치된 디바이스에서 AI 모델의 추론을 수행합니다. 이는 AI 모델이 입력 데이터를 받아들여 예측이나 분류 등의 작업을 수행하는 단계입니다. Edge App을 활용하면 디바이스 자체에서 추론을 실행하여 실시간 응답을 제공할 수 있습니다.
데이터 수집 및 검증
Edge App은 추론을 위해 필요한 데이터를 디바이스에서 수집합니다. 수집된 데이터는 유효성을 판단하여 모델이 정확한 결과를 도출할 수 있도록 합니다. 데이터의 품질과 신뢰성은 모델의 성능에 직결되므로, 이를 확보하는 역할은 매우 중요합니다.
오류 검출 및 처리
Edge App은 모델이 추론하는 과정에서 발생할 수 있는 문제나 오류를 감지하고 처리합니다. 이는 모델의 안정성을 유지하고 실제 운영 환경에서의 신뢰성을 확보하기 위한 중요한 부분입니다. 따라서 오류가 발생하면 이를 신속히 탐지하고 대응하여 AI 모델의 지속적인 성능을 보장합니다.
데이터 전송 및 통합 관리
추론 결과나 중요한 정보는 Edge Conductor로 전송됩니다. Edge Conductor는 여러 디바이스 간의 통신과 데이터 흐름을 관리합니다. 이를 통해 추론 결과를 중앙에서 집중적으로 관리하고, 다양한 디바이스 간의 협업이 가능해집니다. 이는 결과 데이터의 일관성을 유지하고, 추후 분석에 유용하게 활용할 수 있게 합니다.
모델 성능 모니터링 및 재학습
Edge App을 통해 수행된 추론 결과를 모니터링하고, 성능에 문제가 있을 경우 이를 파악하여 조치합니다. 성능 저하 원인을 분석하고 필요한 경우 데이터를 재레이블링하여 모델의 성능을 개선할 수 있습니다. 수집 된 추론 결과를 활용하여 새로운 학습 데이터셋을 생성하고, 이를 통해 AI 모델을 다시 학습 시킵니다. 업그레이드 된 AI 모델은 다시 Edge App을 통해 디바이스에 배포할 수 있습니다.
사용자 시나리오
Edge App 사용자 시나리오는 다음과 같습니다.
-
설치 및 설정: Edge App을 AI 모델을 활용하려는 다양한 디바이스(예: 스마트폰, IoT 기기, 서버)에 설치합니다. 설정 과정에서 Edge Conductor와의 연결 정보를 포함한 구성(Config) 설정이 필요합니다.
-
추론 수행: Edge App은 설치된 디바이스에서 AI 모델의 추론 기능을 수행합니다. 이를 통해 입력 데이터를 받아들여 예측 및 분류 작업을 실시간으로 처리합니다.
-
데이터 수집 및 검증: 추론을 위해 필요한 데이터를 디바이스에서 수집합니다. 데이터의 유효성을 판단하여 모델이 정확한 결과를 도출할 수 있도록 합니다.
-
오류 감지 및 처리: AI 모델이 추론하는 과정에서 발생할 수 있는 문제나 오류를 감지하고 처리합니다. 이는 모델의 안정성을 유지하고 신뢰성을 확보하기 위한 중요한 부분입니다.
-
결과 전송: 추론 결과나 중요한 정보를 Edge Conductor로 전송합니다. Edge Conductor는 여러 디바이스 간의 통신과 데이터 흐름을 관리하며, 중앙에서 추론 결과를 관리할 수 있도록 합니다.
-
성능 모니터링: Edge App을 통해 수행된 추론 결과를 모니터링하고, 성능에 문제가 있을 경우 이를 파악하여 조치합니다. 필요한 경우 데이터를 재레이블링하여 모델의 성능을 개선합니다.
-
재학습 및 재배포: 수집 된 추론 결과를 활용하여 새로운 학습 데이터셋을 생성하고, 이를 통해 AI 모델을 다시 학습 시킵니다. 업그레이드 된 새로운 AI 모델은 Edge App을 통해 디바이스에 재배포됩니다.