본문으로 건너뛰기
버전: docs v25.02

Quick Run

Updated 2024.06.19

이 페이지는 사용자가 Edge Conductor를 활용하여 엣지에 AI 모델을 배포하고 추론을 진행하는 과정을 설명합니다. 본 페이지의 내용은 엣지에 이미 Edge App이 설치되어 있는 상태를 가정하고 작성되었습니다.

목차​

  1. 엣지 등록
  2. 새로운 스트림 생성
  3. AI 모델의 학습 및 배포
  4. 추론
  5. 추론 결과 기반 데이터셋 구축

Step 1: 엣지 등록 ​

엣지 등록에 대한 자세한 사항은 엣지 관리를 참조하시기 바랍니다.

「Edges」 → 「+New Edge」

Edge App의 일련번호(Serial Number), IP주소, MAC 주소 등을 확인하여 등록하고자 하는 Edge App을 확인한 뒤, 이름(Name), 위치(Location), 설명(Description), 태그(Tag) 정보를 추가하여 엣지를 등록할 수 있습니다. 엣지가 정상적으로 등록되면, Edge Status 가 'Connected', Inference Status가 'No Stream'으로 나타납니다. 엣지가 등록되었다는 것은 추론을 위한 모델 및 솔루션을 배포 받을 준비가 되었음을 의미합니다.


Step 2: 새로운 스트림 생성 ​

스트림 생성에 대한 자세한 사항은 스트림 관리를 참조하시기 바랍니다.

Step 2-1: AI Solution 인스턴스 선택 ​

「Streams」 → 「+New Stream」

스트림을 생성할 때는 AI Conductor에서 제공하는 AI Solution의 인스턴스 정보를 바탕으로 진행할 수 있습니다. AI Solution 인스턴스의 이름은 AI Solution의 이름과 버전으로 구성되며, 하나의 인스턴스에서 여러 개의 스트림을 생성할 수 있습니다. 사용하고자 하는 AI Solution과 버전을 선택한 후, 다음 단계로 넘어갑니다.

Step 2-2: 파라미터 설정 및 스트림 생성 ​

선택한 인스턴스에서 파라미터를 어떻게 설정할지 결정한 후, 스트림 생성을 진행합니다. 이 과정에서 파라미터와 세부적인 맞춤 설정을 통해 원하는 AI Solution의 버전이 생성됩니다.


Step 3: AI 모델의 학습 및 배포 ​

Step 3-1: 학습 데이터셋 준비 ​

AI 모델을 학습시키기 위해서는 학습할 데이터가 있어야 합니다. 모델 학습 요청을 할 때에는, AI Solution이 기본적으로 포함하고 있는 샘플 데이터셋을 선택하거나, Edge Conductor에서 생성해둔 데이터셋을 선택할 수 있습니다. 따라서, AI 모델에 학습시키고자 하는 데이터가 있는 경우, 데이터셋을 생성해야 합니다. 주의할 점은, 데이터셋을 생성 시 선택하는 AI Solution과 스트림 생성 시 선택한 인스턴스의 AI Solution은 반드시 일치해야 합니다. 데이터셋 생성에 대한 자세한 내용은 데이터셋 안내을 참조하시기 바랍니다.

Step 3-2: 데이터셋 선택 및 모델 학습 요청 ​

데이터셋이 준비되었다면, 스트림을 선택하여 모델 학습을 요청할 수 있습니다. 모델 학습을 요청할 때에는, 사용하고자 하는 스트림의 Status칸에 위치한 'Train' 버튼(Network 모양)을 클릭하거나, 스트림을 선택한 뒤, 우측 상단에서 'Actions > Train Model'을 선택하여 팝업창에 진입할 수 있습니다.

팝업 창에서 준비해둔 데이터셋을 선택한 뒤, 'Train'버튼을 누르면, 학습을 시작합니다. 만약, AI Solution이 내장하고 있는 샘플 데이터셋으로 학습하기를 원한다면, 'Start with Sample Dataset'을 선택하여 'Train'을 수행하면 됩니다. 학습 요청이 정상적으로 수행되었다면, 스트림의 Status가 'Training'으로 변경됩니다.

학습 요청에 대한 자세한 내용은 학습 요청하기를 참조하시기 바랍니다.

Step 3-3: 엣지 선택 및 모델 배포 ​

모델 학습이 모두 완료되면 스트림의 Status가 'Ready to deploy'가 됩니다. 학습이 완료된 모델을 엣지에 배포하기 위해서는, 스트림의 Status칸에 위치한 'Rocket'버튼을 클릭하거나 우측 상단의 'Actions > Deployment'을 선택하여 팝업 창에 진입할 수 있습니다.

팝업 창에서 모델을 배포하고자 하는 엣지를 선택한 뒤, 'Deploy' 버튼을 누르면 배포를 시작하며, 배포가 완료되면 'Deployed'로 상태가 변경되고, 추론을 수행할 준비가 완료됩니다.


Step 4: 추론 ​

Step 4-1: 추론 데이터 입력 ​

Edge App의 추론은 Edge App의 데이터 입력 경로에 데이터가 생성됨과 동시에 수행됩니다. Edge App의 데이터 입력 경로는 Edge App을 설치하는 과정에서 설정하며, Edge Conductor의 'Edge Detail'에 'Input' 값이 이에 해당합니다. Edge App의 데이터 입력 경로에 추론 데이터를 생성하면, Edge App이 추론을 시작하여 Edge Conductor의 Edges 페이지에서 해당 엣지의 Inference Status가 'Inferencing'으로 변경됩니다.

Step 4-2: 추론 결과 확인 ​

추론이 종료되고 나면, 엣지에서 추론 아티팩트를 Edge Conductor로 전송합니다. 엣지의 Inference Status가 'Inferencing'에서 'Ready'로 돌아오며, 해당 엣지의 하단 상세 영역의 'Inf. Result' 탭에 추론 결과가 추가됩니다. 추론 아티팩트는 Edge App의 데이터 출력 경로에도 저장됩니다. 만약, 추론에 실패하였다면 Notification에 알림이 생성됩니다. 추론 아티팩트는 동일하게 저장되므로, 데이터 출력 경로에서 추론 아티팩트를 내려받아 로그를 확인할 수 있습니다.


Step 5: 추론 결과 기반 데이터셋 구축 ​

데이터에 새로운 패턴이 등장하게 되면, 기존에 사용하고 있는 AI 모델은 높은 성능을 유지할 수 없기 때문에, 새로운 패턴을 학습한 AI 모델이 필요합니다. 추론를 수행하여 얻은 데이터를 학습 데이터셋으로 재사용하여, 새로운 AI 모델을 학습하는데 활용할 수 있습니다.

Step 5-1: 추론 결과 데이터 수집 ​

엣지에서 추론을 수행할 때마다 그 결과가 Edge Conductor로 전송됩니다. 추론 결과는 'Edges' 페이지에서 엣지를 선택하면 하단의 'Inf. Result' 탭에서 확인할 수 있습니다.

Step 5-2: 수집한 데이터 기반 데이터셋 생성 ​

각 엣지에서 수집된 추론 결과 데이터들은 데이터셋으로 만들어 활용이 가능합니다. 데이터셋 생성 시, 'Data Source'로 'Edge'를 선택하면, 각 엣지 별로 수집된 추론 결과 데이터들을 선택하여 데이터셋을 생성할 수 있습니다. 이 때, 데이터셋 생성 시 선택한 AI Solution과 엣지에 배포한 스트림의 AI Solution이 일치해야 합니다. 데이터셋 생성에 대한 자세한 내용은 데이터셋 안내를 참조하시기 바랍니다.

만약, 사용 중인 AI Solution이 데이터 재레이블링을 지원한다면, 데이터셋에 포함된 데이터들의 레이블을 변경하여 더 정교한 학습 데이터셋을 구축할 수 있습니다. 데이터 재레이블링에 대한 자세한 내용은 데이터 레이블링를 참조하시기 바랍니다.