Streams
Stream은 AI Solution과 운영하는 데이터를 연결하여 모델을 학습하고 배포하여 모델이 문제를 해결하도록 운영하는 기능을 제공합니다. Stream은 AI Solution과 Edges의 연결 통로 역할을 수행합니다. 사용자는 Stream을 통해서 해결하고자 하는 과제에 적절한 Solution을 선택하고, 모델을 학습할 수 있습니다. 선택된 솔루션과 모델은 Edge으로 전달되어 Edge에서 추론할 때 사용될 수 있도록 합니다. MLOps 에서 학습 및 배포 기능을 담당하는 메뉴 입니다.
편리한 사용
사용자가 손쉽게 학습 및 배포 할 수 있도록 UX화 되어 있습니다. Stream 메인 화면에서 사용자는 학습버튼 및 배포버튼 클릭만으로 동작을 수행할 수 있습니다. sample data 학습기능으로 학습데이터가 준비되어 있지 않은 경우에도 기본 모델을 학습 전달 받을 수 있습니다. 각각의 솔루션에는 샘플 데이터들을 담고 있으며, 학습할 때 Sample Data를 선택하여 기본 모델을 받을 수 있습니다.
모니터링
하나 이상의 스트림 객체가 생성될 수 있으며, 각각의 스트림 객체는 '학습준비, 학습중, 학습실패, 배포, 배포실패 ' 중 하나 상태를 가질 수 있습니다. 메인 화면을 통해서 사용자가 한눈에 스트림 전체 상태를 볼 수 있도록 구현되어 있습니다. 또한 각 스트림이 몇 개의 Edge에 배포되어 있는지를 통해 스트림의 활용 정도를 파악할 수 있습니다. 또한 사용자는 스트림에 inference warning score 값을 정의할 수 있으며, 특정 Edge 에서 warning score 미만의 추론 개수를 확인할 수 있습니다. (In Used Edges)
유지보수
AI Solution 의 버전이 업데이트되는 경우 쉽게 적용할 수 있습니다. Stream의 Solution Update 기능을 통해서 새로운 버전의 Solution이 있는 경우 새 버전으로 교체할 수 있습니다. 사용자는 학습기능으로 하나의 스트림에서 모델을 하나 이상 만들 수 있습니다. 각각의 모델에는 버전이 부여됩니다. 버전은 Stream 별로 관리되며, 버전 관리 규칙은 vM.N입니다. 여기서 M은 해당 Stream이 참조하는 AI Solution의 버전과 동일합니다. 또한, N은 해당 Stream에서의 AI Model 학습 횟수이며 최초 학습 모델의 경우 0입니다. 즉, AI Model 학습이 성공할 때마다, 0.1씩 버전이 올라갑니다. 과거에 학습되었던 모델들에 대한 정보를 확인하고, 이를 Edge에 (재)배포할 수 있습니다.
히스토리
배포 이후 모델 히스토리를 통해 사용자가 모델 사용 추적을 가능하도록 합니다. 특정 모델 배포 이후에 성능이 떨어진 경우 모델이 어떤 데이터셋으로학습되었는지 확인할 수 있으며, 그리고 모델 배포 날짜 및 시간 이력을 확인할 수 있습니다.