ALO

Mellerikat AI Learning Organizer (ALO)는 고품질의 ML / LLM 서비스를 쉽고 효율적으로 개발하고 지속적으로 운영할 수 있도록 지원하는 핵심적인 개발 프레임워크입니다.
ALO는 개발자들이 복잡한 기술적 과정에 시간을 낭비하지 않고 오직 서비스 로직 개발에만 집중할 수 있도록 돕습니다.
ALO를 통해 개발된 AI Solution 및 Service API는 mellerikat의 MLOps/LLMOps 환경에서 체계적으로 관리되고 다양한 Ops 기능을 활용 가능하게 합니다.

ML/LLM Service Framework

표준화된 ML/LLM 서비스 개발 프레임워크

ALO는 ML 서비스와 LLM 서비스 개발을 위한 표준화된 프레임워크를 제공하여 개발 효율성과 서비스 품질을 동시에 높입니다.

일관된 개발 환경 및 코드 품질 유지 : 일관된 코딩 규격과 서식을 제공함으로써 코드 품질을 유지하고,
서비스 유지보수를 보다 간편하게 만듭니다. 이를 통해 개발 효율성과 팀 간 협업의 생산성이 향상됩니다.

개발 집중도 향상 : ML/LLM 서비스 운영을 효과적으로 수행할 수 있는 Ops의 기능들이 ALO 프레임워크를 통해 제공되므로,
개발자는 오직 ML/LLM 서비스 로직 개발에만 집중할 수 있습니다.

운영 환경 동기화 및 안정성 : ALO-ML은 AI Solution을 컨테이너화하여 개발 환경과 운영 환경의 차이를 최소화합니다.
이로써 모델의 일관된 성능을 보장하고 예측 가능하며 안정적인 AI 서비스 운영을 지원합니다.
ALO-LLM 역시 AI Logic Deployer 기반의 컨테이너화된 환경에서 운영을 용이하게 합니다.

CLI 명령어 기반의 쉽고 빠른 컨트롤 : ALO-ML 및 ALO-LLM 모두 CLI 명령어를 지원합니다. CLI 명령어를 기반으로 ALO-ML 형태로의 변환 및 Rest API 형태로의 변환을 비롯하여 여러 기본적인 기능들을 직관적인 CLI 명령어로 지원합니다. 이를 활용하여 개발자들은 쉽고 빠르게 MLOps / LLMOps를 본격적으로 활용할 준비를 할 수 있습니다.

간편한 ALO 패키지 다운 및 설치 : Windows / Linux 개발환경에서 pip / uv install을 통해 쉽고 빠르게 다운받을 수 있습니다.

AI Conductor와의 연동 : ALO를 통해 개발된 AI Solution 또는 Service API는 AI Conductor에 등록되어
버전별 관리가 가능하며, 이는 지속적인 MLOps / LLMOps 운영을 지원합니다.

ALO-LLM

LLM Service API 개발 및 간편한 운영

ALO-LLM은 LLM Service API를 손쉽게 개발 및 패키징하고, AI Logic Deployer를 활용한 서비스 운영을 돕는 LLMOps에 최적화된 프레임워크입니다.
ALO-ML은 개발자가 원하는 Windows / Linux 개발 환경 어디서나 pip install을 통해 패키지를 다운로드 및 설치할 수 있습니다.
LLM 서비스 로직 코드는 ALO-LLM의 프레임 안에서 자유롭게 구현될 수 있으며, CLI 명령어를 활용하여 Rest API 형태로의 손쉬운 변환을 지원합니다.
변환된 Rest API 형태의 Service API는 인증을 거쳐 AI Solution에 등록되어 LLMOps의 다양한 기능을 활용할 수 있습니다.

Rest API 자동 변환 지원

LLM 서비스는 다양한 시스템이나 사용자와 연결되기 위해 외부에서 호출 가능한 형태여야 합니다.
Rest API는 가장 널리 쓰이는 호출 방식으로 웹, 앱, 내부 서비스 어디서든 효율적이고 일관되게 운영할 수 있을 뿐만 아니라 쉽게 사용할 수 있습니다.
ALO-LLM은 운영에 필요한 Rest API 자동 변환을 지원하여, 서비스 개발자가 서비스 로직 개발에만 집중할 수 있도록 합니다.
Rest API를 비롯한 특정 소프트웨어 개발 전문 지식이 없어도 LLM 서비스를 개발할 수 있습니다.

DB 및 Observability 도구들과의 연동 지원

서비스 로직에서 필요로 하는 데이터가 담긴 데이터베이스(DB)와 서비스 성능 개선을 위한 옵저버빌리티(Observability) 도구들과의 연동을 지원하여
서비스 안정성과 성능을 향상시킵니다. 이를 통해 데이터 추출/분석, 사용자 피드백 수집, 실시간 모니터링 등을 활용하여
운영의 효율성을 극대화하고 답변 품질, 처리 속도, 비용 등을 투명하게 확인하며 AI 성능을 지속적으로 개선할 수 있습니다.

ALO-LLM Architecture

LLMOps 연동을 위한 최적의 시스템

사용자는 ALO-LLM 패키지를 다운로드 받아서 LLM 서비스를 위한 로직 코드를 개발합니다. 지속적이고 고도화된 LLM 서비스를 위해서는 DB와 observability와의 연동이 필수적입니다. ALO-LLM은 다양한 DB와 o11y와의 손쉬운 연동 기능을 제공하며, File upload와 같은 기능을 수행하기 위한 System API를 제공합니다. ALO-LLM Frame을 활용하여 작성된 코드는 LLM 서비스를 위한 Rest API 형태로의 자동 변환을 수행합니다. 개발자는 Rest API을 공부할 필요없이 ALO-LLM에서 제공하는 CLI을 활용하여 간편하게 변환할 수 있습니다. 변환된 형태의 Service API는 인증을 거쳐 AI Solution에 등록되고, AI Logic Deployer를 통해 운영 환경에 배포되는 등 LLMOps의 다양한 기능을 활용할 수 있게 되어집니다.

ALO-ML

ML모델 개발 및 운영 최적화

ALO-ML은 ML알고리즘 코드를 운영 가능한 AI Solution으로 변환하고 ML알고리즘 기반의 서비스 운영을 위한 MLOps 활용에 최적화된 프레임워크입니다.
ALO-ML은 개발자가 원하는 Windows / Linux 개발 환경 어디서나 pip install을 통해 패키지를 다운로드 및 설치할 수 있습니다.
ML 서비스 로직 코드는 ALO-ML의 프레임 안에서 자유롭게 구현될 수 있으며, CLI 명령어를 활용하여 ALO-ML 형태로의 손쉬운 변환을 지원합니다.
변환된 ALO-ML 형태의 AI Solution은 인증을 거쳐 AI Solution에 등록되어 MLOps의 다양한 기능을 활용할 수 있습니다.

산업 현장에서 검증된 AI 컨텐츠 활용

mellerikat은 여러 산업 분야에서 기술력과 효과성이 이미 검증된 AI Contents를 제공합니다.
AI Contents는 ALO-ML 프레임에 맞게 설계되어 있는 손쉽게 서비스 운영 확장이 가능합니다. 사용자들은 이 검증된 컨텐츠를 다운로드받아 간단한 수정만으로 자신의 문제 상황에 맞게 AI Contents를 커스터마이징하고 쉽고 빠르게 AI Solution을 개발하고 등록할 수 있습니다.

지속적인 모델 성능 개선

ALO-ML은 AI 모델의 성능을 지속적으로 모니터링하고, 성능 저하를 감지하여 최신 기술을 업데이트할 수 있는 기능을 제공합니다.
Edge Conductor를 통해 수집된 추론 결과로 데이터셋을 생성하고, 데이터 Re-Rabeling 및 재학습을 통해 고품질 학습 데이터셋을 구축하여 모델을 개선할 수 있습니다.

효율적인 AI 모델 학습 및 배포

ALO-ML 프레임워크를 통해 등록된 AI Solution은 mellerikat의 MLOps 솔루션을 활용하여, 웹 UI 기반으로 모델 학습부터 서비스 환경으로의 모델 배포 과정을 손쉽게 수행할 수 있도록 지원합니다. 이를 통해 사용자는 복잡한 과정 없이도 효율적으로 AI 모델을 학습, 배포, 모니터링할 수 있습니다.

ALO-ML Architecture

MLOps 연동을 위한 최적의 시스템

사용자는 ALO-ML 패키지를 다운로드 받아서 ML 서비스를 위한 Train / Inference Pipeline 코드를 생성합니다.
ML을 활용한 서비스를 위해서는 모델 학습을 위한 Train Pipeline과 생성된 모델을 활용하여 Inference를 수행하는 Inference Pipeline이 반드시 필요합니다.
사용자에 의해 작성된 코드는 MLOps에서 활용될 수 있는 ALO-ML 형태로의 자동 변환을 거치게됩니다. 이렇게 생성된 AI Solution Package를 통해 MLOps의 components인 AI Conductor / Edge Cond / Edge App과 연동되어 MLOps의 다양한 기능을 활용할 수 있게 되어집니다.