본문으로 건너뛰기
버전: docs v25.02

ALO-LLM이란 무엇인가요?

업데이트 2025.08.14

AI Logic Organizer for Large Language Models (ALO-LLM)​

ALO-LLM(AI Logic Organizer for Large Language Models)은 사용자가 작성한 로직 코드를 FastAPI 형태로 변환하여 LLMOps에 등록하고, 인프라 환경까지 자동으로 구축하여 운영할 수 있도록 도와주는 개발 프레임워크입니다. LLM 로직 개발자는 복잡한 설정 없이 Service API 개발, 등록, 운영까지의 과정을 간편하고 효율적으로 처리할 수 있습니다.

표준 개발은 ALO-LLM을 사용하여 이루어집니다. 표준 개발은 이미 정의된 규격과 프로세스를 따르는 방식으로, 복잡한 설정 없이 FastAPI 형태로 변환, LLMOps에 등록, 인프라 환경을 자동으로 구축하여 운영할 수 있는 특징이 있습니다. 개발자는 다음과 같은 단계를 통해 간편하게 API를 개발하고 배포할 수 있습니다:

LLM Logic Code 작성: 환경 변수를 .env 파일에 작성하고, 작성된 로직 코드를 Langchain 문법을 사용하여 정의합니다. Service API화: ALO-LLM을 설치하고 config.yaml 파일을 작성하여 필요한 라이브러리와 API 맵핑을 정의한 후, CLI 명령어로 로직 코드를 FastAPI로 전환합니다. 이를 통해 개발 시간과 비용을 크게 절감하며, 안정성을 높여 빠르게 서비스를 배포할 수 있습니다.

커스텀 개발은 ALO-LLM을 사용하지 않고 이루어집니다. 커스텀 개발은 특정 고객의 요구와 업무 프로세스에 맞춘 소프트웨어를 개발하는 방법으로, 사용자들이 원하는 목적에 맞게 자유롭게 코드를 작성합니다. 그러나 ALO-LLM의 편리한 기능을 사용하지 않기 때문에, 개발자는 아래와 같은 단계를 통해 직접 모든 설정과 관리를 수행해야 합니다:

LLM Logic Code 작성: 사용자는 자유롭게 코드를 작성하되, 필요한 라이브러리 설치 명령어를 prerequisite_install.sh 파일에 정의합니다. config.yaml 파일 작성: FastAPI 형태로 로직을 구현하고, config.yaml 파일에 AI Logic Deployer 주소 및 설명을 작성합니다. 이 방식은 개발자가 더 세밀한 제어와 특별한 기능을 제공할 수 있으나, 개발 시간이 더 길고 비용이 더 많이 들며, 유지보수가 복잡할 수 있습니다.

ALO-LLM을 통해 개발자는 기본 인프라에 대한 걱정 없이 혁신적인 LLM 기반 서비스 제작에만 집중할 수 있습니다.


mellerikat


주요 기능​

  • 간소화된 개발: LangChain과 같은 선호하는 라이브러리를 사용하여 표준 파이썬 함수를 작성하세요. ALO-LLM은 웹 서비스로의 변환을 처리하므로 순수하게 로직에만 집중할 수 있습니다.
  • 자동 API 생성: 간단한 config.yaml 파일을 기반으로 파이썬 함수에 FastAPI 엔드포인트를 자동으로 생성하여 상용구 API 코드를 작성할 필요가 없습니다.
  • 통합 배포 CLI: 서비스의 전체 라이프사이클을 관리하기 위한 통합된 CLI 명령어(alm) 세트를 제공합니다:
    • alm login: 플랫폼으로 인증합니다.
    • alm register: 코드를 새로운 서비스 API로 등록합니다.
    • alm deploy: 서비스를 클라우드 환경에 배포합니다.
    • alm activate: 배포된 서비스를 활성화하여 실시간 트래픽을 처리합니다.
  • 유연한 워크플로우: ALO-LLM은 필요에 따라 두 가지 독특한 개발 접근 방식을 지원합니다:
    1. 프레임워크 기반 개발: 서버 코드를 작성하지 않고 로직을 빠르게 API로 전환하는 데 이상적입니다.
    2. 수동 개발: 사용자 정의 서버 구현이 필요할 때 사용합니다. 자체 FastAPI 애플리케이션을 작성하면 ALO-LLM이 배포 도구를 제공합니다.

개발 및 배포 프로세스​

어떤 개발 워크플로우를 선택하든 전체 프로세스는 다음과 같은 일반적인 단계를 따릅니다:

  1. 로직 작성: 파이썬으로 핵심 애플리케이션 로직을 개발합니다.
  2. 구성: API, 종속성 및 환경 변수를 정의하기 위 구성 파일(config.yaml, .env, 때로는 prerequisite_install.sh)을 생성합니다.
  3. 로컬 테스트 (프레임워크 기반만 해당): alm api 명령어를 사용하여 서비스를 로컬에서 실행하고 동작을 확인합니다.
  4. 등록 및 배포: alm CLI를 사용하여 AI Logic Deployer에 서비스를 등록하고 클라우드에 배포한 후 프로덕션용으로 활성화합니다.

주제​