본문으로 건너뛰기

"AI Agent" 태그로 연결된 2개 게시물개의 게시물이 있습니다.

AI Agent의 도입, 운영, 실제 활용 성과를 공유합니다.

모든 태그 보기

GPU를 넘어 NPU로: EVA, 리벨리온 ATOM™-Max에서 '전 구간(End-to-End)' 서비스 검증 완료

· 약 2분
Gyulim Gu
Gyulim Gu
Tech Leader

지난 포스팅에서 저는 산업 현장의 24시간 '상시 가동 AI'를 위해 리벨리온(Rebellions) NPU와의 협력을 약속드린 바 있습니다.

https://mellerikat.com/blog/News/rebellions

그리고 오늘, 그 약속이 실질적인 기술적 결실로 맺어졌음을 기쁘게 공유합니다.

mellerikat의 EVA(Evolved Vision Agent)는 최근 리벨리온의 최신 서버용 NPU인 ATOM™-Max 환경에서 Vision 모델, LLM, VLM이 결합된 End-to-End 서비스 동작 검증을 성공적으로 마쳤습니다.


🛠️ 단순 모델 실행을 넘어 '전체 서비스 파이프라인'을 태우다

단순히 특정 모델 하나가 NPU에서 돌아가는 것과, 실제 서비스 전체가 안정적으로 구동되는 것은 차원이 다른 문제입니다. EVA는 이번 검증을 통해 다음의 전 과정을 ATOM™-Max 환경에서 단절 없이 구현했습니다.


카메라 입력 → 객체 탐지(Vision) → 시나리오 해석(VLM) → 상황 판단(LLM) → 알림 및 제어 전송

이는 개별 모델의 벤치마크 점수를 넘어, 실제 운영 환경에서 요구되는 복잡한 AI 파이프라인이 NPU 위에서 완벽하게 제어될 수 있음을 확인한 결과입니다. 리벨리온 측에서도 이번 사례를 "상용 NPU 위에서 VLM 기반 AI 서비스가 실동작한 최초의 사례"로 평가하며 큰 기대감을 나타내고 있습니다.


📈 다음 단계: '스트레스 테스트'를 통한 TCO 혁신의 정량화

성공적인 End-to-End 검증을 마친 EVA는 이제 실제 공장 환경을 가정한 스트레스 테스트 단계에 돌입합니다.

우리는 다수의 카메라가 동시에 입력을 쏟아내는 극한의 상황에서도 시스템의 안정성, 처리량(Throughput), 전력 효율을 정밀하게 분석할 예정입니다. 이를 통해 얻게 될 데이터는 고객사에게 다음과 같은 '실행 가능한 가이드'로 제공됩니다.

  1. 최적의 NPU 구성 표준 제시: 카메라 수와 요구되는 추론 성능에 따른 가장 경제적인 하드웨어 구성 가이드.

  2. GPU 대비 TCO 절감 효과 정량화: 단순 장비 가격이 아닌, 전력 소모와 운영 비용을 포함한 실질적 경제성 분석 결과 제공.

  3. 현장 맞춤형 도입 리스크 최소화: 표준화된 NPU 구성을 통해 도입 시간을 단축하고 확산 속도를 극대화.


✨ 결론: 고비용 GPU 의존도를 낮추고 '지속 가능한 AI'로

이번 검증의 핵심은 "멀티모달 산업 AI가 이제 NPU만으로도 실제 운영이 가능한 수준에 도달했다"는 점입니다.

비싼 GPU 비용 때문에 AI 도입을 망설였던 기업들에게 EVA와 리벨리온의 결합은 가장 현실적이고 강력한 대안이 될 것입니다. 고비용 구조를 깨고 효율적인 비용으로 안전·품질·생산성을 높이는 '지속 가능한 산업 AI의 표준', EVA가 리벨리온과 함께 완성해 나가겠습니다.

Cisco Live 2025

· 약 4분
Byungmoon Lee
Byungmoon Lee
Solution Architect
Andy Yun
Andy Yun
Business Leader

EVA, Cisco Live 2025에서 Multi-modal LLM 기반 AI 서비스로 혁신을 선보이다

Cisco Live 2025, 2025년 6월 8일-12일, 센디에고

Mellerikat은 2025년 Cisco Live 2025에 참가하여 전 세계 고객과 파트너들에게 Multi-modal LLM(대규모 언어 모델)을 활용한 혁신적인 AI 서비스, Mellerikat EVA를 선보이는 뜻깊은 기회를 가졌습니다. 네트워킹, 보안, AI 기술의 최전선을 공유하는 이 글로벌 행사에서, Mellerikat은 독창적인 아키텍처를 통해 비용 효율적인 AI 솔루션을 구현한 데모를 선보이며 참관객들의 뜨거운 호응과 공감을 얻었습니다.올해 Cisco Live는 Cisco의 Splunk 인수 이후 첫 대규모 행사로, AI와 데이터 분석의 통합된 미래를 조명하는 자리였습니다. Mellerikat은 데모 부스를 통해 Mellerikat EVA, Cisco Meraki Camera, 그리고 Splunk Instance를 결합한 Multi-modal LLM 기반 솔루션을 공개하며, 산업 현장에서의 실질적인 AI 활용 가능성을 제시했습니다. 특히, 우리의 독창적인 아키텍처가 Multi-modal LLM 운영 비용을 대폭 절감했다는 점은 많은 참관객들에게 깊은 인상을 남겼습니다