Myrtle.ai VOLLO™ 가속화 솔루션

 

금융 분야를 위한 Low latency AI

Myrtle.ai의 VOLLO 가속기와 Napatech의 SmartNIC 및 IPU를 결합하여 퀀트 트레이더가 경쟁사보다 빠르게 지능적인 거래 결정을 내릴 수 있도록 지원합니다.

Myrtle.ai는 클라우드 또는 엔터프라이즈 데이터 센터 및 엣지 환경의 다양한 애플리케이션을 위한 머신러닝(ML) 추론 워크로드 최적화를 전문으로 합니다. 소프트웨어 및 하드웨어 혁신 통합을 통해 저지연, 고처리량 및 에너지 효율적인 솔루션을 개발하는 데 전문성을 보유하고 있습니다.

 

Myrtle.ai의 VOLLO

 

주요 제품 중 하나는 금융 산업 맞춤형 ML 추론 가속기인 VOLLO입니다. VOLLO는 처리량, 품질 및 에너지 효율성을 극대화하면서 금융 신경망 모델에서 최소한의 지연 시간을 달성하도록 설계되었습니다. 특히 독립적으로 감사된 벤치마크에서 5.1마이크로초의 낮은 지연 시간을 입증하여 경쟁사보다 훨씬 뛰어난 성능을 보였습니다. VOLLO는 ONNX 또는 PyTorch 형식의 사용자 정의 모델을 지원하며 금융 AI 모델의 시계열 추론에 최적화되어 있습니다.

 

Myrtle.ai의 VOLLO 머신러닝 추론 가속기를 Napatech의 프로그래밍 가능한 SmartNIC 및 IPU와 통합하면 금융 산업에 상당한 이점을 제공합니다.

GPU 및 ASIC 대비 독립적으로 검증되었습니다.

 

 

초저지연 추론 – 타의 추종을 불허하는 성능

VOLLO는 금융 신경망 모델에서 최소한의 지연 시간을 제공하도록 설계되었으며, 감사된 지연 시간은 5.1마이크로초에 불과합니다.

이 빠른 추론 능력은 고빈도 거래 및 실시간 금융 의사 결정에 매우 중요하며, 마이크로초 단위의 지연도 수익성에 영향을 미칠 수 있습니다.

VOLLO의 성공은 이러한 모델을 대표하는 STAC-ML™ Markets (Inference) 벤치마크1에서 입증되었습니다. 다른 경쟁사들은 VOLLO보다 최대 20배 더 긴 지연 시간을 보였습니다.

 

활용 사례 - 초저지연 AI 기반 금융 시장 데이터 처리

 

저지연 거래, 리스크 분석 및 사기 탐지에 종사하는 금융 회사들은 실시간의 저지연 데이터 처리를 요구합니다. 기존의 CPU 기반 아키텍처는 끊임없이 증가하는 시장 데이터의 양과 속도를 따라가지 못하여 잠재적인 기회 손실과 운영 리스크 증가로 이어질 수 있습니다.

- 지연 시간 감소 – 금융 거래를 서브 마이크로초 단위로 처리합니다.
- 처리량 증가 – 최소한의 CPU 오버헤드로 초당 수백만 건의 메시지를 처리합니다.
- 네트워크 엣지에서의 AI – SmartNIC/IPU에서 직접 AI 추론을 실행하여 데이터 이동 오버헤드를 줄입니다.
- 운영 비용 절감 – 비용이 많이 드는 클라우드 컴퓨팅에서 최적화된 FPGA 기반 하드웨어로 AI 작업을 오프로드합니다.

 

간편한 프로그래밍 - 모델은 PyTorch 또는 TensorFlow에서 개발된 후 ONNX 형식으로 VOLLO 툴 스위트로 내보낼 수 있어 기존 ML 개발 환경에서 쉽게 프로그래밍할 수 있습니다.

미래 대비 유연성 - FPGA 기술의 유연성은 VOLLO가 현재 여러 사용자 모델로 소프트웨어 구성이 가능할 뿐만 아니라 최적의 컴퓨팅 리소스3으로 중요한 아키텍처 혁신을 신속하게 채택할 수 있도록 보장합니다.

 

향상된 데이터 캡처 및 분석 - Napatech의 SmartNIC는 마이크로버스트 중에도 패킷 손실 없이 최대 100Gbps의 속도로 모든 네트워크 트래픽을 캡처하도록 설계되었습니다. 이는 거래 알고리즘 최적화 및 규제 준수에 필수적인 포괄적인 데이터 수집을 보장합니다.

 

정밀한 지연 시간 측정 - Napatech SmartNIC의 나노초 수준의 타임스탬핑 기능은 금융 기관이 지연 시간을 정확하게 모니터링하고 시각화할 수 있도록 합니다. 이 정밀도는 거래 인프라 내에서 최적의 성능과 투명성을 보장하는 데 도움이 됩니다.

원활한 통합 및 유연성 - Napatech의 Link-Programmable™ 소프트웨어를 통해 SmartNIC 플랫폼에 사용자 정의 FPGA IP를 배포할 수 있어 특정 금융 애플리케이션에 맞게 솔루션을 맞춤화할 수 있는 유연성을 제공합니다.

 

Myrtle.ai의 VOLLO 가속기를 Napatech의 첨단 SmartNIC 및 IPU와 결합함으로써 금융 기관은 거래 운영 및 데이터 분석 프로세스에서 비교할 수 없는 성능, 효율성 및 적응성을 달성할 수 있습니다.

 

 

📌  더 자세한 정보를 원하시면 저희 [npacket](http://www.npacket.co.kr/)에 문의 주시기 바랍니다.