지난 MLOps 가이드 - 정의, 구성요소, 레벨별 프로세스, Use case 콘텐츠에 이어서 이번에는 주요 MLOps를 소개하고 장단점을 비교하는 시간을 가져보도록 하겠습니다
MLOps 필요성
MLOps 채택의 이점
MLOps는 머신러닝과 DevOps, 데이터 엔지니어링의 조합을 의미합니다. 인력과 프로세스, 기술을 통합하여 프로덕션 환경에서 머신러닝 시스템 배포 및 관리에 큰 도움을 주고 있죠. 새로운 분야이기도 했지만, 최근 많은 조직에서 MLOps에 대한 관심이 높아지고 있습니다.
MLOps를 도입한 조직이 얻을 수 있는 장점은 다음과 같습니다.
- 속도와 효율성 향상: MLOps는 조직 전체에서 사용할 수 있는 표준화된 프로세스 및 도구 세트를 제공합니다. 이를 통해 머신러닝 개발 및 배포 프로세스의 속도와 효율성을 높일 수 있습니다.
- 품질 및 안정성 향상: MLOps는 모델을 지속적으로 모니터링하고 테스트할 수 있는 프레임워크와 새 모델을 프로덕션에 배포하는 과정을 자동화할 수 있습니다. 따라서 머신러닝 모델의 품질과 안정성 개선에 큰 도움을 줄 수 있습니다.
- 비용 절감: 조직이 머신러닝 개발 및 배포와 관련된 비용을 절감하는 효과를 얻을 수 있습니다. 개발 프로세스를 간소화하고, 수동 개입의 필요성을 줄이는 것만으로도 머신러닝 배포를 더 쉽게 확장할 수 있기 때문입니다.
- MLOps는 머신러닝 라이프사이클에 관련된 모든 사람에게 공통 프레임워크를 제공합니다. 이는 데이터 과학자, 엔지니어, 운영 팀 등 조직 내 여러 팀 간의 협업을 개선하는 데에 도움이 될 수 있습니다.
- 머신러닝 수명 주기에 대한 가시성을 개선하여, 문제를 조기에 식별하고 해결할 수 있습니다. 이 장점은 모델 성능 향상과 리스크 감소로 이어집니다.
- 지속적인 모니터링 및 감사를 위한 프레임워크를 통해, 머신러닝 시스템의 보안을 강화할 수 있습니다. MLOps는 민감한 데이터를 보호하고 머신러닝 시스템에 대한 무단 액세스를 방지하는 데에 도움이 됩니다.
MLOps 도입이 시급한 이유
1인당 생산 데이터의 양이 기하급수적으로 증가하고 있습니다. 생성되는 데이터의 양이 늘어남에 따라, 기존 머신러닝 접근 방식을 부담스러워하는 반응도 많아졌습니다. MLOps는 이런 상황에 대응할 수 있는 가장 좋은 솔루션입니다.
또한, 실시간 의사결정에 대한 요구가 증가하고 있습니다. 오늘날 조직은 실시간으로 의사 결정을 내릴 수 있어야 합니다. 이 결정을 보조하는 머신러닝을 구축하기 위해, 머신러닝 팀은 빠르고 쉽게 배포할 수 있는 모델을 제공해야만 하죠. MLOps를 도입한 조직들은 지속적인 통합 및 배포(CI/CD)를 위한 프레임워크를 제공함으로써, 실시간 인사이트에 대해 보다 빠르게 대응할 수 있게 되었습니다.
지금 MLOps를 도입했을 때, 가장 큰 효과를 볼 수 있는 조직은 어디일까요?
- MLOps는 데이터 중심 조직이 머신러닝 모델을 더 쉽게 구축하고 배포, 관리할 수 있도록 지원하여 데이터에서 더 많은 가치를 얻을 수 있도록 지원합니다.
- MLOps는 머신러닝 모델 관리를 위한 확장 가능하고 안정적인 프레임워크를 제공합니다. 따라서 머신러닝 배포를 확장하려는 조직에 큰 도움을 줄 수 있습니다.
- MLOps는 표준화된 프로세스 및 도구 세트를 제공합니다. 만약 조직이 실시간 의사결정을 기반으로 한 비즈니스를 하거나, 더 빠르고 효율적인 머신러닝 모델을 제공해야 할 경우 MLOps를 도입할 필요가 있습니다.
이미 많은 경쟁사가 MLOps를 채택하고 있으며, 이를 기반으로 경쟁 우위를 확보하고 있습니다. 아직 MLOps를 사용하고 있지 않다면 지금 바로 도입 계획을 세워보시길 바랍니다. MLOps는 데이터에서 더 많은 가치를 얻고, 머신러닝 모델을 빠르고 효율적으로 사용할 수 있게 해주며, 모델 배포를 확장할 수 있는 좋은 찬스가 될 것입니다.
MLOps 플랫폼 비교
Amazon SageMaker
Amazon SageMaker는 AWS(Amazon Web Service) 퍼블릭 클라우드의 관리형 서비스입니다. 예측 분석 애플리케이션을 위한 머신러닝 모델을 구축하거나 교육, 배포를 지원하는 도구를 제공합니다. 이런 통합 도구는 노동 집약적인 수동 프로세스를 자동화하면서, 인적 오류와 하드웨어 비용을 축소할 수 있다는 장점이 있습니다.
AWS SageMaker는 머신러닝 모델링을 준비, 교육 및 배포의 세 단계로 단순화합니다.
- AI 모델 준비 및 구축: Amazon SageMaker에는 데이터 세트를 교육하기 위해 많은 머신러닝 알고리즘이 함께 포함되어 있습니다. 여기에는 감독되지 않은 머신러닝 알고리즘도 포함되어 있죠. 이를 통해 모델의 정확도, 스케일, 속도를 향상시킬 수 있습니다.
- 훈련 및 조정: 모델 교육을 수행하는 개발자는 Amazon S3 버킷의 데이터 위치와 선호하는 인스턴스 유형을 지정한 뒤 교육 프로세스를 시작합니다. SageMaker는 알고리즘 최적화를 위해 매개변수 및 하이퍼 매개변수를 찾는 자동 모델 튜닝을 제공합니다.
- 배포 및 분석: 모델을 배포할 준비가 되면, 자동으로 클라우드 인프라를 운영하고 확장합니다. SageMaker에서 배포와 모니터링, 보안 패치, AWS 자동 확장, 앱에 연결하기 위한 HTTPS 엔드 포인트 등을 수행할 수 있습니다. 개발자는 Amazon CloudWatch 메트릭에서 프로덕션 성능 변화 추적 및 알람 트리거를 실행할 수 있습니다.
AWS SageMaker는 다양한 산업 사용 분야에서 활용되고 있습니다. SageMaker Studio의 자동화 도구는 사용자가 머신러닝 모델을 자동으로 디버그 및 관리, 추적할 수 있도록 지원합니다. 150개 이상의 사전 구축 솔루션을 통해 신속한 모델 구현과 머신러닝 워크플로우 개선을 이룰 수 있습니다.
Vertex AI
2021년 5월 구글의 개발자 컨퍼런스 IO 에서 ‘버텍스 AI(Vertex AI)’ 가 공개 됐습니다. 버텍스 AI는 Google Cloud 의 관리형 클라우드 서비스로 AutoML 과 AI Platform 을 통합한 서비스로서의 머신러닝(MLaaS, Machine Learning As A Service) 형태의 플랫폼입니다.
이와 같은 플랫폼을 제공하는 클라우드 서비스 제공업체는 Google Cloud 외에 AWS사의 세이지메이커(SageMaker)나 MS 애저의 애저 ML 스튜디오가 현재 경쟁을 펼치고 있으며 이러한 경쟁 속에서 버텍스 AI는 인공지능 모델 개발과 유지를 위한 코드의 양을 80% 까지 감소시킬 수 있다는 점을 내세워 AI 엔지니어들의 관심을 모으고 있습니다.
Vertex AI에는 TensorFlow Extended, Kubeflow와 같은 기존 MLOps 라이브러리가 포함되어 있습니다.
이에 더해 버텍스 AI 는 아래와 같은 서비스들을 포함하고 있습니다.
- 데이터 준비 프로세스를 위해 빅 쿼리 및 클라우드 저장소에서 데이터를 수집하고 버텍스 데이터 레이블을 활용하여 고품질 훈련 데이터에 주석을 달고 예측 정확도를 향상시킬 수 있습니다.
- 버텍스 메타데이터는 파이썬 SDK를 통해 모델 학습 프로세스에서 생성된 출력을 설명하는 아티팩트, 데이터 출처 및 발생 상황 및 시간 경과에 따른 위치를 포함하는 데이터 계통 및 실행 추적 기능을 제공합니다.
- 버텍스 피처(Feature)는 ML에서 사용하는 피처를 추가 및 선택할 수 있으며, 공유 및 재사용하기 위해 피처 저장소를 제공합니다.
- 버텍스 훈련을 통해 사전 빌드된 알고리즘 세트를 제공하고 사용자들이 커스텀 코드를 학습 모델에 가져올 수 있도록 합니다. 사용자 정의가 더 필요한 On-premise 환경 또는 다른 클라우드 환경과 같은 하이브리드 인공지능을 활용한 모델 학습을 수행할 수 있습니다.
- 버텍스 신경망 아키텍처 검색은 서비스 별 요구 사항에 적절한 새로운 모델 신경망 아키텍처를 구축하고 대기 시간, 메모리 및 전력에 맞게 기존 신경망 아키텍처를 최적화하여 새로운 구조를 검색합니다.
- 버텍스 설명 가능 인공지능은 데이터의 각 특성이 예측 결과에 얼마나 기여했는지 알려줍니다. 이 정보를 사용하여 모델이 예상대로 작동하는지 확인하고 모델의 편향을 인식하며 모델 및 학습 데이터를 개선할 아이디어를 얻을 수 있습니다.
Google Kubeflow
프로덕션급 솔루션을 구축할 때 기업은 여러 복잡한 문제에 직면하게 됩니다. 예를 들어, 교육 및 평가를 위한 파이프라인 설정에 많은 시간을 소요할 수도 있습니다. 머신러닝 모델의 실험 및 버전 관리를 추적하는 과정에서 리소스가 많이 필요합니다. 또한, 머신러닝 구성 요소의 출력을 추적 및 재생산하는 과정에서 어려움을 겪을 수도 있습니다.
Google Cloud의 Kubeflow는 머신러닝 시스템 구축을 위한 오픈소스 도구 키트입니다. Kubeflow는 머신러닝 워크플로 구축에 특화되어, 비용과 시간을 줄일 수 있습니다. 이 플랫폼은 머신러닝 파이프라인을 구축하고 실험하려는 데이터 과학자를 위한 것입니다. 더불어, 프로덕션 수준의 서비스를 위해 다양한 환경에서 머신러닝 시스템을 개발 및 테스트해야 하는 엔지니어와 운영팀에게도 효율적입니다.
아래는 Kubeflow 플랫폼 사용 시 얻을 수 있는 장점입니다.
- 대규모 머신러닝 시스템 배포 및 관리: Kubeflow의 핵심 사용자 여정(CUJ)는 엔드 투 엔드 워크플로를 위한 소프트웨어 솔루션입니다. 즉, 모델을 쉽게 구축하고 교육, 배포, 개발하고 파이프라인을 생성 및 실행, 탐색할 수 있다는 장점이 있습니다.
- 머신러닝 모델 교육 및 실험: Kubeflow는 모델 트레이닝을 위한 안정적인 소프트웨어 하위 시스템을 제공합니다.
- 엔드 투 엔드 하이브리드 및 다중 클라우드 머신러닝 워크로드: Kubeflow는 다중 클라우드 이식성 뿐만 아니라 하이브리드에서 머신러닝 모델을 개발해야하는 요구 사항을 충족합니다.
- 훈련 중 모델 하이퍼파라미터 튜닝: 하이퍼파라미터 튜닝은 모델 성능과 정확도에 매우 큰 영향을 미칩니다. Kubeflow는 자동화된 하이퍼파라미터 튜너(Katib)를 통해 이를 쉽게 수행할 수 있습니다. 이로 인해 계산 시간을 단축할 뿐만 아니라, 모델 개선에 드는 시간과 리소스를 절약할 수 있죠.
- 머신러닝을 위한 지속적 통합 및 배포(CI/CD): Kubeflow Pipelines를 사용하면 재현 가능한 워크플로를 생성할 수 있습니다.
그러나 Kuberflow는 네임스페이스 공간인 Kubernetes 환경을 관리하고 유지해야 하는 미션이 있습니다. 이 과정이 일부 조직에게는 다소 어렵고 복잡하게 느껴질 수 있습니다. 또한 Kubeflow를 기존 인프라에 통합하는 과정에서, 조직에서 사용하던 도구가 Kubeflow가 호환되지 않는 경우도 종종 있습니다.
모든 MLOps는 구체적인 솔루션을 적용하기에 앞서 조직의 요구사항과 기능을 신중하게 평가할 필요가 있습니다.
TensorFlow Extension
TensorFlow Extension(TFX)는 TensorFlow를 기반으로 하는, Google 프로덕션 규모의 머신러닝 플랫폼입니다. TensorFlow Extension 파이프라인은 확장 가능하고 재현 가능한 머신러닝 워크플로우 구축을 위한 도구로 불립니다. 데이터 변환 및 처리, 특징 추출, 모델 훈련, 성능 평가 등을 수행하는 구성요소가 포함되어 있습니다. TFX 파이프라인의 기본 구성 요소 중 하나는 데이터 전처리나 탐색, 모니터링에서 중요한 역할을 하는 TensorFlow 데이터 유효성 검사(TFDV)입니다.
TensorFlow Extension 기능:
- TensorFlow Extension을 사용하면 Apache Airflow, Apache Beam 및 Kubeflow Pipelines와 같은 여러 플랫폼에서 머신러닝 워크플로우를 조정할 수 있습니다.
- TensorFlow Extension는 머신러닝 교육 스크립트의 일부로 사용할 수 있는 표준 구성 요소 집합입니다. 손쉬운 프로세스 구축을 가능하게 하는 기능이 포함되어 있습니다. 또한 고급 작업이나 모델링, 교육 및 머신러닝 실험 관리 수행에 도움이 되는 머신러닝 파이프라인 구현을 위한 구성요소가 포함되어 있습니다.
TFDV는 데이터 집합을 탐색, 시각화 및 정리하는 데 필수적인 기능을 제공합니다. 데이터를 검사하여 데이터 유형, 범주 및 범위를 자동으로 추론하여 이상값과 누락된 값을 식별하는 데 도움을 줍니다. 또한, 데이터 집합을 이해하는 데 도움이 되는 시각화 도구를 제공하여 패턴, 이상값 및 잠재적인 문제를 더 쉽게 발견할 수 있습니다. 학습된 스키마 및 통계와 비교하여 수신 데이터를 지속적으로 평가함으로써 TFDV는 잠재적인 데이터 문제를 알리거나 새로운 데이터에 대한 모델 재교육이 필요함을 나타낼 수 있습니다.
MLflow
MLflow는 End-to-End ML Lifecycle을 관리하기 위한 오픈소스 플랫폼 입니다. MLflow는 라이브러리나 언어에 구애받지 않고, 클라우드를 비롯한 어떤 환경에서든 동일하게 작동합니다. 오픈소스인만큼 확장성이 매우 훌륭한데, 사용 조직의 규모가 1명이든 1,000명 이상이든 유용하게 사용할 수 있도록 고안되었습니다. MLflow 플랫폼은 크게 MLflow Tracking, MLflow Projects, MLflow Models, MLflow Model Registry의 컴포넌트로 구성되어 있습니다.
mlfow에서 눈 여겨 볼 특징은 다음과 같습니다.
- MLflow Tracking: 실험 기록을 추적하며, 파라미터와 그 결과를 비교합니다.
- MLflow Projects: ML code를 재사용, 재구현 가능한 형태로 패키징하여 다른 데이터 과학자들과 공유하거나 프로덕션으로 변환합니다.
- MLflow Models: 다양한 ML 라이브러리로 만들어진 모델을 관리하고 다양한 모델 서빙과 추론 플랫폼으로 배포합니다.
- MLflow Registry: 중앙 모델 스토어를 제공함으로써, 한 MLflow 모델의 전체 라이프 사이클을 협동적으로 관리합니다. 이러한 관리 작업에는 모델 버전 관리(versioning), 모델 스테이지 관리(stage transitions), 주석 처리등을 포함합니다.
MLflow 는 모델을 학습하고 재현하는 과정 이후, 모델이 정해진 양식에 따른 입력을 받았을 때 추론 결과를 배포할 수 있도록 다양한 환경 (Docker, Spark, Kubenetes…) 다양한 툴(Tensorflow, Scikiy-Learn..)로 모델 배포를 할 수 있는 스탠다드 역할을 수행해 줍니다.
- ML 모델을 위한 패키징 포맷 제공: ML 모델 파일이 있는 어떤 디렉터리든 사용 가능합니다.
- 재생산성을 위해 dependency 정의: ML 모델의 config에 콘다 환경등의 dependency에 대한 정보를 제공할 수 있습니다.
- 모델 생성 유틸리티: 어떤 프레임워크에서 나온 모델이든 MLflow 포맷으로 저장해 줍니다.
- 배포(Deployment) API: CLI/python/R/Java 등의 배포 API를 제공합니다.
WandB - Weights and Biases
WandB, Weights and Biases는 “Developer가 더 나은 모델을 더 빠르게 만들 수 있도록 하는 ML Platform” 입니다. 학습 모니터링 뿐만 아니라 Hyper-Parameter Tuning 과 Dataset, Model Versioning을 지원하며 클라우드 기반으로 실험을 관리하는 편의성도 함께 제공합니다.
WandB는 ML Lifecycle을 간소화하고 ML engineer의 편의성을 위해 End-to-End MLOps 플랫폼으로써 크게는 아래 5가지 기능을 제공하고 있습니다.
- Experiments: 머신러닝 모델 실험을 추적하기 위한 Dashboard 제공.
- Artifacts: Dataset version 관리와 Model version 관리.
- Tables: Data를 loging하여 W&B로 시각화하고 query하는 데 사용.
- Sweeps: Hyper-parameter를 자동으로 tuning하여 최적화 함.
- Reports: 실험을 document로 정리하여 collaborators와 공유.
위에 5가지 기능을 통해 여러 사람과 협업하고, 효율적인 프로젝트 관리를 할 수 있습니다. 또한 여러 Framework와 결합이 가능해 확장성이 뛰어나다는 장점을 가지고 있습니다. 이번 글에서는 Experiments에 대해서 소개드리겠습니다. Experiments 기능은 모델을 학습할 때, 모델 학습 log를 추적하여 Dashboard를 통해 시각화를 해줍니다. 이를 통해서 학습이 잘 되고 있는지 빠르게 파악할 수 있습니다.
적합한 MLOps 플랫폼 선택하는 방법
플랫폼 별로 각각의 장단점이 있기 때문에, 적절한 플랫폼을 선택하기에 앞서 상세 내용을 자세히 볼 필요가 있습니다.
Amazon SageMaker
장점
- 컴퓨팅 자원(Instance) 자체 제공
- 다양한 기능 제공
- ~Autopilot - 표(Tabular) 형식 데이터에 대해 자동으로 다양한 모델을 찾고 학습하여 최적의 모델을 도출하는 서비스
- ~Canvas - 제공하는 모델을 활용해 쉽게 모델을 학습하고 시각화하여 공유할 수 있는 서비스
- ~Clarify - 설명 가능한 AI(XAI) 기술을 활용해 데이터 각 속성이 결과에 어떤 영향을 끼쳤는지 쉽게 파악
- ~이 밖의 많은 기능을 노코드, 로우코드 수준에서 제공하여 이용자 편의성 증대
- 잘 작성된 문서
- ~다양한 예제를 포함한 상세히 기술된 문서
- AWS 내 타 서비스와의 쉬운 연동
- ~AWS의 국내 시장 점유율은 약 70% 수준(기사)으로 압도적 1위. 그만큼 많은 서비스가 AWS 생태계에 의존하고 있기 때문에 타 MLOps 서비스 대비 호환성이 가장 높은 SageMaker를 쉽게 접할 수 있으며 또한 선호됨.
- 데이터셋 구축을 포함하는 MLOps full package
- ~SageMaker Ground Truth를 통해 플랫폼 내에서 데이터 구축까지 제공
단점
- EC2, S3, ECR을 포함한 AWS 시스템에 대한 이해 요구
- ~만약 AWS에 익숙하지 않은 사용자라면 EC2, S3, ECR과 같은 AWS 내 다른 서비스나 IAM과 같은 개념에 익숙해져야만 함
- 비교적 비싼 가격
- ~자체적으로 instance를 제공하지만 이용 금액이 부담스러울 수 있음. 예를 들어 NVIDIA V100을 8대 제공하는 p3.16xlarge instance의 경우, 시간당 약 28 USD를 청구함 (금액표, 참고: 직접 서버를 구매해 사용할 경우 손익분기점이 약 3~4개월)
Vertex AI (Kubeflow와 TFX를 포함)
장점
- 컴퓨팅 자원(GCP) 자체 제공
- ~활용 가능한 컴퓨팅 자원의 옵션이 SageMaker보다 다양함
- 다양한 기능 제공
- ~Vertex AI Matching Engine - 대규모 확장성과 짧은 지연 시간을 가진 벡터 검색 서비스
- ~Vertex Explainable AI - SageMaker Clarify와 마찬가지로 XAI 기술을 통해 모델과 데이터 분석을 가능하게 함
- ~Generative AI Studio - PaLM 2, Imagen, Codey 등의 구글에서 발표한 최신 생성 모델을 바로 활용하거나 쉽게 학습 및 배포할 수 있음
- 전부터 구글에서 관리하던 오픈소스인 Kubeflow, TFX 도입을 통해 기존 MLOps 사용자들에게 비교적 친숙함
- SageMaker 보다 평균적으로 저렴한 비용 (자료)
- 잘 작성된 문서
단점
- 모델 배포 시에 통신 패킷 사이즈가 작게 제한되어 있어 고해상도 이미지나 긴 길이의 오디오 파일 등을 다루기가 어려움
- 사용하지 않을 때에도 발생하는 기본 비용이 존재하기 때문에 아주 가벼운 서비스를 이용할 경우에는 타 플랫폼보다 많은 비용이 발생할 수 있음
MLflow
장점
- 플랫폼이 아닌 오픈소스 라이브러리로써 쉬운 학습, 간단한 사용법
- 학습 설정, 실험 결과를 포함한 정보의 깔끔한 시각화
- 무료
단점
- 클라우드를 활용하는 것이 아니기 때문에 환경 조율(Orchestration) 불가
- ~Orchestration이란, 작업에 따라 필요한 자원을 자동으로 조절 및 배정하고 예를 들어 클라우드 컴퓨터의 비정상 종료와 같은 자원의 문제가 생겼을 때 알아서 새로운 자원을 할당 받고 환경을 꾸리는 것을 의미함
- 보안 설정을 다각화 할 수 없음
- ~하나의 프로젝트에서도 구성원에 따라 접근 권한을 다르게 부여해야 할 경우를 다룰 수 없음
- 별도의 컴퓨팅 자원을 필요로 함
WandB
장점
- Python에 약간의 코드를 추가하여 활용하는 높은 사용성
- 학습 설정, 실험 결과를 포함한 정보의 깔끔한 시각화
- 서비스 시작 선택지 제공
- ~서비스를 자체적으로 제공하는 클라우드에서 사용할 수도 있고 (부분유료), 사용자의 컴퓨터에서 서비스를 시작할 수도 있음
단점
- 제한된 사용 환경: Python에서만 사용할 수 있음
- 모델 배포 기능을 제공하지 않음
MLOps 플랫폼 도입 시 고려해야 할 점
초기 데이터 품질 설계
MLOps 도입을 고려하고 계신다면, 설계 초기 단계에서 데이터 품질에 대해 생각해야 합니다. 왜 MLOps 구현에 데이터 품질이 중요할까요?
- 열악한 데이터 품질은 AI 모델이 의사결정을 내리는 능력에 부정적인 영향을 미칩니다. 또한 눈에 띄지 않는 문제는 잘못된 결론을 도출할 수 있으며, 이러한 문제를 수정하는 데에 비용과 리소스를 낭비할 수 있습니다. 궁극적으로는 이해관계자의 신뢰에 악영향을 줄 수 있습니다.
- 소비자가 인지한 데이터 품질 문제를 해결하기 위해 엔지니어링을 시도하는 것은 팀의 시간을 낭비하고, 생산성과 사기를 서서히 떨어뜨릴 수 있는 근본적인 문제가 될 수 있습니다.
즉, 낮은 데이터 품질은 머신러닝 모델 개발과 운영팀 모두에게 악영향을 미칠 수 있기 때문입니다.
데이터헌트의 생각
모델 데이터는 MLOps 완성도에 거대한 영향을 미치기 때문에, 데이터 품질부터 세심하게 준비할 필요가 있습니다. 데이터헌트는 머신러닝 라이프사이클 전반에 인공지능을 활용하여 고품질 MLOps를 구축할 수 있습니다. 데이터 라벨링 과정에서 데이터 품질을 꼼꼼하게 평가하고, 입력된 데이터에 대한 분석부터 시작해 설계 단계까지 철저히 하는 것을 원칙으로 합니다.
평균적으로 AI 프로젝트 전체 시간의 80%가 데이터 준비 과정에 사용됩니다. 또한, 전체 프로젝트 중 85%는 실제 사용 단계까지 이르지 못합니다. 프로젝트의 기반이 되는 데이터셋의 양이나 질이 기준에 못 미치는 경우가 많기 때문입니다. 데이터헌트는 Data identifaication, Data aggregation, Data Cleaning, Data Labeling, Data Augmentation 등 오래 걸리는 데이터 구축 작업에서부터 중요성을 인식하고 최선을 다합니다.
데이터헌트는 어떻게 정확도 99%의 고품질 데이터를 구축할 수 있었을까요?
- 국내 최초 AI Assisted Annotation: 국내 최초로 AI를 접목한 HITL(Human in the loop) 방식의 데이터 가공 서비스 론칭
- AI 오토라벨링으로 타사 대비 2배 빠른 프로젝트 수행: AI 기반 라벨링 자동화를 통해 프로젝트 소요시간을 최대 2배 단축
- 업계 최고 수준 정확도: AI 기술, 다중 검수 프로세스, 차별화된 가공 인력으로 이룬 업계 최고 수준의 99%+ 데이터 정확도
- 최고 수준의 개발 및 운영 인력: 카카오, 쿠팡, IBM, LG 등 IT 기업 핵심 인재로 구성된 개발 인력과 B2G/B2B 프로젝트 경험이 풍부한 운영 인력
데이터헌트는 서비스 2년 차에 1천만 건 이상의 데이터 가공과 구축 사례를 남겼습니다. 또한 2022년 NIA 인공지능 학습용 데이터 구축 사업 4건에 참여했습니다. 4년 연속 데이터바우처 공급기업으로 참여하여 2020년 우수 사례로 선정되는 영광을 받았죠. 다양한 국가 지원 사업 수행 경험을 통해 매년 성장하는 기업이 되었습니다.
요약: MLOps 플랫폼 도입 시, 초기 데이터 설계에 유의한 결정이 필요하다.
- MLOps는 머신러닝 모델을 더 쉽게 구축하고 배포, 관리할 수 있으며 안정적인 프레임워크를 구성해야 하는 경우에 큰 효과를 볼 수 있습니다.
- 세계적으로 경쟁력있는 MLOps 플랫폼 분석 시, 공통적으로 전체 워크플로/프로세스를 중앙 집중화할 수 있으며 결과 재현이 가능하며, 배포 및 모니터링과 테스트가 용이하다는 공통점이 있습니다.
- 완성도 높은 MLOps 구축을 위해서는 초기 데이터의 정확도를 잡아야만 합니다. 낮은 데이터 품질은 이해관계자의 신뢰를 저하시키며 모델 개발과 모니터링 과정에서 비용과 리소스가 낭비됩니다.
Reference
- https://www.cioinsight.com/it-strategy/best-mlops-tools/
- https://aws.amazon.com/ko/sagemaker/studio-lab/
- https://blog.kubeflow.org/katib/
- https://docs.wandb.ai/guides
- https://mlflow.org/docs/latest/index.html
- https://www.tensorflow.org/tfx/guide
- https://tech-verse.me/ko/sessions/49
.svg)
