산업용 온디바이스 AI를 구성해 86% 낮은 투자비로 AI 검사를 도입한 사례

Challenge

• 외부에서 유입된 이물로 인한 결함은 형태를 특정하기 어려워 규칙 기반 알고리즘이 아닌 AI 검사(딥러닝 모델) 필요
• 그러나 기존 설비 PC에 장착된 그래픽 카드로는 딥러닝 모델 구동 불가
• 하드웨어 구조 변경 및 투자비를 최소화한 실시간 AI 검사 솔루션 필요

Approach

• 온디바이스 AI 구성
  • GPU보다 가격이 저렴하고 기존 PC에 설치 가능한 NPU(AI 하드웨어 가속기) 선정
  • 해당 NPU에서 구동할 수 있도록 딥러닝 모델 최적화(양자화 기술을 이용한 경량화)

Full Story

각종 제조 설비에는 외부에서 이물질이 침투하지 않도록 막아주는 장치가 있지만, 100% 모든 것을 차단하기는 어렵습니다. 특히 이렇게 외부에서 침투하는 이물질로 인한 제품 불량은 어디에 어떤 모양으로 생길지 예측하기가 어렵습니다. 그래서 산업 현장에서 많이 쓰이는 규칙 기반(Rule based; 미리 정의한 조건대로 판단)의 검사 시스템으로는 이를 자동으로 탐지하기가 어렵고요. 

이렇게 형태를 특정하기 어려운 비정형 이물질을 자동으로 탐지하려면, 규칙 기반 검사 시스템보다 훨씬 다양한 이상 상황을 감지할 수 있는 AI 검사를 도입해야 합니다. 그 중에서도 학습한 정상 데이터의 패턴에서 벗어난 것을 비정상으로 추론하는 *‘이상 탐지(Anomaly Detection)’ 딥러닝 모델이 가장 적합하죠.

• Anomaly Detection 모델: 정상 데이터만 사용하는 비지도 학습 기반의 모델로, 다른 모델에 비해 초기 도입 시간이 25% 수준으로 짧습니다. 또, 사전에 확인하지 못했던 결함을 찾아낼 수 있어서 미검도 빠른 시간 내 최소화할 수 있다는 장점이 있습니다.

기존 설비 PC에 장착된 그래픽 카드로 AI 구동 불가

딥러닝 모델을 구동하려면 CPU보다 더 빠르고 높은 효율로 계산을 수행하는 GPU(Graphic Processing Unit)가 필수입니다.

그런데 아하랩스가 만난 고객사의 어려움은, 바로 현장에 설치돼 있는 기존 설비 PC들이었습니다. 기 장착된 그래픽 카드로는 성능 한계상 딥러닝 모델 구동이 불가능했습니다. 기존 검토 중인 AI 솔루션을 도입하려면 최신 GPU가 필요하고, 이 또한 PCI x8, x16 슬롯이 필요한 상황인데, 그 슬롯조차 남아있지 않았죠. 200여 대에 가까운 PC를 전부 교체해야 할 상황이었습니다.

요컨대, 하드웨어 구조 변경 및 투자비를 최소화한 실시간 AI 검사 솔루션이 필요했습니다.

온디바이스 AI(NPU + 경량화 알고리즘) 도입

아하랩스 팀은 온디바이스 AI를 구성해 이 어려움을 돌파하고자 했습니다.

먼저 기존 PC에 남아 있던 4배속 슬롯에 장착 가능한 NPU(Neural Processing Unit)를 선정했습니다. NPU는 AI 연산 특화로 설계된 하드웨어 가속기입니다. 주로 엣지 디바이스에서 AI 연산을 위해 사용되죠. GPU보다 범용성은 떨어지지만, 무엇보다 값이 저렴하고 에너지 효율적으로 작동한다는 장점이 있습니다.

그리고 나서, 모델 성능을 최대한 유지할 수 있는 아하랩스의 ‘양자화’ 기술을 활용해 AI 모델을 경량화했습니다. GPU보다 속도가 떨어지는 NPU로 AI 검사를 하려면 딥러닝 모델을 경량화/최적화해야 하기 때문이죠. 제조 현장에서는 무엇보다 먼저 택타임(Tact time; 생산 목표를 달성하기 위해 제품 하나를 만드는 데 필요한 시간)부터 만족해야 하기 때문이죠.

• 양자화: 숫자의 비트(bit) 수를 줄이는 방법입니다. 보통 딥러닝 모델은 가중치 값을 32비트 부동소수점(floating point)으로 표현하는데, 양자화를 통해 8비트 정수로 줄일 수 있습니다. 이렇게 하면 계산 속도가 더 빨라지며, 메모리 사용량과 전력 소비량도 줄어듭니다.

이때 데이터 포맷과 비트 수 등을 세밀하게 조절해야 추론 정확도가 떨어지지 않는데요. 이것이 바로 아하랩스의 기술적 노하우입니다.

기존 PC에 남아 있던 4배속 슬롯에 장착 가능한 NPU 칩을 선정한 뒤, 모델 성능을 최대한 유지할 수 있는 아하랩스의 ‘양자화’ 기술을 활용해 AI 모델을 경량화했습니다. Image Credit: AHHA Labs

86% 낮은 투자비로 AI 검사 도입

그 결과, 요구 택타임인 200ms 보다 2배 빠른 100ms 내에 예기치 못한 이물질을 실시간으로 탐지하는 데 성공했습니다. 요컨대 고객사는 산업용 온디바이스 AI, 즉 GPU보다 저렴한 NPU 장치와 경량화된 AI 모델을 활용하여 전체 PC를 교체하는 예산 대비 86% 저렴한 투자비로 AI 검사를 도입할 수 있었습니다.