에 의해서 webmaster | 8월 16, 2024 | 인사이트 리포트
산업 현장에 온디바이스 AI를 도입해야 하는 이유 Chloe Woo | Content Strategist 이전 아티클에서 온디바이스 AI의 개념과 장점에 대해 알아보세요. 최근 LLM 서비스들의 속도가 무척 느려졌는데, 실감하고 계신가요? 생성형 AI 열풍으로 더 다양한 기능, 더 높은 성능을 구현하기 위해 모델의 크기가 급증한 탓인데요. 실제로 2012년 AlexNet 이후 AI 모델의 크기는 매년 10배씩 성장했습니다. 그런데 그에 따라 속도가 느려졌다는 건,...
에 의해서 webmaster | 8월 13, 2024 | 인사이트 리포트
온디바이스 AI의 도전 과제 – 딥러닝 모델 ‘경량화’ Chloe Woo | Content Strategist 이전 아티클에서 온디바이스 AI의 개념과 장점에 대해 알아보세요. 클라우드 기반의 대형언어모델(LLM)은 비교적 작은 모델도 파라미터가 최소 50억 개가 넘고, 용량도 수십 GB 수준입니다. 계속 커지는 추세이고요. 하지만 클라우드가 아닌 엣지 기기에서 AI가 제대로, 빠르게 작동하려면 AI 모델이 반드시 작아야 합니다....
