온디바이스 AI의 도전 과제 – 딥러닝 모델 ‘경량화’

온디바이스 AI의 도전 과제 – 딥러닝 모델 ‘경량화’

온디바이스 AI의 도전 과제 – 딥러닝 모델 ‘경량화’  Chloe Woo | Content Strategist 이전 아티클에서 온디바이스 AI의 개념과 장점에 대해 알아보세요.      클라우드 기반의 대형언어모델(LLM)은 비교적 작은 모델도 파라미터가 최소 50억 개가 넘고, 용량도 수십 GB 수준입니다. 계속 커지는 추세이고요. 하지만 클라우드가 아닌 엣지 기기에서 AI가 제대로, 빠르게 작동하려면 AI 모델이 반드시 작아야 합니다....
2024 급부상 트렌드 – 온디바이스 AI란?

2024 급부상 트렌드 – 온디바이스 AI란?

2024 급부상 트렌드 – 온디바이스 AI란?  Chloe Woo | Content Strategist Contents Toggle 1. 온디바이스 AI란?(1) 개념(2) 기존 클라우드 기반 AI의 문제2. 온디바이스 AI의 장점(1) 데이터 보안 향상(2) 지연 시간 감소(3) 비용 및 에너지 절감3. 온디바이스 AI를 도입하고자 할 때 고려해야 할 제한 사항들(1) 하드웨어 제한(2) 모델 크기와 성능의 균형(3) 배포와 업데이트의 어려움마치며<더...
외부 데이터와 연결되는 검색증강생성(RAG) – 보안 문제는?

외부 데이터와 연결되는 검색증강생성(RAG) – 보안 문제는?

외부 데이터와 연결되는 검색증강생성(RAG) – 보안 문제는?  Chloe Woo | Content Strategist 빠르게 발전하는 AI 기술과 더불어 RAG는 다양한 AI 시스템의 핵심 요소로 자리 잡을 것입니다. 하지만 반드시 해결해야 할 큰 문제가 있는데요, 바로 보안입니다. 검색증강생성(RAG; Retrieval-Augmented Generation)이란? -개념, 장점  RAG가 다루는 최신 데이터는 기업 내부의 민감한 정보를 포함할 수 있습니다....
검색증강생성(RAG)으로 다양한 제조 문제를 신속하게 해결하세요 – 도메인별 활용 사례

검색증강생성(RAG)으로 다양한 제조 문제를 신속하게 해결하세요 – 도메인별 활용 사례

검색증강생성(RAG)으로 다양한 제조 문제를 신속하게 해결하세요 – 도메인별 활용 사례  Chloe Woo | Content Strategist 검색증강생성(RAG; Retrieval-Augmented Generation) 기술은 검색과 생성의 장점을 결합하여 사용자가 필요로 하는 정보를 보다 정확하고 신속하게 제공합니다. 특히 실시간으로 업데이트 되는 방대한 데이터 속에서 유의미한 정보를 추출할 때 매우 유용하죠. 이러한 장점을 기반으로 다양한 도메인에 접목되고...
검색증강생성(RAG; Retrieval-Augmented Generation)이란? -개념, 장점 

검색증강생성(RAG; Retrieval-Augmented Generation)이란? -개념, 장점 

검색증강생성(RAG; Retrieval-Augmented Generation)이란? -개념, 장점   Chloe Woo | Content Strategist 주말에 짧은 여행을 계획하려고 합니다. “서울 근교 당일치기 여행지”를 검색했더니 수십 개의 블로그 포스팅과 관광 웹사이트가 나옵니다. 하지만 광고성 글이 많아서 실제 방문자들의 후기와 팁을 찾기가 어렵습니다. 원하는 정보에 도달하기까지 여러 링크를 클릭하고 시간을 소비해야 하죠. 이처럼 기존의...
멀티모달 대형비전언어모델(LVLM)을 활용한 산업용 이상감지 사례 

멀티모달 대형비전언어모델(LVLM)을 활용한 산업용 이상감지 사례 

멀티모달 대형비전언어모델(LVLM)을 활용한 산업용 이상감지 사례  ✓ 대형언어모델(LLM) 아티클 먼저 읽어보기 멀티모달 트렌드 혹시 코를 막고 양파를 먹는 실험에 대해 아시나요? 실험에 참가한 많은 사람들이 본인이 먹고 있는 것이 양파인지 알아채지 못했을 뿐만 아니라, 심지어 사과를 먹고 있는 것 같다고 답한 사람도 있었습니다. 혀로 느껴지는 화학적인 맛(미각)과 식감(촉각), 그리고 냄새(후각) 정보가 모두 있어야 종합적인 음식의 맛을 느낄 수 있다는 것이 실험의...