산업 현장에 온디바이스 AI를 도입해야 하는 이유

산업 현장에 온디바이스 AI를 도입해야 하는 이유

산업 현장에 온디바이스 AI를 도입해야 하는 이유  Chloe Woo | Content Strategist 이전 아티클에서 온디바이스 AI의 개념과 장점에 대해 알아보세요.     최근 LLM 서비스들의 속도가 무척 느려졌는데, 실감하고 계신가요? 생성형 AI 열풍으로 더 다양한 기능, 더 높은 성능을 구현하기 위해 모델의 크기가 급증한 탓인데요. 실제로 2012년 AlexNet 이후 AI 모델의 크기는 매년 10배씩 성장했습니다. 그런데 그에 따라 속도가 느려졌다는 건,...
온디바이스 AI의 도전 과제 – 딥러닝 모델 ‘경량화’

온디바이스 AI의 도전 과제 – 딥러닝 모델 ‘경량화’

온디바이스 AI의 도전 과제 – 딥러닝 모델 ‘경량화’  Chloe Woo | Content Strategist 이전 아티클에서 온디바이스 AI의 개념과 장점에 대해 알아보세요.     클라우드 기반의 대형언어모델(LLM)은 비교적 작은 모델도 파라미터가 최소 50억 개가 넘고, 용량도 수십 GB 수준입니다. 계속 커지는 추세이고요. 하지만 클라우드가 아닌 엣지 기기에서 AI가 제대로, 빠르게 작동하려면 AI 모델이 반드시 작아야 합니다....
2024 급부상 트렌드 – 온디바이스 AI란?

2024 급부상 트렌드 – 온디바이스 AI란?

2024 급부상 트렌드 – 온디바이스 AI란?  Chloe Woo | Content Strategist 2024년 1월, 삼성전자가 세계 최초로 AI 스마트폰을 내놓으며 화제가 되었습니다. 사실 음성비서를 비롯한 AI 기능을 활용한 지는 꽤 됐지만, 이번에 출시된 AI 폰은 기존에 비해 성능도 훨씬 좋았지만, 특히 “인터넷에 연결되지 않아도 AI를 사용할 수 있다”는 것이 다른 점이었죠. 이를 ‘온디바이스(On-Device) AI’라고...
외부 데이터와 연결되는 검색증강생성(RAG) – 보안 문제는?

외부 데이터와 연결되는 검색증강생성(RAG) – 보안 문제는?

외부 데이터와 연결되는 검색증강생성(RAG) – 보안 문제는?  Chloe Woo | Content Strategist 빠르게 발전하는 AI 기술과 더불어 RAG는 다양한 AI 시스템의 핵심 요소로 자리 잡을 것입니다. 하지만 반드시 해결해야 할 큰 문제가 있는데요, 바로 보안입니다. 검색증강생성(RAG; Retrieval-Augmented Generation)이란? -개념, 장점  RAG가 다루는 최신 데이터는 기업 내부의 민감한 정보를 포함할 수 있습니다....
검색증강생성(RAG)으로 다양한 제조 문제를 신속하게 해결하세요 – 도메인별 활용 사례

검색증강생성(RAG)으로 다양한 제조 문제를 신속하게 해결하세요 – 도메인별 활용 사례

검색증강생성(RAG)으로 다양한 제조 문제를 신속하게 해결하세요 – 도메인별 활용 사례  Chloe Woo | Content Strategist 검색증강생성(RAG; Retrieval-Augmented Generation) 기술은 검색과 생성의 장점을 결합하여 사용자가 필요로 하는 정보를 보다 정확하고 신속하게 제공합니다. 특히 실시간으로 업데이트 되는 방대한 데이터 속에서 유의미한 정보를 추출할 때 매우 유용하죠. 이러한 장점을 기반으로 다양한 도메인에 접목되고...
검색증강생성(RAG; Retrieval-Augmented Generation)이란? -개념, 장점 

검색증강생성(RAG; Retrieval-Augmented Generation)이란? -개념, 장점 

검색증강생성(RAG; Retrieval-Augmented Generation)이란? -개념, 장점   Chloe Woo | Content Strategist 주말에 짧은 여행을 계획하려고 합니다. “서울 근교 당일치기 여행지”를 검색했더니 수십 개의 블로그 포스팅과 관광 웹사이트가 나옵니다. 하지만 광고성 글이 많아서 실제 방문자들의 후기와 팁을 찾기가 어렵습니다. 원하는 정보에 도달하기까지 여러 링크를 클릭하고 시간을 소비해야 하죠. 이처럼 기존의...