설명 가능한 AI③ XAI와 AI 규제 준수와의 상관성?

설명 가능한 AI③ XAI와 AI 규제 준수와의 상관성?

설명 가능한 AI③ XAI와 AI 규제 준수와의 상관성? ‘딥러닝의 아버지’라고 불리는 제프리 힌턴은 2018년 12월 12일 미국 잡지 ‘와이어드’ 인터뷰에서 “AI에 설명 가능성을 요구할 이유가 없으며, 작동 결과를 사후에 평가해서 얼마나 믿을 만한 것인지 따지면 족하다”라는 취지의 발언을 했습니다. XAI의 필요성을 부정한 이야기였죠. 하지만 8일 뒤 ‘포보스’는 반박 기사를 냈습니다. AI 개발자, 국방 연구 책임자, 글로벌 컨설팅 회사...
설명 가능한 AI② XAI(eXplainable AI) 주요 방법론

설명 가능한 AI② XAI(eXplainable AI) 주요 방법론

설명 가능한 AI② XAI(eXplainable AI) 주요 방법론 ‘설명 가능한 AI(XAI·eXplainable AI)’를 구현하기 위한 다양한 방법론이 연구되고 있습니다.  1. 특성 중요도(Feature Importance) Feature importance는 주로 트리 기반 모델(예: 랜덤 포레스트, 그래디언트 부스팅)에서 사용됩니다. 즉, 중요도를 구분하는 것이 트리의 분할과 밀접한 관련이 있다는 말이죠. 의사결정 트리는 루트 노드(root...
설명 가능한 AI① XAI(eXplainable AI)란? – 개념, 역사, 중요성

설명 가능한 AI① XAI(eXplainable AI)란? – 개념, 역사, 중요성

설명 가능한 AI① XAI(eXplainable AI)란? – 개념, 역사, 중요성 XAI(자이, Explainable AI)란 무엇인가? XAI(Explainable AI, 설명 가능한 AI)는 AI 시스템의 의사결정 과정을 인간이 이해할 수 있도록 만드는 기술입니다. XAI는 AI 모델이 어떻게 결론을 도출했는지를 설명함으로써 AI의 투명성을 높이고, 사용자가 AI의 판단을 신뢰할 수 있도록 돕습니다. AI 개발 역사와 XAI 등장 배경 (1) 규칙 기반 전문가 시스템...