Deep Learning/XAI4 [XAI] CAM, GradCAM (작성중) 석사 때 GradCAM을 이용하여 음향 장면 분류 모델에 대하여 각 class별 특징을 확인하고 논문으로 쓴 적이 있다. 이때도 작성해놓은 적이 있는데, 이번에 공부하면서 좀더 보충해서 작성하였다. 전에 작성했던 글! 2020.11.13 - [Deep Learning/papers] - [논문 리뷰] Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization [논문 리뷰] Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization [논문 리뷰] Grad-CAM: Visual Explanations from Deep Networks via.. 2022. 3. 28. [XAI] LRP LRP는 사실 완전하게 이해하지는 못했다. 그냥 어떤식으로 사용되는것인지 대략적인 내용만 이해했다. LRP Layer-wise Relevance Propagation - 레이어 단위로 결과에 영향을 주는 관련성을 구하는 역전파 기술 - 모델이 어떤 부분을 보고 해당 결과를 도출해 내었는지 히트맵 형식으로 알려주는 방법 - Relevance Propagation & Decomposition 방법으로 모델을 해부한다. LRP 예시 - LRP 분해과정에서는 f(x)에서부터 딥러닝을 역방향으로 순회하며 각 은닉층의 결과 기여도를 판단한다. - f(x)는 예측값을 의미하며, 아래 예시에서는 이미지를 수탉으로 예측할 가능성이다. - 타당성 전파는 분해 과정을 마친 은닉층이 결과값 출력에 어떤 기여를 하는지 타당성을.. 2022. 3. 28. [XAI] SHAP SHAP에 대한 설명은 여기 유튜브 영상을 주로 참고하였다. SHAP SHapley Additive exPlanations Shapley value를 기반으로 예측값에 대하여 각 피쳐가 미치는 기여도를 측정하여 예측에 대한 해석 제공 Shapley value란 (게임이론) 게임에서 각 플레이어의 기여도에 따라 상금을 공정하게 할당하기 위한 방법 - 한 플레이어의 Marginal contribution을 계산하여 가중 평균한 값 ※ Marginal contribution: 플레이어 전체 집합에 대해 가능한 모든 부분 집합마다 특정 플레이어 존재 여부에 따른 상금의 변화량 ↓Shapley value 구하는 방법 예시↓ 더보기 플레이어: A, B, C 1. 모든 부분 집합 (8개) ø, {A}, {B}, {C.. 2022. 3. 28. [XAI] LIME 내가 공부한 내용들을 남겨놓고 싶어서 작성한다. LIME Local Interpretable Model-agnostic Explanations Local: 일부 예측 결과에 대해서만 설명 Model-agnostic: 모델을 설명하기 위해 모델 밖에서 근거를 찾는다. 모델에 상관없이 적용가능하다 (surrogate 모델..) 즉, LIME이란 대체 모델을 사용하여 일부 예측 결과에 대해 설명하는 기법을 말한다. Surrogate model 아래 슬라이드에서 model-agnostic 기법 중 하나인 surrogate 모델에 대해 알아본다. 대리 모델(surrogate model)을 만들어서 original 모델을 설명하는 기법이다. 즉, surrogate 모델이 original 모델의 예측값을 정답으로 삼.. 2022. 3. 22. 이전 1 다음