전체 글39 KAERI 인턴연구원을 마치며 나는 한국원자력연구원 인공지능응용전략실에서 체험형 인턴연구원으로 11개월(2021.9.1~2022.7.31)동안 일을 했다. 오늘은 인턴을 마무리하면서 내가 11개월동안 얻은 것들에 대하여 적어보고자 한다. 인턴 면접을 준비하면서 1기 인턴님의 인턴 후기를 블로그에서 본 적이 있었는데, 그 블로그 글을 보면서 너무너무 합격하고 싶었다. 나도 합격해서 이분처럼 많이 배우고 싶다란 생각을 했었는데 이렇게 11개월이 지나서 인턴 후기를 작성하고 있다.. 시간이 정말 빠르게 지나갔다. 그럼 시작해보겠다! 1️⃣ 사람 나는 예전부터 인복이 많다는 생각을 해왔었는데, 이번 11개월동안에도 좋은 사람들을 많이 만나서 나는 인복이 많다는 것이 검증(?)되었고 앞으로도 난 인복이 많은 사람이라고 믿고 살거다ㅎㅎ 먼저 실.. 2022. 8. 2. [XAI] CAM, GradCAM (작성중) 석사 때 GradCAM을 이용하여 음향 장면 분류 모델에 대하여 각 class별 특징을 확인하고 논문으로 쓴 적이 있다. 이때도 작성해놓은 적이 있는데, 이번에 공부하면서 좀더 보충해서 작성하였다. 전에 작성했던 글! 2020.11.13 - [Deep Learning/papers] - [논문 리뷰] Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization [논문 리뷰] Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization [논문 리뷰] Grad-CAM: Visual Explanations from Deep Networks via.. 2022. 3. 28. [XAI] LRP LRP는 사실 완전하게 이해하지는 못했다. 그냥 어떤식으로 사용되는것인지 대략적인 내용만 이해했다. LRP Layer-wise Relevance Propagation - 레이어 단위로 결과에 영향을 주는 관련성을 구하는 역전파 기술 - 모델이 어떤 부분을 보고 해당 결과를 도출해 내었는지 히트맵 형식으로 알려주는 방법 - Relevance Propagation & Decomposition 방법으로 모델을 해부한다. LRP 예시 - LRP 분해과정에서는 f(x)에서부터 딥러닝을 역방향으로 순회하며 각 은닉층의 결과 기여도를 판단한다. - f(x)는 예측값을 의미하며, 아래 예시에서는 이미지를 수탉으로 예측할 가능성이다. - 타당성 전파는 분해 과정을 마친 은닉층이 결과값 출력에 어떤 기여를 하는지 타당성을.. 2022. 3. 28. [XAI] SHAP SHAP에 대한 설명은 여기 유튜브 영상을 주로 참고하였다. SHAP SHapley Additive exPlanations Shapley value를 기반으로 예측값에 대하여 각 피쳐가 미치는 기여도를 측정하여 예측에 대한 해석 제공 Shapley value란 (게임이론) 게임에서 각 플레이어의 기여도에 따라 상금을 공정하게 할당하기 위한 방법 - 한 플레이어의 Marginal contribution을 계산하여 가중 평균한 값 ※ Marginal contribution: 플레이어 전체 집합에 대해 가능한 모든 부분 집합마다 특정 플레이어 존재 여부에 따른 상금의 변화량 ↓Shapley value 구하는 방법 예시↓ 더보기 플레이어: A, B, C 1. 모든 부분 집합 (8개) ø, {A}, {B}, {C.. 2022. 3. 28. 이전 1 2 3 4 ··· 10 다음
