BROWSE
Detail
Conference Paper
시각적 근거를 제시하는 개념 병목 모델
Cited - time in 
Share 
Share
- Issue Date
- 2026-05
- Citation
- IEMEK Symposium on Embedded Technology (ISET) 2026, pp.332-334
- Publisher
- 대한임베디드공학회
- Language
- Korean
- Type
- Conference Paper
- Abstract
- 딥러닝 모델은 높은 성능에도 불구하고 내부 의사결정 과정이 불투명하다는 한계를 가진다. 이를 해결하기 위한 개념 병목 모델(Concept Bottleneck Model, CBM)은 개념을 통해 예측을 설명할 수 있지만, 개념의 공간적 위치를 명확히 제공하지 못하거나 외부 모델에 의존한다는 문제가 있다. 이로 인해 모델이 실제로 어떤 시각적 근거를 기반으로 판단했는지를 충분히 설명하기 어렵다. 본 연구에서는 이러한 한계를 해결하기 위해 개념의 공간적 위치와 예측 기여도를 동시에 설명할 수 있는 SAE 기반 CBM을 제안한다. 사전 학습된 ResNet-50 특징벡터를 슈퍼픽셀 기반 풀링을 통해 실제 객체 영역과 정렬한 후, 희소오토인코더로 분해하여 희소한 개념 표현을 학습한다. 또한 non-negative classifier를 통해 각 개념의 기여도를 해석가능하게 하며 개념 개입을 통해 개념이 예측에 미치는 영향을 분석한다. 이를 통해 개념이 단순한 표현을 넘어 실제 의사결정 과정에 어떻게 활용되는지를 확인할 수 있다. 실험 결과, 제안 모델은 기존 linear probe 대비 유사한 성능을 유지하면서도 소수의 개념으로 예측을 효과적으로 설명할 수 있음을 보였다. 또한 주요 개념을 제거할 경우 예측 신뢰도가 크게 감소하는 것을 확인하여 개념이 실제 의사결정 과정에 핵심적으로 기여함을 확인하였다. 이는 제안 방법이 공간적으로 정렬되고 해석 가능한 개념 표현을 학습함을 의미한다.
- Keyword
- 개념병목모델, 희소오토인코더, 설명가능 인공지능, 슈퍼픽셀, 개념 시각화
- KSP Keywords
- Bottleneck model, Non-Negative, linear probe