[AI] XAI(explainable AI)란?

ℹ️ XAI ?

eXplainable AI의 줄임말로 설명가능한 AI란 뜻을 가지고 있음

https://www.intechopen.com/chapters/72398

기존 알고리즘은 정확도와 설명력이 trade-off 관계를 가지고 있음. 기존에는 정확도가 높더라도 왜 그런 결과가 나오게 되었는지 설명할 수 없었음. (이 것을 black-box 모델이라고 함)

이러한 단점을 개선하기 위해 나온 것이 XAI 

 

→ 결국 XAI 란 사람이 AI의 동작과 결과를 이해하고 올바르게 해석할 수 있고, 결과물이 생성되는 과정을 설명 가능하도록하는 기술을 의미

---

❓XAI 모델의 필요성

 

      1. 설명이 가능하다면 어디를 개선해야하는지 개선 point를 찾을 수 있음

      2. 왜 그런 결과가 나왔는지 이야기할 수 있음

 

     < 기대 효과 >

     1. 사람이 결과를 이해할 수 있는 투명성을 개선

     2. 신뢰성을  제고

 

 

---

여기서 해석력을 3가지의 관점에서 설명할 수 있음.

1. Complexity(복잡성)

2. Scope(범위)

3. Dependency(의존성)

 

설명 기법이 특정 종류의 모델에만 적용할 수 있도록 특화되었는지, 혹은 모델에 관계 없이 범용적으로 적용할 수 있는지에 따라 분류

 

<1. 해석력을 Complexity(복잡성)의 관점에서 봤을 때 >

 

1. Intrinsic : 구조가 간단한 이미 구성되어진 모델을 이야기 함 ex ) decision tree

    - 이런 모델들은 투명성(Transparency)을 갖추고 있다고 하기도 하는데, 대신 정확도는 떨어짐.

 

2. Post-hoc : 모델을 구성한 뒤 사후에 해석력을 부여하는 방법 

   - 성능이 좋은 복잡한 모델을 사용하고 해석은 Post-hoc으로 하는 방법이 보편적

 

---

<2. 해석력을 Scope의 관점에서 봤을 때 >

 

1. Local : 데이터 1개에 대해 이 데이터가 왜 해당 결과가 나왔는지 설명

 

2. Global : 모델 전체를 한 단위로 인식한 뒤 (데이터 전체를 사용하여) 모델이 예측하는 모든 결과에 대한 설명이 가능

---

<3. 해석력을 Dependency의 관점에서 봤을 때 >

 

1. Model-specific : 특정 종류의 모델에만 적용할 수 있도록 특화되었는지

 

2. Model-agnostic : 모델에 관계 없이 범용적으로 적용할 수 있는지

 

 

---

Reference

 

[1] https://realblack0.github.io/2020/04/27/explainable-ai.html

[2] https://www.youtube.com/watch?v=Grc7egfZP84&t=1332s

 

 

 

어렵따...