복잡한 모형의 예측을 각 요인이 얼마나·어느 방향으로 바꿨는지 게임이론으로 공정하게 나눠 보는 법 — 수식 없이, 그림으로.
읽는 데 5분 · 팀 설명용우리 모형은 다른 산업들의 최근 성장이라는 여러 재료를 받아, 이 산업의 다음 성장을 예측한다. 그런데 —
“그래서 어느 재료가 이 예측을 가장 많이 바꿨지?” 이 질문에 답하는 게 SHAP이다.
네 사람이 함께 100점짜리 결과를 만들었다. 각자 몇 점어치 기여했을까? 한 명을 빼면 점수가 얼마나 떨어지는지로 공정하게 나눈다.
SHAP은 이 “공정한 몫”을 수학적으로 정의한 게임이론의 Shapley 값이다. 재료(특성)를 ‘팀원’, 예측을 ‘팀 성과’로 보면 된다.
아무 정보가 없을 때의 평균 예측(기준선)에서 시작한다. 재료를 하나씩 알려줄 때마다 예측이 위(+) 또는 아래(−)로 움직인다. 그 움직인 양이 그 재료의 SHAP 값이다.
초록 막대=올림(+), 빨강 막대=내림(−). 각 막대의 길이가 곧 그 산업의 기여(SHAP). 다 더하면 기준선→최종 예측이 된다.
재료를 알려주는 순서에 따라 한 재료의 기여가 달라질 수 있다. 그래서 SHAP은 가능한 모든 순서를 시도해 각 재료의 기여를 평균낸다. 어느 재료도 순서 덕을 보거나 손해 보지 않는다 — 그래서 공정하다.
실제로는 모든 순서를 다 세지 않고 똑똑한 근사(TreeSHAP)로 빠르게 계산한다 — 트리 모형이라 정확한 값을 효율적으로 구할 수 있다.
그래서 “이 산업을 가장 크게, 어느 방향으로 미는 산업은 무엇인가?”를 한눈에 읽을 수 있다.
산업별 분석 페이지의 SHAP 막대가 바로 이 값이다. 산업을 골라 직접 확인해 보자.
→ 산업별 심층 분석 페이지 열기“SHAP은 이 예측을 각 재료가 얼마나·어느 방향으로 바꿨는지를, 게임이론(공정한 몫)으로 나눈 값이다.”
기준선에서 시작해 재료를 하나씩 넣어 예측이 움직인 양을, 모든 순서로 평균낸 것 — 그게 각 재료의 SHAP. 더하면 정확히 기준선→예측이 되므로 빠짐없이·공정하게 나뉜다.
더 알고 싶다면. SHAP = SHapley Additive exPlanations (Lundberg & Lee, 2017). 협조게임의 Shapley 값을 머신러닝 예측 설명에 적용한 것. 우리는 트리 모형용 정확·고속 버전인 TreeSHAP을 쓴다.
부록 · SHAP 그림책 · 산업별 심층 분석의 요인분해 설명 · 팀 내부 공유용.