문과생CS정복기

XAI는 "Explainable Artificial Intelligence"의 약자로, 인공 지능 시스템의 결정 과정을 인간이 이해할 수 있도록 설계하는 연구 분야입니다. XAI의 목적은 AI 모델의 예측이나 결정이 어떻게 이루어지는지 명확하게 설명하여, 사용자가 AI의 동작을 신뢰하고 정확하게 해석할 수 있도록 하는 것입니다. 이를 통해 AI 시스템의 투명성을 높이고, 오류를 조기에 발견하며, 윤리적이고 법적인 책임을 명확히 할 수 있습니다. XAI는 특히 의료, 금융, 법률 등 고도의 책임이 요구되는 분야에서 중요하게 다뤄지고 있습니다.XAI의 주요 기법들을 한국어로 설명드리겠습니다:SHAP (SHapley Additive exPlanations): 게임 이론에서 영감을 받아 각 입력 변수가 예측에 ..

블랙박스 모델모델이 explainability도 높고 performance도 높으면 좋지만 explainability는 낮은데 performance만 좋은 경우들이 있습니다. 이런 경우를 우리는 모델이 블랙박스다 라고 표현합니다.모델이 블랙박스라는 뜻은 그 모델의 내부 작동 방식이 불투명하거나 이해하기 어렵다는 의미입니다. 주로 인공지능이나 머신러닝 모델에 대해 사용되는 용어로, 입력과 출력 사이의 관계는 알 수 있지만, 그 과정이 어떻게 이루어지는지는 명확하지 않거나 설명하기 어렵다는 점을 강조합니다.블랙박스 모델은 다음과 같은 특징이 있습니다:불투명성: 모델이 예측을 어떻게 하는지 내부 구조나 과정을 이해하기 어렵습니다.복잡성: 모델이 매우 복잡해서 사람이 일일이 분석하기 어려운 경우가 많습니다. 예..