Model Interpretation

Model accurate হওয়া গুরুত্বপূর্ণ।

কিন্তু অনেক real-world application-এ আরেকটি প্রশ্ন আসে:

এই customer-এর churn probability 85% কেন হলো?

সেখানেই model interpretation গুরুত্বপূর্ণ হয়ে যায়।

Global Interpretation

পুরো model সাধারণভাবে কীভাবে prediction করছে তা বোঝার চেষ্টা।

Examples:

Regression coefficients
Feature importance
Partial Dependence
Global SHAP

এগুলো model-এর overall behavior বোঝাতে সাহায্য করতে পারে।

Local Interpretation

একটি specific prediction কেন এমন হলো তা বোঝার চেষ্টা।

উদাহরণ:

High inactivity      → higher churn score
Low purchase count   → higher churn score
Recent complaint     → higher churn score

SHAP-এর মতো methods একটি individual prediction-এ বিভিন্ন feature-এর contribution বিশ্লেষণ করতে পারে।

Important Distinction

Feature importance বা feature contribution বলছে:

Model prediction-এর জন্য feature-টি গুরুত্বপূর্ণ বা ব্যবহৃত হচ্ছে।

এটি নিজে থেকে প্রমাণ করে না:

Feature-টি outcome-এর cause।

অর্থাৎ:

Prediction
≠
Causality

Correlation বা model importance থেকে causal relationship নিশ্চিত করা যায় না।