Bias-Variance Trade-off machine learning-এর একটি fundamental concept।
Model-এর error-এর দুটি গুরুত্বপূর্ণ source হলো:
Bias
Variance
High Bias
High-bias model সাধারণত অতিরিক্ত simple হয়।
ফলে data-এর important pattern capture করতে পারে না।
এটি:
Underfitting
এর সঙ্গে associated।
উদাহরণ:
একটি highly curved relationship-কে simple straight line দিয়ে model করা।
সাধারণভাবে:
Training error
→ High
Validation error
→ High
High Variance
High-variance model training data-এর pattern-এর পাশাপাশি noise-ও বেশি শিখে ফেলতে পারে।
এটি:
Overfitting
এর সঙ্গে associated।
সাধারণভাবে:
Training performance
→ Very good
Validation performance
→ Poor
Example
Decision Tree-এর ক্ষেত্রে:
Very shallow tree
→ High bias হতে পারে
Very deep tree
→ High variance হতে পারে
তাই লক্ষ্য হলো:
Bias এবং variance-এর মধ্যে এমন একটি balance খোঁজা, যাতে unseen data-তে ভালো generalization পাওয়া যায়।