Feature Selection
📘 গুরুত্বপূর্ণ ফিচার বাছাই।
🌐 Choose the most useful features.
🛠️
1
ধারণা · Concept
কী এবং কেন📘 বাংলা ব্যাখ্যা:
গুরুত্বপূর্ণ ফিচার বাছাই।
গুরুত্বপূর্ণ ফিচার বাছাই।
🌐 English:
Choose the most useful features.
Choose the most useful features.
🗂 কোথায় পড়ে
৩. মেশিন লার্নিং → ফিচার ইঞ্জিনিয়ারিং → Feature Selection
🎯 এই শাখার লক্ষ্য
Scale, encode, select and create features; pipelines
🧰 টুলস
scikit-learn
🪜
ধাপে ধাপে শিখুন · Step-by-step
কেন শিখবেন → কীভাবে শিখবেন → উদাহরণ → সাধারণ ভুল💡 কেন গুরুত্বপূর্ণ?
অপ্রয়োজনীয় ফিচার নয়েজ যোগ করে, ওভারফিটিং বাড়ায় ও মডেল ধীর করে।
- ধাপ 1ফিল্টার: কম ভ্যারিয়েন্স বাদ, টার্গেটের সাথে কোরিলেশন/χ²/mutual information
- ধাপ 2অতিরিক্ত পারস্পরিক কোরিলেশন (>০.৯) থাকলে একটি রাখুন
- ধাপ 3র্যাপার: RFE—মডেল দিয়ে বারবার সবচেয়ে দুর্বল ফিচার বাদ
- ধাপ 4এমবেডেড: Lasso (শূন্য সহগ), ট্রি feature_importances_, permutation importance
🧪 বাস্তব উদাহরণ
SelectKBest(mutual_info_classif, k=10) দিয়ে ৫০ ফিচার থেকে সেরা ১০।
⚠️ সাধারণ ভুল
পুরো ডেটায় ফিচার সিলেকশন করে তারপর ক্রস-ভ্যালিডেশন—আশাবাদী ফল।
🔑 মূল শব্দ (Key terms)
feature selectionfilterwrapperembeddedRFEmutual information
3
সাব-টপিক ও বিস্তারিত · Sub-topics
টপিক → সাব-টপিক → সাব-সাব টপিক3.1 ফিল্টার3.1.1 কোরিলেশন3.1.2 chi²
3.2 র্যাপার3.2.1 RFE
3.3 এমবেডেড3.3.1 Lasso3.3.2 ট্রি ইম্পর্ট্যান্স
🎬
ভিডিও · Videos (বাংলা ও English)
ক্লিক করলে সাইটের ভেতরেই ফ্লোটিং প্লেয়ারে চলবে · ভিডিও MySQL-এ সংরক্ষিত📺 আরও খুঁজুন
💻
হাতে-কলমে · Try it (Feature Engineering)
এডিট করে Run চাপুন · Ctrl+Enterimport pandas as pd
from sklearn.compose import ColumnTransformer
from sklearn.preprocessing import StandardScaler, OneHotEncoder
from sklearn.pipeline import Pipeline
from sklearn.linear_model import LogisticRegression
df=pd.DataFrame({"age":[22,35,47,52,28,61,33,44],"income":[20,45,60,80,30,90,40,55],"city":list("DSDKSDKS"),"buy":[0,1,1,1,0,1,0,1]})
pre=ColumnTransformer([("num",StandardScaler(),["age","income"]),("cat",OneHotEncoder(),["city"])])
pipe=Pipeline([("pre",pre),("clf",LogisticRegression())]).fit(df.drop(columns="buy"),df.buy)
print("Train accuracy:",pipe.score(df.drop(columns="buy"),df.buy))❓
সেল্ফ-চেক · Self check
1. “কোরিলেশন, chi²” — এটি কোন সাব-টপিকের বর্ণনা?
2. “RFE” — এটি কোন সাব-টপিকের বর্ণনা?
3. “Lasso, ট্রি ইম্পর্ট্যান্স” — এটি কোন সাব-টপিকের বর্ণনা?
🔗
সংযুক্ত কনসেপ্ট · Connected concepts
এই শাখার অন্যান্য অংশ
1. Feature Scaling2. Encoding Categorical Variables3. Feature Selection4. Feature Creation5. Imbalanced Data SMOTE6. Sklearn Pipeline