Apache Airflow
📘 ওয়ার্কফ্লো শিডিউলিং।
🌐 Workflow scheduling.
🏗️
1
ধারণা · Concept
কী এবং কেন📘 বাংলা ব্যাখ্যা:
ওয়ার্কফ্লো শিডিউলিং।
ওয়ার্কফ্লো শিডিউলিং।
🌐 English:
Workflow scheduling.
Workflow scheduling.
🗂 কোথায় পড়ে
৬. ইঞ্জিনিয়ারিং ও ক্যারিয়ার → বিগ ডেটা ও ডেটা ইঞ্জিনিয়ারিং → Apache Airflow
🎯 এই শাখার লক্ষ্য
Build ETL pipelines, use Spark and warehouses
🧰 টুলস
Spark, Airflow, BigQuery
🪜
ধাপে ধাপে শিখুন · Step-by-step
কেন শিখবেন → কীভাবে শিখবেন → উদাহরণ → সাধারণ ভুল💡 কেন গুরুত্বপূর্ণ?
শত শত নির্ভরশীল কাজ সঠিক ক্রমে, সঠিক সময়ে, ব্যর্থ হলে পুনরায়।
- ধাপ 1DAG: টাস্ক ও তাদের নির্ভরতা (extract >> transform >> load)
- ধাপ 2Operator: PythonOperator, BashOperator, SQL অপারেটর
- ধাপ 3schedule_interval (যেমন "@daily"), retries, alerts
- ধাপ 4Web UI-তে রান, লগ ও ব্যর্থতা দেখা; backfill দিয়ে পুরোনো তারিখ চালানো
🧪 বাস্তব উদাহরণ
হিটওয়েভ সাইটের দৈনিক পাইপলাইন: আবহাওয়া API → ঝুঁকি হিসাব → সতর্কবার্তা পাঠানো।
⚠️ সাধারণ ভুল
টাস্কগুলো idempotent না হওয়া—দুবার চললে ডুপ্লিকেট ডেটা।
🔑 মূল শব্দ (Key terms)
AirflowDAGoperatorschedulerretrybackfill
3
সাব-টপিক ও বিস্তারিত · Sub-topics
টপিক → সাব-টপিক → সাব-সাব টপিক3.1 DAG3.1.1 টাস্ক নির্ভরতা
3.2 Operator ও Scheduler
3.3 রিট্রাই ও মনিটরিং
🎬
ভিডিও · Videos (বাংলা ও English)
ক্লিক করলে সাইটের ভেতরেই ফ্লোটিং প্লেয়ারে চলবে · ভিডিও MySQL-এ সংরক্ষিত📺 আরও খুঁজুন
💻
হাতে-কলমে · Try it (Big Data & Data Engineering)
এডিট করে Run চাপুন · Ctrl+Enterimport pandas as pd, sqlite3, io
# Mini ETL: extract CSV -> transform -> load into a warehouse table
raw=io.StringIO("date,district,cases\n2026-01-01,Dhaka,12\n2026-01-01,Sylhet,x\n2026-01-02,Dhaka,15\n")
df=pd.read_csv(raw) # Extract
df["cases"]=pd.to_numeric(df.cases,errors="coerce").fillna(0).astype(int); df["date"]=pd.to_datetime(df.date) # Transform
con=sqlite3.connect(":memory:"); df.to_sql("fact_cases",con,index=False) # Load
print(pd.read_sql("SELECT district, SUM(cases) total FROM fact_cases GROUP BY district",con))❓
সেল্ফ-চেক · Self check
1. “টাস্ক নির্ভরতা” — এটি কোন সাব-টপিকের বর্ণনা?
🔗
সংযুক্ত কনসেপ্ট · Connected concepts
এই শাখার অন্যান্য অংশ
1. ETL Pipelines2. Apache Spark PySpark3. Apache Airflow4. Data Warehouse5. NoSQL MongoDB6. Web Scraping BeautifulSoup7. REST APIs for Data