CH 11Phase 2 · Calculus for AI

Limits & Continuity

১৫–২৫ মিনিট বাংলা · Math · Python
📖 একটি ছোট গল্প

কল্পনা করুন আপনি একটি দরজার দিকে হাঁটছেন — প্রতিবার অর্ধেক দূরত্ব। আপনি কি কখনো দরজায় পৌঁছাবেন? গাণিতিকভাবে — "যত কাছে যেতে চান, তত কাছে যেতে পারবেন"। এটাই limit-এর core idea।

Derivative, gradient, integral — সমস্ত calculus এই একটিমাত্র ধারণা থেকে জন্ম নেয়।

Limit-এর Intuition

x → a অর্থ: x-কে a-এর যত কাছে নিতে চাইবেন, তত কাছে নিতে পারবেন (কিন্তু কখনো equal না)।

limx→a f(x) = L

অর্থ — x যখন a-র কাছে আসে, f(x) তখন L-এর কাছে আসে।

ক্লাসিক উদাহরণ

limx→2 (x² + 1) = 5
limx→0 sin(x)/x = 1
limn→∞ (1 + 1/n)n = e ≈ 2.71828
💡 ইনসাইট
শেষ limit-টিই Euler's number e-র সংজ্ঞা — যা softmax, cross-entropy, exponential decay-র ভিত্তি।

Limit-এর নিয়ম

  • lim (f + g) = lim f + lim g
  • lim (f · g) = (lim f) · (lim g)
  • lim (f / g) = (lim f) / (lim g), যদি lim g ≠ 0
  • lim c · f = c · lim f

Indeterminate Form: 0/0 ও ∞/∞

সরাসরি বসালে অর্থহীন — কিন্তু limit তবু থাকতে পারে। উদাহরণ:

limx→0 (x² − 0) / x = limx→0 x = 0

সমাধানের কৌশল: factor করুন, simplify করুন, অথবা L'Hôpital's rule:

lim f(x)/g(x) = lim f'(x)/g'(x) [0/0 বা ∞/∞ form-এ]

Continuity

একটি function f x = a-এ continuous, যদি:

limx→a f(x) = f(a)

অর্থাৎ "কলম না তুলে আঁকা যায়"। Discontinuity-র ৩ ধরন:

  • Removable: limit আছে কিন্তু f(a) mismatch।
  • Jump: বাম ও ডান limit আলাদা (যেমন step function)।
  • Infinite: 1/x-এ x → 0
✨ টিপ
Neural network-এ ReLU continuous কিন্তু derivative discontinuous (0-এ)। এই subtlety থেকে "dying ReLU" সমস্যা।

Python: Limit সংখ্যাগতভাবে

pythonPython · NumPy
import math

# 1) Numerical limit: sin(x)/x as x -> 0
for x in [1, 0.1, 0.01, 0.001, 1e-6]:
    print(f"x={x:<8}  sin(x)/x = {math.sin(x)/x:.10f}")

# 2) e as a limit
for n in [10, 1_000, 1_000_000]:
    print(f"n={n:<10}  (1+1/n)^n = {(1 + 1/n)**n:.8f}")

# 3) Symbolic limit with SymPy (exact)
import sympy as sp
x = sp.symbols('x')
print(sp.limit(sp.sin(x)/x, x, 0))            # 1
print(sp.limit((1 + 1/x)**x, x, sp.oo))       # E
print(sp.limit((sp.exp(x) - 1)/x, x, 0))      # 1

# 4) Continuity check (numerically)
def f(x):
    if x == 0:
        return 0.0
    return math.sin(x) / x
print(f(0), f(1e-9))  # 0 vs ~1 → removable discontinuity

AI/ML সংযোগ

  • Derivative-এর সংজ্ঞা: limh→0 (f(x+h) − f(x))/h — limit ছাড়া derivative নেই।
  • Softmax stability: limx→∞ ex = ∞ → overflow; তাই max-subtract trick।
  • Learning rate decay: limt→∞ lrt = 0 দরকার convergence-এর জন্য।
  • Activation choice: continuity ও differentiability optimizer-এ লাগে।

Common Mistakes

  • lim মানে "বসিয়ে দেওয়া" নয় — point-এ function না থাকলেও limit থাকতে পারে।
  • 0/0 দেখলে "undefined" বলে থেমে যাওয়া — simplify বা L'Hôpital চেষ্টা করুন।
  • Left ও right limit মেলে না দেখলে limit নেই বলা ভুলে যাওয়া।

Practice Tasks

  1. হিসাব করুন: limx→3 (x² − 9)/(x − 3)
  2. SymPy-তে verify করুন: limx→0 (1 − cos x)/x²
  3. f(x) = 1/x-এ x → 0+x → 0 limit বের করুন।

Assignment

একটি Python script লিখুন যা (eh − 1)/h-কে h = 1, 0.1, 0.01, …, 1e-15-এ calculate করে। লক্ষ্য করুন কোথা থেকে floating-point error শুরু হয় — এটাই কেন আমরা analytical derivative ব্যবহার করি।

Interview Questions

  1. Limit ও function value-এর পার্থক্য কী?
  2. Continuity ও differentiability-র সম্পর্ক?
  3. "Dying ReLU" problem কেন হয়?
  4. Softmax overflow কেন হয়, কীভাবে এড়ান?

Mini Project

"Limit Visualizer" — matplotlib দিয়ে sin(x)/x-এর graph আঁকুন [−10, 10]-এ এবং দেখান কীভাবে x → 0-এ value 1-এর দিকে যাচ্ছে। সাথে continuity বনাম discontinuity-র ৩টি উদাহরণ plot করুন।

Summary · সারসংক্ষেপ

  • Limit = "যত কাছে চাই, তত কাছে যেতে পারি"।
  • Continuity = limit মান = function value।
  • 0/0 ও ∞/∞ — L'Hôpital বা algebraic simplification।
  • সমস্ত calculus (derivative, integral, gradient) limit থেকে আসে।
✨ পরবর্তী পদক্ষেপ
Chapter 12-এ আমরা derivative-এ ঢুকব — limit-এর সরাসরি প্রয়োগ, এবং ML-এ "শেখা" বলতে কী বোঝায় তার শুরু।