Skip to content

5.4 — Orthonormal Basis

এই অধ্যায়ে কী শিখব: লম্ব-একক ভিত্তি (orthonormal basis) কী, Fourier coefficient \(c_n = \langle x, e_n \rangle\) কীভাবে কাজ করে, Bessel-এর অসমতা আর Parseval-এর পরিচয় কীভাবে পাই, আর Gram–Schmidt পদ্ধতিতে যেকোনো linearly independent পরিবার থেকে একটা লম্ব-একক পরিবার কীভাবে তৈরি হয়।

উৎস (source): Bessel, Parseval; Gram, Schmidt; Hilbert।


৫.৪.১ কেন শিখব? (Motivation)

আগের তিনটা অধ্যায়ে আমরা inner product space-এর কাঠামো গড়ে তুলেছি — inner product সংজ্ঞা, Cauchy–Schwarz অসমতা, orthogonal projection, Riesz Representation। কিন্তু এখনো একটা বড় প্রশ্নের উত্তর দিইনি:

একটা Hilbert space-এর যেকোনো vector \(x\)-কে কি অনন্যভাবে "উপাদানে" ভাঙা যায়?

\(\mathbb{R}^3\)-এ আমরা জানি: যেকোনো vector \((x_1, x_2, x_3)\)-কে তিনটা axis-বরাবর ভাঙা যায়। এই কাজটা সহজ কারণ standard basis \(\{e_1, e_2, e_3\}\) পরস্পর লম্ব এবং এককদৈর্ঘ্য (unit length)।

এই অধ্যায়ের লক্ষ্য: সেই ধারণাটাকে যেকোনো Hilbert space-এ সাধারণীকরণ করা।

Fourier series কেন কাজ করে? কারণ \(\{\sin(nx), \cos(nx)\}\) পরিবারটা \(L^2[-\pi, \pi]\)-এ ঠিক এরকম একটা "লম্ব-একক পরিবার" (orthonormal family)। আর প্রতিটা function-কে তাদের দিয়ে "বিশ্লেষণ" করা যায়।

Quantum mechanics-এ energy eigenstate-রা Hilbert space-এর orthonormal basis তৈরি করে — কোনো quantum state-কে এই basis-এ প্রকাশ করলেই measurement-এর probability পাওয়া যায়।

Signal processing-এ Fourier transform ঠিক এই কাজই করে: signal-কে orthonormal basis-এর "coefficient" হিসেবে লেখা।

মূল স্বজ্ঞা

Orthonormal basis হলো একটা Hilbert space-এর "পরিমাপের কাঠি"। একবার basis পেলে যেকোনো vector তার coefficient-গুলোর অনন্য তালিকায় পরিণত হয়, এবং সেই coefficient-গুলোই সব তথ্য ধরে রাখে।


৫.৪.২ মূল ধারণা: লম্ব-একক পরিবার (Orthonormal Family)

সংজ্ঞার স্বজ্ঞা

\(\mathbb{R}^2\)-এ standard basis \(\{e_1, e_2\} = \{(1,0), (0,1)\}\)-এর দুটো বিশেষ গুণ আছে:

  1. প্রতিটার দৈর্ঘ্য ১ : \(\lVert e_1 \rVert = \lVert e_2 \rVert = 1\)
  2. তারা পরস্পর লম্ব: \(\langle e_1, e_2 \rangle = 0\)

এই দুটো শর্ত একসাথে বলে পরিবারটা orthonormal (লম্ব-একক)

Orthonormal vectors in R2 and R3

চিত্র ১: বাঁয়ে \(\mathbb{R}^2\)-এ orthonormal basis \(\{e_1, e_2\}\) — একক দৈর্ঘ্য, right angle চিহ্নসহ। ডানে \(\mathbb{R}^3\)-এ \(\{e_1, e_2, e_3\}\)। Inner product \(\langle e_j, e_k \rangle = \delta_{jk}\) — একই হলে ১, ভিন্ন হলে ০।

সংজ্ঞা: Orthonormal Family (লম্ব-একক পরিবার)

একটা inner product space \(V\)-এ একটা পরিবার \(\{e_k\}_{k \in \Gamma}\) কে orthonormal বলা হয় যদি

\[\langle e_j, e_k \rangle = \delta_{jk} = \begin{cases} 1 & \text{যদি } j = k \\ 0 & \text{যদি } j \neq k \end{cases}\]

সব \(j, k \in \Gamma\)-এর জন্য। এখানে \(\delta_{jk}\) হলো Kronecker delta (ক্রোনেকার ডেল্টা)

সহজ কথায়: প্রতিটা \(e_k\) একক-দৈর্ঘ্যের, এবং যেকোনো দুটো ভিন্ন \(e_j, e_k\) পরস্পর লম্ব।

উদাহরণ:

  • \(\mathbb{F}^n\)-এ: \(e_k = (0, \ldots, 0, 1, 0, \ldots, 0)\) (k-তম স্থানে ১) — standard basis।
  • \(\ell^2\)-এ: একই ধারণা infinite dimension-এ।
  • \(L^2[-\pi, \pi]\)-এ: \(\left\{\dfrac{1}{\sqrt{2\pi}} e^{inx}\right\}_{n \in \mathbb{Z}}\) — trigonometric orthonormal family।

গুরুত্বপূর্ণ সত্য: যেকোনো orthonormal family linearly independent। কারণ যদি \(\sum_k \alpha_k e_k = 0\) হয়, তাহলে \(e_j\)-এর সাথে inner product নিলে \(\alpha_j = 0\) পাই।


৫.৪.৩ Fourier Coefficient এবং Projection

Fourier coefficient কী?

একটা vector \(x \in V\) এবং orthonormal family \(\{e_k\}\)-এর জন্য, \(x\)-এর \(e_n\)-এর দিকে projection হলো:

\[c_n = \langle x, e_n \rangle\]

এই সংখ্যাটাকে বলা হয় \(x\)-এর Fourier coefficient (ফুরিয়ে সহগ) (বা generalised Fourier coefficient) \(e_n\)-এর সাপেক্ষে।

Fourier coefficient as projection

চিত্র ২: \(c_n = \langle x, e_n \rangle\) হলো \(x\) থেকে \(e_n\)-এর দিকে orthogonal projection-এর দৈর্ঘ্য। \(c_n \cdot e_n\) হলো \(x\)-এর সেই দিকের অংশ। সবুজ dashed line ওই projection-এর লম্ব drop দেখাচ্ছে।

স্বজ্ঞা: \(c_n\) মাপে "\(x\) কতটা \(e_n\)-এর মতো।" যদি \(x \parallel e_n\) হয়, তাহলে \(c_n = \pm \lVert x \rVert\)। যদি \(x \perp e_n\) হয়, তাহলে \(c_n = 0\)

Partial sum: প্রথম \(N\)টা basis vector ব্যবহার করে \(x\)-এর আনুমানিক পুনর্গঠন হলো

\[S_N = \sum_{k=1}^{N} c_k e_k = \sum_{k=1}^{N} \langle x, e_k \rangle e_k\]

এটা \(x\)-এর \(\mathrm{span}\{e_1, \ldots, e_N\}\)-এ orthogonal projection।

Partial sum reconstruction

চিত্র ৩: বাঁয়ে \(\mathbb{R}^3\)-এ partial sum \(S_1\) (নীল dashed) ও \(S_2\) (লাল dashed) ক্রমশ \(x\) (কালো)-এর দিকে এগিয়ে যাচ্ছে। ডানে error \(\lVert x - S_N \rVert\) বনাম \(N\) — তিনটা term থেকেই error শূন্য (কারণ \(\mathbb{R}^3\)-এ ৩টা basis-ই যথেষ্ট)।


৫.৪.৪ Bessel-এর অসমতা (Bessel's Inequality)

এখন স্বাভাবিক প্রশ্ন: \(\sum_n \lvert c_n\rvert^2\) কতটা বড় হতে পারে? Friedrich Bessel (1784–1846) 1828 সালে এই প্রশ্নের উত্তর দিয়েছিলেন trigonometric series-এর ক্ষেত্রে।

উপপাদ্য: Bessel's Inequality (Axler MIRA 8.57)

ধরো \(\{e_k\}_{k \in \Gamma}\) একটা inner product space \(V\)-এর একটা orthonormal family, এবং \(f \in V\)। তাহলে

\[\sum_{k \in \Gamma} \lvert \langle f, e_k \rangle \rvert^2 \leq \lVert f \rVert^2\]

প্রমাণ: ধরো \(\Omega\) হলো \(\Gamma\)-এর একটা finite subset। তাহলে \(f\)-কে ভাঙি:

\[f = \underbrace{\sum_{j \in \Omega} \langle f, e_j \rangle e_j}_{S_\Omega} + \underbrace{\left(f - \sum_{j \in \Omega} \langle f, e_j \rangle e_j\right)}_{f - S_\Omega}\]

দাবি: \(S_\Omega \perp (f - S_\Omega)\)। সত্যি, কারণ যেকোনো \(e_k\) (\(k \in \Omega\))-এর সাথে inner product নিলে:

\[\langle f - S_\Omega, e_k \rangle = \langle f, e_k \rangle - \langle S_\Omega, e_k \rangle = \langle f, e_k \rangle - \langle f, e_k \rangle = 0\]

তাই Pythagorean theorem দেয়:

\[\lVert f \rVert^2 = \lVert S_\Omega \rVert^2 + \lVert f - S_\Omega \rVert^2 \geq \lVert S_\Omega \rVert^2 = \sum_{j \in \Omega} \lvert \langle f, e_j \rangle \rvert^2\]

যেখানে শেষ সমতায় orthonormality ব্যবহার করেছি। এটা প্রতিটা finite \(\Omega\)-এর জন্য সত্য, তাই সম্পূর্ণ sum-এর জন্যও সত্য। \(\square\)

Bessel's inequality — coefficient energy vs total energy

চিত্র ৪: বাঁয়ে bar chart: লাল bars হলো \(\lvert c_n\rvert^2\), তাদের partial sum (নীল curve) সবসময় \(\lVert x \rVert^2\) (dashed)-এর নিচে। ডানে geometric চিত্র: projection-এর দৈর্ঘ্য কখনো মূল vector-এর দৈর্ঘ্য ছাড়াতে পারে না।

গুরুত্বপূর্ণ corollary: Bessel-এর অসমতা বলে \(\sum_k \lvert \langle f, e_k \rangle \rvert^2 < \infty\) — অর্থাৎ coefficient-এর square-sum সবসময় converge করে। তাই \(\{k : \langle f, e_k \rangle \neq 0\}\) একটা countable set।


৫.৪.৫ Orthonormal Basis (লম্ব-একক ভিত্তি) এবং সম্পূর্ণতা

Orthonormal Basis সংজ্ঞা

সংজ্ঞা: Orthonormal Basis (Axler MIRA 8.61)

একটা Hilbert space \(V\)-এ একটা orthonormal family \(\{e_k\}_{k \in \Gamma}\) কে orthonormal basis (লম্ব-একক ভিত্তি) বলা হয় যদি

\[\overline{\mathrm{span}}\{e_k\}_{k \in \Gamma} = V\]

অর্থাৎ \(\{e_k\}\)-এর span-এর closure সমগ্র \(V\)

স্বজ্ঞা: orthonormal basis হলো এমন একটা orthonormal family যেটা থেকে \(V\)-এর যেকোনো vector কে ইচ্ছামতো কাছাকাছি আনা যায়।

সতর্কতা: এই সংজ্ঞায় "basis" মানে সাধারণ linear algebra-র Hamel basis নয়। Infinite-dimensional Hilbert space-এ orthonormal basis হলো সম্পূর্ণতার (completeness) বা "ঘনত্বের" (density) একটা ধারণা।

পার্থক্য মনে রাখো

Hamel basis: যেকোনো vector = finite linear combination। Orthonormal basis: যেকোনো vector = infinite series হিসেবে প্রকাশযোগ্য (convergent)। Infinite-dimensional Hilbert space-এ orthonormal basis কখনো Hamel basis হয় না।

সম্পূর্ণতার সমতুল্য শর্ত

উপপাদ্য (Axler MIRA 8.58, 8.63)

ধরো \(\{e_k\}_{k \in \Gamma}\) একটা Hilbert space \(V\)-এর একটা orthonormal family। তাহলে নিচের শর্তগুলো সমতুল্য:

(i) \(\{e_k\}\) একটা orthonormal basis।

(ii) প্রতিটা \(f \in V\)-এর জন্য: \(f = \displaystyle\sum_{k \in \Gamma} \langle f, e_k \rangle e_k\)

(iii) শুধু \(f = 0\)-ই সব \(e_k\)-এর সাথে orthogonal (\(\langle f, e_k \rangle = 0\) সব \(k\)-এর জন্য \(\Rightarrow f = 0\))।

শর্ত (iii) থেকে স্বজ্ঞা: orthonormal basis "কোনো দিক বাদ দেয় না।"

Complete vs incomplete ONS

চিত্র ৫: বাঁয়ে complete ONB — \(x\) কে \(e_1, e_2\) দিয়ে পুরোপুরি প্রকাশ করা যায়, span পুরো space ঢাকে (নীল region)। ডানে incomplete ONS — শুধু \(e_1\) আছে, \(x\) পুরোপুরি মেলে না; "missing direction" (ধূসর) থেকে যায়।


৫.৪.৬ Parseval-এর পরিচয় (Parseval's Identity)

Orthonormal basis থাকলে Bessel-এর অসমতায় সমতা হয়:

উপপাদ্য: Parseval's Identity (Axler MIRA 8.63)

ধরো \(\{e_k\}_{k \in \Gamma}\) একটা Hilbert space \(V\)-এর orthonormal basis, এবং \(f, g \in V\)। তাহলে:

(a) \(f = \displaystyle\sum_{k \in \Gamma} \langle f, e_k \rangle e_k\)

(b) \(\langle f, g \rangle = \displaystyle\sum_{k \in \Gamma} \langle f, e_k \rangle \overline{\langle g, e_k \rangle}\)

(c) \(\lVert f \rVert^2 = \displaystyle\sum_{k \in \Gamma} \lvert \langle f, e_k \rangle \rvert^2\)

Marc-Antoine Parseval (1755–1836) 1799 সালে trigonometric series-এর বিশেষ ক্ষেত্রে (c)-টি আবিষ্কার করেছিলেন।

প্রমাণ:

(a) ধরো \(g = \displaystyle\sum_{k \in \Gamma} \langle f, e_k \rangle e_k\)। Bessel-এর অসমতা থেকে এই series converge করে। এখন যেকোনো \(e_j\)-এর সাথে inner product নিলে:

\[\langle g, e_j \rangle = \langle f, e_j \rangle\]

তাই \(\langle g - f, e_j \rangle = 0\) সব \(j\)-এর জন্য। orthonormal basis-এর completeness শর্ত (iii) থেকে \(g - f = 0\), অর্থাৎ \(f = g\)

(b) (a) ব্যবহার করে:

\[\langle f, g \rangle = \left\langle \sum_{k} \langle f, e_k \rangle e_k,\, g \right\rangle = \sum_{k} \langle f, e_k \rangle \langle e_k, g \rangle = \sum_{k} \langle f, e_k \rangle \overline{\langle g, e_k \rangle}\]

(c) (b)-তে \(g = f\) রাখলেই পাওয়া যায়। \(\square\)

ব্যাখ্যা: Parseval-এর পরিচয় (c) বলছে: \(x\)-এর "মোট শক্তি" \(\lVert f \rVert^2\) ঠিক তার coefficient-এর "শক্তির যোগফল" \(\sum \lvert c_k\rvert^2\)-এর সমান। কোনো শক্তি হারায় না — orthonormal basis একটি isometry \(V \to \ell^2(\Gamma)\) তৈরি করে।

Parseval identity vs Bessel inequality

চিত্র ৬: বাঁয়ে complete ONB — partial sum (সবুজ curve) \(\lVert x \rVert^2\) (dashed)-এ পৌঁছায়, লাল bars = \(\lvert c_n\rvert^2\)। ডানে incomplete ONS — partial sum \(\lVert x \rVert^2\)-এর চেয়ে ছোট থেকে যায়; ধূসর region = missing energy।


৫.৪.৭ Gram–Schmidt Orthonormalisation

যদি \(V\) separable (বিভাজ্য) Hilbert space হয়, তাহলে একটা constructive উপায়ে orthonormal basis তৈরি করা যায়।

সংজ্ঞা: Separable (বিভাজ্য)

একটা normed space \(V\) separable যদি তার কোনো countable dense subset থাকে।

উদাহরণ: \(\ell^2\), \(L^2([0,1])\), \(L^2(\mathbb{R})\) সবই separable।

Gram–Schmidt পদ্ধতি (Axler MIRA 8.67–8.70)

ধরো \(\{f_1, f_2, f_3, \ldots\}\) একটা linearly independent sequence (বা একটা dense countable subset)।

ধাপ ০: \(e_1 = f_1 / \lVert f_1 \rVert\) (প্রথমটাকে normalize করি)।

ধাপ \(n\): ধরো \(e_1, \ldots, e_n\) তৈরি হয়েছে। তাহলে:

\[e_{n+1} = \frac{f_{n+1} - \langle f_{n+1}, e_1 \rangle e_1 - \cdots - \langle f_{n+1}, e_n \rangle e_n}{\lVert f_{n+1} - \langle f_{n+1}, e_1 \rangle e_1 - \cdots - \langle f_{n+1}, e_n \rangle e_n \rVert}\]

সংক্ষেপে: \(f_{n+1}\) থেকে আগের সব \(e_k\)-এর দিকের অংশ বাদ দাও, তারপর normalize করো।

ফলাফল: \(\{e_k\}\) একটা orthonormal sequence যেন \(\mathrm{span}\{e_1, \ldots, e_n\} = \mathrm{span}\{f_1, \ldots, f_n\}\) প্রতিটা \(n\)-এর জন্য।

উপপাদ্য: প্রতিটা separable Hilbert space-এর একটা orthonormal basis আছে। (Axler MIRA 8.67)

Gram-Schmidt step-by-step

চিত্র ৭: Gram–Schmidt পদ্ধতি তিনটা ধাপে। বাঁয়ে: original vectors \(v_1, v_2\) (ধূসর dashed)। মাঝে: \(e_1 = v_1 / \lVert v_1 \rVert\) (নীল) তৈরি। ডানে: \(v_2\) থেকে \(\langle v_2, e_1 \rangle e_1\) (লাল) বাদ দিয়ে normalize করে \(e_2\) (সবুজ) পাওয়া — right angle চিহ্ন দেখাচ্ছে \(e_1 \perp e_2\)

বিস্তারিত উদাহরণ: \(\mathbb{R}^3\)-এ Gram–Schmidt

ধরো \(f_1 = (1, 1, 0)\), \(f_2 = (1, 0, 1)\), \(f_3 = (0, 1, 1)\)

ধাপ ১: \(e_1 = f_1 / \lVert f_1 \rVert = (1,1,0) / \sqrt{2} = \left(\frac{1}{\sqrt{2}}, \frac{1}{\sqrt{2}}, 0\right)\)

ধাপ ২: \(\langle f_2, e_1 \rangle = \frac{1}{\sqrt{2}} \cdot 1 + \frac{1}{\sqrt{2}} \cdot 0 + 0 \cdot 1 = \frac{1}{\sqrt{2}}\)

\[w_2 = f_2 - \frac{1}{\sqrt{2}} e_1 = (1,0,1) - \frac{1}{\sqrt{2}} \cdot \left(\frac{1}{\sqrt{2}}, \frac{1}{\sqrt{2}}, 0\right) = \left(\frac{1}{2}, -\frac{1}{2}, 1\right)\]
\[e_2 = w_2 / \lVert w_2 \rVert = \left(\frac{1}{2}, -\frac{1}{2}, 1\right) / \sqrt{\frac{3}{2}} = \left(\frac{1}{\sqrt{6}}, -\frac{1}{\sqrt{6}}, \frac{2}{\sqrt{6}}\right)\]

যাচাই: \(\langle e_1, e_2 \rangle = \frac{1}{\sqrt{2}} \cdot \frac{1}{\sqrt{6}} + \frac{1}{\sqrt{2}} \cdot \left(-\frac{1}{\sqrt{6}}\right) + 0 = 0\)


৫.৪.৮ Coefficient-এর বিস্তার এবং উদাহরণ

\(\ell^2\)-তে Orthonormal Basis

\(\ell^2\)-এ standard orthonormal basis: \(e_k = (0, \ldots, 0, 1, 0, \ldots)\) (k-তম স্থানে ১)।

যেকোনো \((a_1, a_2, \ldots) \in \ell^2\)-এর জন্য \(\langle (a_k), e_n \rangle = a_n\)। Parseval-এর পরিচয়:

\[\lVert (a_k) \rVert^2 = \sum_{k=1}^\infty |a_k|^2\]

এটাই আমরা \(\ell^2\)-এর সংজ্ঞা থেকে জানি — সব মিলে যায়।

\(L^2[-\pi, \pi]\)-তে Trigonometric ONB

\(e_n(x) = \frac{1}{\sqrt{2\pi}} e^{inx}\) (\(n \in \mathbb{Z}\)) একটা orthonormal family কারণ:

\[\langle e_m, e_n \rangle = \frac{1}{2\pi} \int_{-\pi}^{\pi} e^{i(m-n)x}\, dx = \delta_{mn}\]

Fourier coefficient: \(c_n = \langle f, e_n \rangle = \frac{1}{\sqrt{2\pi}} \int_{-\pi}^{\pi} f(x) e^{-inx}\, dx\)

Parseval-এর পরিচয় এখানে হয়:

\[\lVert f \rVert_{L^2}^2 = \int_{-\pi}^{\pi} |f(x)|^2\, dx = \sum_{n=-\infty}^{\infty} |c_n|^2\]

এটাই Fourier analysis-এর মূল ভিত্তি: time-domain-এর শক্তি = frequency-domain-এর শক্তি।

Expansion coefficients and energy convergence

চিত্র ৮: বাঁয়ে একটা square wave-এর Fourier coefficient \(c_n\) বনাম \(n\) — লাল (ধনাত্মক) ও নীল (ঋণাত্মক) bars। ডানে cumulative energy \(\sum_{k=1}^N \lvert c_k\rvert^2\) ক্রমশ \(\lVert f \rVert^2\)-এ পৌঁছায়; ধূসর region হলো remaining Bessel gap।


৫.৪.৯ সাধারণ ভুল (Common Mistakes)

  1. Orthonormal ভেবে শুধু orthogonal ধরা। Orthogonal মানে inner product শূন্য — কিন্তু orthonormal-এ unit length-ও দরকার। \(e_k = (2, 0)\) orthogonal হতে পারে কিন্তু orthonormal নয়।

  2. Completeness ভুলে যাওয়া। \(\{e_1, e_2\}\) \(\mathbb{R}^3\)-এ orthonormal কিন্তু basis নয় — তৃতীয় দিক cover করে না।

  3. Infinite sum-এর convergence নিয়ে অসতর্কতা। \(\sum c_n e_n\) converge করে কারণ \(\sum \lvert c_n\rvert^2 < \infty\) (Bessel) এবং Hilbert space complete — কিন্তু absolute convergence নাও হতে পারে।

  4. Parseval ভুলে Bessel দিয়ে সমতা ধরা। Parseval (\(=\)) শুধু orthonormal basis-এর জন্য। শুধু orthonormal family হলে Bessel (\(\leq\))।

  5. Gram–Schmidt-এ ক্রম বদলালে ভিন্ন basis পাওয়া। Input-এর ক্রম বদলালে output ONB বদলায়। তবে span একই থাকে।


৫.৪.১০ এক্সারসাইজ (Exercises)

সমস্যা ১। দেখাও যে \(\mathbb{R}^3\)-এ \(e_1 = \frac{1}{\sqrt{3}}(1,1,1)\), \(e_2 = \frac{1}{\sqrt{2}}(1,-1,0)\), \(e_3 = \frac{1}{\sqrt{6}}(1,1,-2)\) একটা orthonormal basis।

১-নং সমাধান দেখাও

ধাপ ১: Unit length যাচাই।

\[\lVert e_1 \rVert^2 = \frac{1}{3}(1^2 + 1^2 + 1^2) = 1 \checkmark\]
\[\lVert e_2 \rVert^2 = \frac{1}{2}(1^2 + 1^2 + 0^2) = 1 \checkmark\]
\[\lVert e_3 \rVert^2 = \frac{1}{6}(1^2 + 1^2 + 4) = 1 \checkmark\]

ধাপ ২: Orthogonality যাচাই।

\[\langle e_1, e_2 \rangle = \frac{1}{\sqrt{6}}(1 \cdot 1 + 1 \cdot (-1) + 1 \cdot 0) = 0 \checkmark\]
\[\langle e_1, e_3 \rangle = \frac{1}{\sqrt{18}}(1 + 1 - 2) = 0 \checkmark\]
\[\langle e_2, e_3 \rangle = \frac{1}{\sqrt{12}}(1 - 1 + 0) = 0 \checkmark\]

ধাপ ৩: Basis হওয়া। \(\mathbb{R}^3\) তিন-মাত্রিক, তিনটা orthonormal vector পেলেই basis হয় (কারণ linearly independent)। \(\square\)

সমস্যা ২। \(f = (1, 2, 3) \in \mathbb{R}^3\)-কে সমস্যা ১-এর basis-এ প্রকাশ করো। Parseval-এর পরিচয় যাচাই করো।

২-নং সমাধান দেখাও

Fourier coefficients:

\[c_1 = \langle f, e_1 \rangle = \frac{1}{\sqrt{3}}(1+2+3) = \frac{6}{\sqrt{3}} = 2\sqrt{3}\]
\[c_2 = \langle f, e_2 \rangle = \frac{1}{\sqrt{2}}(1 - 2 + 0) = \frac{-1}{\sqrt{2}}\]
\[c_3 = \langle f, e_3 \rangle = \frac{1}{\sqrt{6}}(1 + 2 - 6) = \frac{-3}{\sqrt{6}} = -\frac{3}{\sqrt{6}}\]

Expansion:

\[f = 2\sqrt{3}\, e_1 - \frac{1}{\sqrt{2}}\, e_2 - \frac{3}{\sqrt{6}}\, e_3\]

Parseval যাচাই:

\[\lVert f \rVert^2 = 1 + 4 + 9 = 14\]
\[\sum_k |c_k|^2 = 12 + \frac{1}{2} + \frac{9}{6} = 12 + 0.5 + 1.5 = 14 \checkmark\]

সমস্যা ৩। \(f_1 = (1, 0, 1)\), \(f_2 = (1, 1, 0) \in \mathbb{R}^3\)-এ Gram–Schmidt প্রয়োগ করে একটা orthonormal family তৈরি করো।

৩-নং সমাধান দেখাও

ধাপ ১: \(e_1 = f_1 / \lVert f_1 \rVert = (1, 0, 1) / \sqrt{2} = \left(\frac{1}{\sqrt{2}}, 0, \frac{1}{\sqrt{2}}\right)\)

ধাপ ২: প্রথমে \(\langle f_2, e_1 \rangle\) বের করি:

\[\langle f_2, e_1 \rangle = \frac{1}{\sqrt{2}}(1) + 0(1) + \frac{1}{\sqrt{2}}(0) = \frac{1}{\sqrt{2}}\]

তারপর:

\[w_2 = f_2 - \frac{1}{\sqrt{2}} e_1 = (1,1,0) - \frac{1}{\sqrt{2}} \cdot \frac{1}{\sqrt{2}}(1,0,1) = (1,1,0) - \left(\frac{1}{2}, 0, \frac{1}{2}\right) = \left(\frac{1}{2}, 1, -\frac{1}{2}\right)\]
\[\lVert w_2 \rVert = \sqrt{\frac{1}{4} + 1 + \frac{1}{4}} = \sqrt{\frac{3}{2}}\]
\[e_2 = w_2 / \lVert w_2 \rVert = \left(\frac{1}{\sqrt{6}}, \frac{2}{\sqrt{6}}, -\frac{1}{\sqrt{6}}\right)\]

যাচাই: \(\langle e_1, e_2 \rangle = \frac{1}{\sqrt{2}} \cdot \frac{1}{\sqrt{6}} + 0 + \frac{1}{\sqrt{2}} \cdot \left(-\frac{1}{\sqrt{6}}\right) = 0\)

সমস্যা ৪। Bessel-এর অসমতা থেকে প্রমাণ করো: যদি \(\{e_k\}_{k=1}^\infty\) একটা inner product space-এ orthonormal family হয় এবং \(f \in V\), তাহলে \(\langle f, e_k \rangle \to 0\) যখন \(k \to \infty\)

৪-নং সমাধান দেখাও

Bessel-এর অসমতা থেকে:

\[\sum_{k=1}^{\infty} \lvert \langle f, e_k \rangle \rvert^2 \leq \lVert f \rVert^2 < \infty\]

একটা convergent series-এর general term শূন্যে যায়, তাই:

\[\lvert \langle f, e_k \rangle \rvert^2 \to 0 \implies \lvert \langle f, e_k \rangle \rvert \to 0 \implies \langle f, e_k \rangle \to 0\]

এটা Riemann–Lebesgue lemma-র abstract সংস্করণ। \(\square\)

সমস্যা ৫। \(L^2[-\pi, \pi]\)-এ \(f(x) = x\)-কে trigonometric basis \(e_n(x) = \frac{1}{\sqrt{2\pi}} e^{inx}\)-এর সাপেক্ষে Fourier coefficients বের করো এবং Bessel-এর অসমতা যাচাই করো।

৫-নং সমাধান দেখাও

\(n = 0\):

\[c_0 = \frac{1}{\sqrt{2\pi}} \int_{-\pi}^{\pi} x\, dx = 0\]

(কারণ \(x\) বিজোড় ফাংশন, সীমানা symmetric।)

\(n \neq 0\) (integration by parts):

\[c_n = \frac{1}{\sqrt{2\pi}} \int_{-\pi}^{\pi} x e^{-inx}\, dx\]

Integration by parts: \(u = x\), \(dv = e^{-inx}\, dx\):

\[c_n = \frac{1}{\sqrt{2\pi}} \left[\frac{x e^{-inx}}{-in}\right]_{-\pi}^{\pi} + \frac{1}{\sqrt{2\pi}} \cdot \frac{1}{in} \int_{-\pi}^{\pi} e^{-inx}\, dx\]

দ্বিতীয় integral = \(0\) (orthogonality)। প্রথম অংশ:

\[= \frac{1}{\sqrt{2\pi}} \cdot \frac{\pi e^{-in\pi} - (-\pi e^{in\pi})}{-in} = \frac{1}{\sqrt{2\pi}} \cdot \frac{\pi(e^{-in\pi} + e^{in\pi})}{-in} = \frac{(-1)^n}{\sqrt{2\pi}} \cdot \frac{2\pi i}{n} \cdot \frac{(-1)}{1}\]

সরলীকরণ করলে: \(c_n = \frac{i(-1)^n \sqrt{2\pi}}{n}\) (সঠিক মান নির্ভর করে convention-এ)।

Bessel যাচাই:

\[\lVert f \rVert^2 = \int_{-\pi}^{\pi} x^2\, dx = \frac{2\pi^3}{3}\]
\[\sum_{n \neq 0} |c_n|^2 = \sum_{n \neq 0} \frac{2\pi}{n^2} = 2 \cdot 2\pi \sum_{n=1}^\infty \frac{1}{n^2} = 4\pi \cdot \frac{\pi^2}{6} = \frac{2\pi^3}{3}\]

সুতরাং সমতা হয় — অর্থাৎ trigonometric family একটা complete orthonormal basis। \(\square\)

সমস্যা ৬। প্রমাণ করো: \(\{e_k\}_{k \in \Gamma}\) একটা Hilbert space \(V\)-এর orthonormal basis হওয়ার জন্য যথেষ্ট ও প্রয়োজনীয় শর্ত হলো:

\[\lVert f \rVert^2 = \sum_{k \in \Gamma} \lvert \langle f, e_k \rangle \rvert^2 \quad \text{সব } f \in V\text{-এর জন্য}\]
৬-নং সমাধান দেখাও

(\(\Rightarrow\)) যদি \(\{e_k\}\) orthonormal basis হয়, তাহলে Parseval-এর পরিচয় (c) থেকেই এটা পাই।

(\(\Leftarrow\)) ধরো Parseval শর্ত পূরণ হয়। আমরা দেখাব \(\{e_k\}\) একটা orthonormal basis।

ধরো \(f \in V\) এবং \(\langle f, e_k \rangle = 0\) সব \(k\)-এর জন্য।

তাহলে শর্ত থেকে:

\[\lVert f \rVert^2 = \sum_{k} \lvert \langle f, e_k \rangle \rvert^2 = 0\]

তাই \(f = 0\)

এটাই completeness শর্ত (iii) — তাই \(\{e_k\}\) orthonormal basis। \(\square\)

সমস্যা ৭। দেখাও যে একটা Hilbert space \(H\)-এ map \(U : H \to \ell^2(\Gamma)\) যেখানে \(U(f) = (\langle f, e_k \rangle)_{k \in \Gamma}\) একটা unitary isomorphism (distance-preserving bijection)।

৭-নং সমাধান দেখাও

Linearity: \(U(\alpha f + g) = (\langle \alpha f + g, e_k \rangle)_k = (\alpha \langle f, e_k \rangle + \langle g, e_k \rangle)_k = \alpha U(f) + U(g)\)

Well-defined: Bessel বলে \(\sum_k |\langle f, e_k \rangle|^2 \leq \lVert f \rVert^2 < \infty\), তাই \(U(f) \in \ell^2(\Gamma)\)

Isometry (distance-preserving): Parseval বলে \(\lVert U(f) \rVert_{\ell^2}^2 = \sum_k |\langle f, e_k \rangle|^2 = \lVert f \rVert^2\)

Surjectivity: যেকোনো \((\alpha_k) \in \ell^2(\Gamma)\)-এর জন্য \(f = \sum_k \alpha_k e_k\) সংজ্ঞায়িত (Bessel/completeness দিয়ে), এবং \(U(f) = (\alpha_k)\)

Injectivity: isometry হলেই injective। \(\square\)

অতএব \(H \cong \ell^2(\Gamma)\) — সব separable infinite-dimensional Hilbert space একে অপরের সমতুল্য!

সমস্যা ৮। \(f_1 = 1\), \(f_2 = x\), \(f_3 = x^2\) থেকে \(L^2[0,1]\)-এ Gram–Schmidt প্রয়োগ করে orthonormal polynomials \(e_1, e_2\) বের করো।

৮-নং সমাধান দেখাও

Inner product: \(\langle f, g \rangle = \int_0^1 f(x) g(x)\, dx\)

ধাপ ১: \(\lVert f_1 \rVert^2 = \int_0^1 1\, dx = 1\), তাই \(e_1 = 1\)

ধাপ ২: \(\langle f_2, e_1 \rangle = \int_0^1 x\, dx = \frac{1}{2}\)

\[w_2 = f_2 - \frac{1}{2} e_1 = x - \frac{1}{2}\]
\[\lVert w_2 \rVert^2 = \int_0^1 \left(x - \frac{1}{2}\right)^2\, dx = \int_0^1 \left(x^2 - x + \frac{1}{4}\right)\, dx = \frac{1}{3} - \frac{1}{2} + \frac{1}{4} = \frac{1}{12}\]
\[e_2 = \frac{w_2}{\lVert w_2 \rVert} = \frac{x - 1/2}{1/\sqrt{12}} = \sqrt{12}\left(x - \frac{1}{2}\right) = 2\sqrt{3}\left(x - \frac{1}{2}\right)\]

যাচাই: \(\langle e_1, e_2 \rangle = 2\sqrt{3} \int_0^1 \left(x - \frac{1}{2}\right)\, dx = 2\sqrt{3}\left[\frac{x^2}{2} - \frac{x}{2}\right]_0^1 = 0\)

এগুলো shifted Legendre polynomials-এর normalized সংস্করণ।


৫.৪.১১ সারসংক্ষেপ ও Checklist

  • [ ] Orthonormal family বোঝো: \(\langle e_j, e_k \rangle = \delta_{jk}\) — একক দৈর্ঘ্য, পরস্পর লম্ব।
  • [ ] Fourier coefficient \(c_n = \langle x, e_n \rangle\) হলো \(x\)-এর \(e_n\)-দিকে orthogonal projection-এর দৈর্ঘ্য।
  • [ ] Bessel-এর অসমতা: \(\sum |c_n|^2 \leq \lVert x \rVert^2\) — সবসময়, যেকোনো orthonormal family-তে।
  • [ ] Orthonormal basis: \(\overline{\mathrm{span}}\{e_k\} = V\) — "কোনো দিক বাদ পড়ে না।"
  • [ ] Parseval-এর পরিচয়: \(\lVert x \rVert^2 = \sum |c_n|^2\) — শুধু orthonormal basis-এর জন্য সমতা।
  • [ ] Expansion: \(x = \sum_n \langle x, e_n \rangle e_n\) — orthonormal basis থাকলে।
  • [ ] Gram–Schmidt: linearly independent থেকে orthonormal তৈরির constructive algorithm।
  • [ ] Separable Hilbert space মানে countable orthonormal basis আছে।

➡️ পরের অধ্যায়: 5.5 — Fourier Series; Poisson Kernel\(L^2[-\pi, \pi]\)-এ trigonometric orthonormal basis, Fourier series-এর convergence, Poisson kernel ও harmonic extension।