5.1 — Inner Product Space; Cauchy–Schwarz

এই অধ্যায়ে কী শিখব: inner product, Cauchy–Schwarz, triangle ineq.

উৎস (source): Cauchy, Schwarz, Bunyakovsky (inequality); Hilbert (inner product space)।

---

১. কেন শিখব? (Motivation)

Part 4-এ normed space শিখেছিলাম — vector-দের "দৈর্ঘ্য" বা "আকার" মাপার ব্যবস্থা। কিন্তু সেখানে একটা জিনিস ছিল না: দুটো vector-এর মধ্যে কোণ (angle)।

ভাবো — physics-এ কাজ (work) মাপা হয় বল \(\mathbf{F}\) আর সরণ \(\mathbf{d}\)-এর dot product দিয়ে:

\[W = \mathbf{F} \cdot \mathbf{d} = \lvert \mathbf{F} \rvert \lvert \mathbf{d} \rvert \cos\theta\]

এখানে \(\cos\theta\) এসেছে কারণ কোণটা গুরুত্বপূর্ণ — বল আর সরণ একই দিকে থাকলে সর্বোচ্চ কাজ হয়, লম্ব থাকলে কাজ শূন্য।

এই "কোণের ধারণা"টাকে abstract করলে পাওয়া যায় inner product (অন্তঃগুণন)। Inner product এমন একটা ফাংশন যা দুটো vector \(f, g\)-কে input নিয়ে একটা সংখ্যা \(\langle f, g \rangle\) দেয়, এবং সেই সংখ্যা থেকে আমরা কোণ, দূরত্ব, আর projection সব কিছু বুঝতে পারি।

মূল স্বজ্ঞা

Inner product = দুটো vector কতটা "একই দিকে" আছে তার পরিমাপ। সমান্তরাল হলে সর্বোচ্চ, লম্ব হলে শূন্য, বিপরীত হলে ঋণাত্মক।

এই কাঠামো কোথায় কোথায় লাগে?

• Quantum mechanics: ওয়েভ ফাংশনের inner product থেকে probability মাপা হয়। Hilbert space-ই quantum mechanics-এর ভাষা।
• Signal processing ও Fourier analysis: সাইন-কোসাইন তরঙ্গ orthogonal — কারণ তাদের inner product শূন্য। এই orthogoality থেকেই Fourier series কাজ করে।
• Machine learning: neural network-এ attention mechanism inner product দিয়ে দুটো vector কতটা "মিলছে" তা মাপে।
• Statistics: দুটো random variable-এর correlation হলো তাদের inner product (normalized)।

আগের অধ্যায়ে \(\ell^2\) sequence space আর \(L^2(\mu)\) function space দেখেছিলাম — এরা শুধু normed space নয়, এদের প্রাকৃতিক inner product আছে, এবং সেটাই এদের বিশেষ করে তোলে।

---

২. মূল ধারণা (Core idea)

Inner product কী — স্বজ্ঞা

\(\mathbb{R}^2\)-এ দুটো vector \(\mathbf{x} = (x_1, x_2)\) আর \(\mathbf{y} = (y_1, y_2)\)-এর dot product (বিন্দুগুণন) হলো:

\[\mathbf{x} \cdot \mathbf{y} = x_1 y_1 + x_2 y_2\]

এই একটাই সংখ্যা থেকে পাওয়া যায়:

• দৈর্ঘ্য: \(\lVert \mathbf{x} \rVert = \sqrt{\mathbf{x} \cdot \mathbf{x}} = \sqrt{x_1^2 + x_2^2}\)
• কোণ: \(\cos\theta = \dfrac{\mathbf{x} \cdot \mathbf{y}}{\lVert \mathbf{x} \rVert \lVert \mathbf{y} \rVert}\)
• Projection: \(\mathbf{x}\)-এর \(\mathbf{y}\)-এর উপর projection = \(\dfrac{\mathbf{x} \cdot \mathbf{y}}{\lVert \mathbf{y} \rVert^2}\,\mathbf{y}\)

Inner product হলো এই dot product-এর সাধারণীকরণ (generalization) — \(\mathbb{R}^n\), \(\ell^2\), \(L^2(\mu)\) — সব জায়গায় একই ধারণা কাজ করে।

চিত্র ১: \(\mathbb{R}^2\)-এ inner product (dot product) হলো দুটো vector-এর মধ্যে কোণের পরিমাপ। \(\langle \mathbf{x}, \mathbf{y} \rangle = \lVert \mathbf{x} \rVert \lVert \mathbf{y} \rVert \cos\theta\) — কোণ বাড়লে inner product কমে, লম্ব হলে শূন্য।

Norm কোথা থেকে আসে

Inner product থেকে স্বয়ংক্রিয়ভাবে একটা norm তৈরি হয়:

\[\lVert f \rVert = \sqrt{\langle f, f \rangle}\]

এটাই নতুন ধারণার কেন্দ্র — norm-কে আর আলাদা করে দিতে হয় না, inner product থেকেই বেরিয়ে আসে।

চিত্র ২: \(\mathbf{x} = (3, 2)\)-এর জন্য \(\lVert \mathbf{x} \rVert = \sqrt{\langle \mathbf{x}, \mathbf{x} \rangle} = \sqrt{3^2 + 2^2} = \sqrt{13}\) — মূলবিন্দু থেকে সরলরেখা দূরত্ব। Inner product থেকে norm তৈরির চিত্র।

---

৩. সংজ্ঞা ও উপপাদ্য (Definitions & Theorems)

Inner product-এর আনুষ্ঠানিক সংজ্ঞা

সংজ্ঞা: Inner Product (অন্তঃগুণন)

ধরো \(V\) একটা vector space over \(\mathbb{F}\) (যেখানে \(\mathbb{F} = \mathbb{R}\) বা \(\mathbb{C}\))। একটা ফাংশন \(\langle \cdot, \cdot \rangle : V \times V \to \mathbb{F}\) কে inner product বলা হয় যদি নিচের তিনটা শর্ত পূরণ হয়:

(IP1) Linearity in first slot (প্রথম পদে রৈখিকতা):

\[\langle \alpha f + g, h \rangle = \alpha \langle f, h \rangle + \langle g, h \rangle \quad \forall\, f, g, h \in V,\; \alpha \in \mathbb{F}\]

(IP2) Conjugate symmetry (অনুবন্ধ প্রতিসাম্য):

\[\langle f, g \rangle = \overline{\langle g, f \rangle} \quad \forall\, f, g \in V\]

(IP3) Positive definiteness (ধনাত্মক নিশ্চিততা):

\[\langle f, f \rangle \geq 0, \quad \text{এবং } \langle f, f \rangle = 0 \iff f = \mathbf{0}\]

একটা জোড় \((V, \langle \cdot, \cdot \rangle)\) কে inner product space (অন্তঃগুণন স্পেস) বলে।

স্বজ্ঞা:

• IP1: প্রথম vector-এর linear combination করলে inner product-এও সেই combination হয় — "সুপারপজিশন" নীতি।
• IP2: অর্ডার উল্টালে complex conjugate আসে। বাস্তব ক্ষেত্রে (\(\mathbb{F} = \mathbb{R}\)) এটা শুধু symmetry: \(\langle f, g \rangle = \langle g, f \rangle\)।
• IP3: নিজের সাথে inner product সবসময় শূন্য বা ধনাত্মক; কেবল শূন্য vector-এর ক্ষেত্রে শূন্য।

IP2 থেকে গুরুত্বপূর্ণ corollary: দ্বিতীয় পদে anti-linearity আসে:

\[\langle f, \alpha g \rangle = \bar{\alpha} \langle f, g \rangle\]

চিত্র ৩: Inner product space-এর সব axiom ও মূল ফলাফল এক নজরে। Linearity, conjugate symmetry, positive definiteness — আর এদের থেকে বেরিয়ে আসে norm এবং Cauchy–Schwarz।

Norm associated with an inner product

সংজ্ঞা: Induced Norm (আনীত নর্ম)

Inner product space \((V, \langle \cdot, \cdot \rangle)\)-এ প্রতিটা \(f \in V\)-এর জন্য তার induced norm বা associated norm সংজ্ঞায়িত হয়:

\[\lVert f \rVert := \sqrt{\langle f, f \rangle}\]

এটা একটা valid norm কিনা — সেটা প্রমাণ করা এই অধ্যায়ের কাজ। IP3 থেকে \(\lVert f \rVert \geq 0\) এবং \(\lVert f \rVert = 0 \iff f = 0\) তাৎক্ষণিক। Homogeneity সহজ:

\[\lVert \alpha f \rVert^2 = \langle \alpha f, \alpha f \rangle = \alpha \overline{\alpha} \langle f, f \rangle = \lvert \alpha \rvert^2 \lVert f \rVert^2\]

তাই \(\lVert \alpha f \rVert = \lvert \alpha \rvert \lVert f \rVert\)। কিন্তু triangle inequality? — সেটার জন্য Cauchy–Schwarz দরকার।

উদাহরণসমূহ: Inner Product Space

উদাহরণ ১: \(\mathbb{R}^n\) (বা \(\mathbb{C}^n\)) — Standard dot product

\(\mathbf{a} = (a_1, \ldots, a_n)\) এবং \(\mathbf{b} = (b_1, \ldots, b_n)\)-এর জন্য:

\[\langle \mathbf{a}, \mathbf{b} \rangle = a_1 \bar{b}_1 + a_2 \bar{b}_2 + \cdots + a_n \bar{b}_n = \sum_{k=1}^n a_k \bar{b}_k\]

\(\mathbb{R}^n\)-এ এটা শুধু \(\sum a_k b_k\)। Induced norm: \(\lVert \mathbf{a} \rVert = \sqrt{\sum \lvert a_k \rvert^2}\) — এটাই Euclidean norm।

উদাহরণ ২: \(\ell^2\) — Sequence inner product

\((a_1, a_2, \ldots)\) এবং \((b_1, b_2, \ldots)\) উভয়ই \(\ell^2\)-এ থাকলে:

\[\langle (a_k), (b_k) \rangle = \sum_{k=1}^{\infty} a_k \bar{b}_k\]

এই series absolutely convergent — Hölder's inequality (\(p = 2\)) থেকে নিশ্চিত। Induced norm: \(\lVert (a_k) \rVert = \left(\sum \lvert a_k \rvert^2\right)^{1/2}\) — ঠিক আগে থেকে জানা \(\lVert \cdot \rVert_2\)।

উদাহরণ ৩: \(L^2(\mu)\) — Function inner product

Measure space \((X, \mathcal{S}, \mu)\)-এ \(f, g \in L^2(\mu)\)-এর জন্য:

\[\langle f, g \rangle = \int f \bar{g} \, d\mu\]

Hölder (\(p = p' = 2\)) থেকে এই integral সংজ্ঞিত। বিশেষ ক্ষেত্র: \(C([0,1])\)-এ \(\langle f, g \rangle = \int_0^1 f(x) \overline{g(x)}\, dx\)।

Cauchy–Schwarz Inequality (কোশি–শোয়ার্জ অসমতা)

এটাই এই অধ্যায়ের কেন্দ্রীয় ফলাফল। Axler (2020, 8.11) এর proof অনুসরণে:

উপপাদ্য: Cauchy–Schwarz Inequality

Inner product space \((V, \langle \cdot, \cdot \rangle)\)-এ যেকোনো \(f, g \in V\)-এর জন্য:

\[\lvert \langle f, g \rangle \rvert \leq \lVert f \rVert \lVert g \rVert\]

সমতা (\(=\)) হয় যদি এবং কেবল যদি \(f\) এবং \(g\)-এর একটা অপরটার scalar multiple হয় (অর্থাৎ তারা linear dependent বা একটা শূন্য)।

প্রমাণ: যদি \(g = \mathbf{0}\) হয়, তাহলে উভয় পক্ষ শূন্য। তাই ধরা যাক \(g \neq \mathbf{0}\)।

Orthogonal decomposition: \(f\)-কে \(g\)-এর দিকে আর \(g\)-এর লম্ব দিকে ভাগ করি। লিখি:

\[f = \underbrace{\frac{\langle f, g \rangle}{\lVert g \rVert^2}\, g}_{f_{\parallel}} + \underbrace{h}_{f_{\perp}}\]

যেখানে \(h = f - \dfrac{\langle f, g \rangle}{\lVert g \rVert^2}\, g\)। তখন:

\[\langle h, g \rangle = \left\langle f - \frac{\langle f,g\rangle}{\lVert g\rVert^2}g,\; g \right\rangle = \langle f,g\rangle - \frac{\langle f,g\rangle}{\lVert g\rVert^2}\langle g,g\rangle = 0\]

তাই \(h \perp g\) (orthogonal)। Pythagorean theorem প্রয়োগ করি (\(f_\parallel \perp h\)):

\[\lVert f \rVert^2 = \left\lVert \frac{\langle f,g\rangle}{\lVert g\rVert^2}g \right\rVert^2 + \lVert h \rVert^2 = \frac{\lvert \langle f,g\rangle \rvert^2}{\lVert g\rVert^2} + \lVert h \rVert^2 \geq \frac{\lvert \langle f,g\rangle \rvert^2}{\lVert g\rVert^2}\]

উভয় পক্ষে \(\lVert g \rVert^2\) গুণ করে square root নিলে:

\[\lvert \langle f, g \rangle \rvert \leq \lVert f \rVert \lVert g \rVert \qquad \square\]

সমতার শর্ত: \(\lVert h \rVert^2 = 0 \iff h = 0 \iff f\) is a scalar multiple of \(g\)।

চিত্র ৪: Cauchy–Schwarz-এর geometric প্রমাণ। \(\mathbf{f}\)-কে \(\mathbf{g}\)-এর দিকে project করলে projection-এর দৈর্ঘ্য সর্বোচ্চ \(\lVert \mathbf{f} \rVert\) — তার বেশি হতে পারে না। অর্থোগোনাল component \(\mathbf{h}\) (সবুজ) থাকলে projection ছোট হয়।

Triangle Inequality (ত্রিভুজ অসমতা)

Cauchy–Schwarz ব্যবহার করে এখন triangle inequality প্রমাণ করা যায়:

উপপাদ্য: Triangle Inequality

Inner product space-এ যেকোনো \(f, g \in V\)-এর জন্য:

\[\lVert f + g \rVert \leq \lVert f \rVert + \lVert g \rVert\]

প্রমাণ:

\[\lVert f + g \rVert^2 = \langle f+g, f+g \rangle = \langle f,f \rangle + \langle f,g \rangle + \langle g,f \rangle + \langle g,g \rangle\]

\[= \lVert f \rVert^2 + 2\,\mathrm{Re}\,\langle f,g \rangle + \lVert g \rVert^2\]

এখন \(\mathrm{Re}\,\langle f,g\rangle \leq \lvert \langle f,g \rangle \rvert \leq \lVert f \rVert \lVert g \rVert\) (Cauchy–Schwarz)। তাই:

\[\lVert f+g \rVert^2 \leq \lVert f \rVert^2 + 2\lVert f \rVert \lVert g \rVert + \lVert g \rVert^2 = (\lVert f \rVert + \lVert g \rVert)^2\]

Square root নিলে \(\lVert f+g \rVert \leq \lVert f \rVert + \lVert g \rVert\)। \(\square\)

এর মানে: যেকোনো inner product space স্বয়ংক্রিয়ভাবে একটা normed space — norm হলো \(\lVert f \rVert = \sqrt{\langle f,f\rangle}\)।

Angle ও Cosine (কোণ)

\(\mathbb{R}^n\)-এ দুটো nonzero vector-এর মধ্যে কোণ (angle) \(\theta\) সংজ্ঞায়িত হয়:

\[\cos\theta = \frac{\langle f, g \rangle}{\lVert f \rVert \lVert g \rVert}\]

Cauchy–Schwarz নিশ্চিত করে যে ডান পক্ষ \([-1, 1]\)-এ থাকে, তাই \(\arccos\) নেওয়া সংজ্ঞিত। General inner product space-এ এটাই কোণের সংজ্ঞা (Axler, Exercise 8A.9)।

চিত্র ৫: তিনটা ক্ষেত্রে কোণ। বাঁয়ে \(\theta < 90°\): inner product ধনাত্মক। মাঝে \(\theta = 90°\): orthogonal, inner product শূন্য। ডানে \(\theta > 90°\): inner product ঋণাত্মক। Cauchy–Schwarz নিশ্চিত করে \(\cos\theta \in [-1,1]\)।

Parallelogram Law (সামান্তরিক সূত্র)

উপপাদ্য: Parallelogram Law

Inner product space-এ যেকোনো \(f, g \in V\)-এর জন্য:

\[\lVert f + g \rVert^2 + \lVert f - g \rVert^2 = 2\lVert f \rVert^2 + 2\lVert g \rVert^2\]

প্রমাণ:

\[\lVert f+g\rVert^2 = \lVert f\rVert^2 + \langle f,g\rangle + \langle g,f\rangle + \lVert g\rVert^2\]

\[\lVert f-g\rVert^2 = \lVert f\rVert^2 - \langle f,g\rangle - \langle g,f\rangle + \lVert g\rVert^2\]

যোগ করলে cross terms cancel হয়ে যায়: \(\lVert f+g\rVert^2 + \lVert f-g\rVert^2 = 2\lVert f\rVert^2 + 2\lVert g\rVert^2\)। \(\square\)

Geometric অর্থ: একটা parallelogram-এর দুটো diagonal-এর বর্গের যোগ = চারটা বাহুর বর্গের যোগ (Sternberg, 2.1.6 — Apollonius-এর theorem)।

বিশেষ গুরুত্ব: Parallelogram law একটা norm-কে characterize করে — যদি কোনো normed space-এ এই law সত্য হয়, তাহলে সেই norm কোনো inner product থেকে এসেছে (Jordan–von Neumann theorem)। যেমন \(\ell^1\)-এ parallelogram law ব্যর্থ — তাই \(\ell^1\) কোনো inner product space নয়।

চিত্র ৬: Parallelogram law-এর geometric অর্থ। কমলা ও বাদামি diagonals-এর বর্গের যোগ = নীল ও লাল sides-এর বর্গের যোগ (×২)। এই সম্পর্ক শুধু inner product space-এই সত্য।

\(L^2(\mu)\)-এ Inner Product

এটাই সবচেয়ে গুরুত্বপূর্ণ অসীম-মাত্রার উদাহরণ। Measure space \((X, \mathcal{S}, \mu)\)-এ:

\[\langle f, g \rangle = \int_X f\, \bar{g} \, d\mu, \quad f, g \in L^2(\mu)\]

Cauchy–Schwarz এখানে বলে:

\[\left\lvert \int_X f\, \bar{g}\, d\mu \right\rvert \leq \left(\int_X \lvert f\rvert^2\, d\mu\right)^{1/2} \left(\int_X \lvert g\rvert^2\, d\mu\right)^{1/2}\]

এটাই Bunyakovsky এবং Schwarz-এর integral inequality — Axler (2020, 8.14) এটাকে Cauchy–Schwarz-এর বিশেষ ক্ষেত্র হিসেবে দেখান।

চিত্র ৭: \(L^2\)-এ \(\langle f, g \rangle = \int f\, g\) হলো দুটো function-এর "overlap"। সবুজ অঞ্চল যেখানে উভয়ের গুণফল ধনাত্মক (inner product বাড়ায়), লাল যেখানে ঋণাত্মক। মোট signed area-ই inner product।

Cauchy–Schwarz-এ সমতার ক্ষেত্র

Cauchy–Schwarz-এ সমতা হয় ঠিক তখনই যখন \(f\) আর \(g\) linearly dependent — অর্থাৎ \(f = \alpha g\) কোনো scalar \(\alpha\)-এর জন্য।

Geometric অর্থ: তখন দুটো vector একই line-এ থাকে — সমান্তরাল।

চিত্র ৮: বাঁয়ে Cauchy–Schwarz সমতার ক্ষেত্র — \(\mathbf{g} = \alpha \mathbf{f}\), সমান্তরাল। ডানে strict inequality — \(f \perp g\), সম্পূর্ণ ভিন্ন দিকে।

---

৪. উদাহরণ ও Analogy

Analogy: Inner product যেন "মিল পরীক্ষা"

দুটো document (যেমন — review) vector হিসেবে ভাবো (প্রতিটা শব্দের frequency একটা component)। দুটো document-এর inner product বড় হলে মানে তারা অনেক শব্দ share করে — "মিল আছে"। Inner product শূন্য হলে কোনো common শব্দ নেই। এটাই information retrieval-এ cosine similarity।

Worked Example 1: \(\mathbb{R}^3\)-এ Cauchy–Schwarz verify

\(f = (1, 2, -1)\) এবং \(g = (3, 0, 2)\)।

\[\langle f, g \rangle = 1 \cdot 3 + 2 \cdot 0 + (-1) \cdot 2 = 3 + 0 - 2 = 1\]

\[\lVert f \rVert = \sqrt{1 + 4 + 1} = \sqrt{6}, \quad \lVert g \rVert = \sqrt{9 + 0 + 4} = \sqrt{13}\]

Cauchy–Schwarz: \(\lvert 1 \rvert \leq \sqrt{6} \cdot \sqrt{13} = \sqrt{78} \approx 8.83\) — হ্যাঁ, ✓।

কোণ: \(\cos\theta = \dfrac{1}{\sqrt{78}} \approx 0.113\), তাই \(\theta \approx 83.5°\)।

Worked Example 2: \(L^2[0,1]\)-এ inner product

\(f(x) = x\) এবং \(g(x) = x^2\):

\[\langle f, g \rangle = \int_0^1 x \cdot x^2\, dx = \int_0^1 x^3\, dx = \frac{1}{4}\]

\[\lVert f \rVert = \sqrt{\int_0^1 x^2\, dx} = \sqrt{\frac{1}{3}} = \frac{1}{\sqrt{3}}\]

\[\lVert g \rVert = \sqrt{\int_0^1 x^4\, dx} = \sqrt{\frac{1}{5}} = \frac{1}{\sqrt{5}}\]

Cauchy–Schwarz: \(\dfrac{1}{4} \leq \dfrac{1}{\sqrt{3}} \cdot \dfrac{1}{\sqrt{5}} = \dfrac{1}{\sqrt{15}} \approx 0.258\) — হ্যাঁ, \(0.25 \leq 0.258\), ✓।

Worked Example 3: Parallelogram law ব্যর্থ হওয়ার উদাহরণ

\(\ell^1\)-এ \(f = (1, 0, 0, \ldots)\) এবং \(g = (0, 1, 0, \ldots)\) নাও।

\[\lVert f + g \rVert_1 = \lVert (1,1,0,\ldots) \rVert_1 = 2, \quad \lVert f - g \rVert_1 = \lVert (1,-1,0,\ldots) \rVert_1 = 2\]

Parallelogram law-এর বাঁ পক্ষ: \(2^2 + 2^2 = 8\)।

ডান পক্ষ: \(2(\lVert f \rVert_1^2 + \lVert g \rVert_1^2) = 2(1+1) = 4\)।

\(8 \neq 4\) — Parallelogram law ব্যর্থ। তাই \(\lVert \cdot \rVert_1\) কোনো inner product থেকে আসে না।

---

৫. সাধারণ ভুল (Common mistakes)

1. IP2 ভুলে যাওয়া — real ও complex-এর পার্থক্য। Real space-এ \(\langle f, g \rangle = \langle g, f \rangle\) (symmetric), কিন্তু complex space-এ \(\langle f, g \rangle = \overline{\langle g, f \rangle}\) (conjugate symmetric)। দ্বিতীয় পদে anti-linearity আসে: \(\langle f, \alpha g \rangle = \bar{\alpha} \langle f, g \rangle\) — প্রথম পদে নয়।

2. Inner product আর norm গুলানো। \(\langle f, g \rangle\) একটা সংখ্যা (scalar); \(\lVert f \rVert\) একটা ধনাত্মক সংখ্যা। \(\langle f, f \rangle = \lVert f \rVert^2\), কিন্তু \(\langle f, g \rangle \neq \lVert f \rVert \lVert g \rVert\) সাধারণত।

3. Cauchy–Schwarz-এ সমতার শর্ত। অনেকে মনে করে সমতা হয় শুধু \(f = g\)-তে — আসলে সমতা হয় \(f = \alpha g\) (যেকোনো scalar \(\alpha\)-এর জন্য) — অর্থাৎ যেকোনো scalar multiple, একই বা বিপরীত দিক।

4. "Inner product space = Hilbert space" মনে করা। Inner product space + completeness = Hilbert space। \(C([0,1])\) with \(L^2\) inner product একটা inner product space, কিন্তু complete নয় — তাই Hilbert space নয়। (পরের অধ্যায়ে আসবে।)

5. \(\lvert \langle f,g \rangle \rvert\) আর \(\langle f,g \rangle\)-এর পার্থক্য। Cauchy–Schwarz-এ absolute value দরকার কারণ \(\langle f, g \rangle\) ঋণাত্মক বা complex হতে পারে।

6. Parallelogram law সব norm-এ সত্য মনে করা। শুধু inner product space-এর norm-ই parallelogram law মানে। \(\ell^1, \ell^\infty\) norm — এরা মানে না।

---

৬. এক্সারসাইজ (Exercises)

নিজে চেষ্টা করো, তারপর সমাধান খোলো।

1. \(\mathbb{R}^3\)-এ \(f = (2, 1, -2)\) এবং \(g = (1, -1, 1)\) নাও। \(\langle f, g \rangle\), \(\lVert f \rVert\), \(\lVert g \rVert\) হিসেব করো। Cauchy–Schwarz verify করো এবং \(f, g\)-এর মধ্যে কোণ নির্ণয় করো।

2. \(L^2[0, \pi]\)-এ দেখাও যে \(\langle \sin, \cos \rangle = 0\) (অর্থাৎ \(\sin x\) এবং \(\cos x\) orthogonal)। [ইঙ্গিত: \(\int_0^\pi \sin x \cos x\, dx = \frac{1}{2}\int_0^\pi \sin(2x)\, dx\)।]

3. Inner product space-এ দেখাও: \(\lVert f + g \rVert^2 - \lVert f - g \rVert^2 = 4\,\mathrm{Re}\,\langle f, g \rangle\)। এটা থেকে polarization identity লেখো (real case-এ)।

4. \(\ell^2\)-এ \(a = (1/n)_{n\geq 1}\) এবং \(b = (1/n^2)_{n\geq 1}\) নাও। \(\langle a, b \rangle\) কত? [ইঙ্গিত: \(\sum_{n=1}^\infty 1/n^3 = \zeta(3)\) — Apéry's constant ≈ 1.202।] Cauchy–Schwarz-এ এই ক্ষেত্রে কী বলা যায়?

5. দেখাও যে \(\lVert f \rVert = \lVert g \rVert\) হলে \(f + g\) এবং \(f - g\) অবশ্যই orthogonal। [ইঙ্গিত: \(\langle f+g, f-g \rangle\) হিসেব করো।]

6. Axler 8A.16: দেখাও যে কোনো normed space-এ parallelogram law সত্য হলে সেখানে একটা inner product আছে। [ইঙ্গিত: real case-এ সংজ্ঞায়িত করো \(\langle f, g \rangle := \frac{1}{4}(\lVert f+g \rVert^2 - \lVert f-g \rVert^2)\) এবং linearity verify করো।]

7. Cauchy–Schwarz ব্যবহার করে প্রমাণ করো: যেকোনো \(a_1, \ldots, a_n, b_1, \ldots, b_n \in \mathbb{R}\)-এর জন্য:

   \[\left(\sum_{k=1}^n a_k b_k\right)^2 \leq \left(\sum_{k=1}^n a_k^2\right)\left(\sum_{k=1}^n b_k^2\right)\]

8. \(C[0,1]\)-এ \(L^2\) inner product-এ \(\langle f, g \rangle = \int_0^1 f(x) g(x)\, dx\): \(f(x) = x\) এবং \(g(x) = 1 - x\)-এর inner product, norm, এবং কোণ নির্ণয় করো।

---

৭. সমাধান (ব্যাখ্যাসহ)

১-নং সমাধান দেখাও

\(f = (2, 1, -2)\), \(g = (1, -1, 1)\)।

\[\langle f, g \rangle = 2 \cdot 1 + 1 \cdot (-1) + (-2) \cdot 1 = 2 - 1 - 2 = -1\]

\[\lVert f \rVert = \sqrt{4 + 1 + 4} = \sqrt{9} = 3\]

\[\lVert g \rVert = \sqrt{1 + 1 + 1} = \sqrt{3}\]

Cauchy–Schwarz: \(\lvert -1 \rvert = 1 \leq 3 \cdot \sqrt{3} = 3\sqrt{3} \approx 5.2\) — ✓।

কোণ: \(\cos\theta = \dfrac{-1}{3\sqrt{3}} \approx -0.192\), তাই \(\theta = \arccos(-0.192) \approx 101.1°\)।

Inner product ঋণাত্মক — vectors কিছুটা বিপরীত দিকে।

২-নং সমাধান দেখাও

\[\langle \sin, \cos \rangle = \int_0^\pi \sin x \cdot \cos x\, dx = \frac{1}{2}\int_0^\pi \sin(2x)\, dx\]

\[= \frac{1}{2}\left[-\frac{\cos(2x)}{2}\right]_0^\pi = \frac{1}{2}\left(-\frac{\cos 2\pi}{2} + \frac{\cos 0}{2}\right) = \frac{1}{2}\left(-\frac{1}{2} + \frac{1}{2}\right) = 0\]

তাই \(\sin x \perp \cos x\) — orthogonal। এটাই Fourier analysis-এর মূল — trigonometric functions পরস্পর orthogonal।

৩-নং সমাধান দেখাও

\[\lVert f+g\rVert^2 = \lVert f\rVert^2 + \langle f,g\rangle + \overline{\langle f,g\rangle} + \lVert g\rVert^2 = \lVert f\rVert^2 + 2\,\mathrm{Re}\,\langle f,g\rangle + \lVert g\rVert^2\]

\[\lVert f-g\rVert^2 = \lVert f\rVert^2 - \langle f,g\rangle - \overline{\langle f,g\rangle} + \lVert g\rVert^2 = \lVert f\rVert^2 - 2\,\mathrm{Re}\,\langle f,g\rangle + \lVert g\rVert^2\]

বাদ দিলে: \(\lVert f+g\rVert^2 - \lVert f-g\rVert^2 = 4\,\mathrm{Re}\,\langle f,g\rangle\)। ✓

Real case-এ polarization identity: \(\langle f, g \rangle = \dfrac{1}{4}\left(\lVert f+g\rVert^2 - \lVert f-g\rVert^2\right)\)।

এটা গুরুত্বপূর্ণ কারণ এর মানে: norm থেকেই inner product সম্পূর্ণ recover করা যায় (যদি parallelogram law সত্য থাকে)।

৪-নং সমাধান দেখাও

\[\langle a, b \rangle = \sum_{n=1}^\infty \frac{1}{n} \cdot \frac{1}{n^2} = \sum_{n=1}^\infty \frac{1}{n^3} = \zeta(3) \approx 1.202\]

\[\lVert a \rVert = \sqrt{\sum \frac{1}{n^2}} = \sqrt{\frac{\pi^2}{6}}, \quad \lVert b \rVert = \sqrt{\sum \frac{1}{n^4}} = \sqrt{\frac{\pi^4}{90}} = \frac{\pi^2}{\sqrt{90}}\]

Cauchy–Schwarz: \(\zeta(3) \leq \dfrac{\pi}{\sqrt{6}} \cdot \dfrac{\pi^2}{\sqrt{90}} = \dfrac{\pi^3}{\sqrt{540}}\)।

\(\sqrt{540} \approx 23.24\), তাই ডানদিক \(\approx \dfrac{31.0}{23.24} \approx 1.334\)।

\(1.202 \leq 1.334\) — ✓। Cauchy–Schwarz এখানে \(\zeta(3)\)-এর উপরে একটা bound দিচ্ছে।

৫-নং সমাধান দেখাও

\(\lVert f \rVert = \lVert g \rVert\) ধরে \(\langle f+g, f-g\rangle\) হিসেব করি:

\[\langle f+g, f-g\rangle = \langle f,f\rangle - \langle f,g\rangle + \langle g,f\rangle - \langle g,g\rangle\]

\[= \lVert f\rVert^2 - \langle f,g\rangle + \overline{\langle f,g\rangle} - \lVert g\rVert^2\]

\[= \lVert f\rVert^2 - \lVert g\rVert^2 + 2i\,\mathrm{Im}\,\langle f,g\rangle\]

Real inner product space-এ (\(\mathrm{Im} = 0\)):

\[\langle f+g, f-g\rangle = \lVert f\rVert^2 - \lVert g\rVert^2 = 0\]

তাই \(f+g \perp f-g\)। ✓

Geometric অর্থ: rhombus (সব বাহু সমান) — তার diagonals লম্ব!

৬-নং সমাধান দেখাও

Real case-এ সংজ্ঞা করি:

\[\langle f, g \rangle := \frac{1}{4}\left(\lVert f+g\rVert^2 - \lVert f-g\rVert^2\right)\]

IP3 (positive definiteness): \(\langle f,f\rangle = \frac{1}{4}(\lVert 2f\rVert^2 - 0) = \lVert f\rVert^2 \geq 0\)।

IP2 (symmetry): \(\lVert f+g\rVert = \lVert g+f\rVert\) এবং \(\lVert f-g\rVert = \lVert g-f\rVert\) তাই \(\langle f,g\rangle = \langle g,f\rangle\)। ✓

IP1 (linearity): Parallelogram law ব্যবহার করে ধাপে ধাপে দেখানো যায়: - প্রথমে \(\langle f_1 + f_2, g\rangle = \langle f_1, g\rangle + \langle f_2, g\rangle\) (parallelogram law twice)। - তারপর integer, rational, real scalar-এ linearity extend করা যায়।

তাই parallelogram law সত্য হলে উক্ত formula একটা inner product দেয়। (Jordan–von Neumann, 1935।)

৭-নং সমাধান দেখাও

\(\mathbb{R}^n\)-এ standard inner product \(\langle \mathbf{a}, \mathbf{b}\rangle = \sum a_k b_k\)-এ Cauchy–Schwarz প্রযোগ করি:

\[\left\lvert \sum_{k=1}^n a_k b_k \right\rvert \leq \lVert \mathbf{a} \rVert \lVert \mathbf{b} \rVert = \sqrt{\sum a_k^2} \cdot \sqrt{\sum b_k^2}\]

উভয় পক্ষে বর্গ করলে:

\[\left(\sum_{k=1}^n a_k b_k\right)^2 \leq \left(\sum_{k=1}^n a_k^2\right)\left(\sum_{k=1}^n b_k^2\right) \quad \square\]

এই রূপটা Augustin-Louis Cauchy 1821 সালে finite sums-এর জন্য প্রথম প্রমাণ করেছিলেন।

৮-নং সমাধান দেখাও

\(f(x) = x\), \(g(x) = 1 - x\) on \([0,1]\)।

\[\langle f, g \rangle = \int_0^1 x(1-x)\, dx = \int_0^1 (x - x^2)\, dx = \frac{1}{2} - \frac{1}{3} = \frac{1}{6}\]

\[\lVert f \rVert = \sqrt{\int_0^1 x^2\, dx} = \sqrt{\frac{1}{3}} = \frac{1}{\sqrt{3}}\]

\[\lVert g \rVert = \sqrt{\int_0^1 (1-x)^2\, dx} = \sqrt{\int_0^1 (1 - 2x + x^2)\, dx} = \sqrt{1 - 1 + \frac{1}{3}} = \frac{1}{\sqrt{3}}\]

কোণ:

\[\cos\theta = \frac{1/6}{(1/\sqrt{3})(1/\sqrt{3})} = \frac{1/6}{1/3} = \frac{1}{2}\]

তাই \(\theta = \arccos(1/2) = 60°\)।

\(f\) আর \(1-f\)-এর মধ্যে \(L^2\) কোণ \(60°\) — এটা তাদের "কতটা আলাদা" তার একটা পরিমাপ।

---

৮. সারসংক্ষেপ ও Checklist

এই অধ্যায়ের পর নিজেকে যাচাই করো:

• [ ] Inner product-এর তিনটা axiom (linearity in 1st slot, conjugate symmetry, positive definiteness) চোখ বন্ধ করে বলতে পারি।
• [ ] Real আর complex inner product-এর পার্থক্য জানি — conjugate symmetry মানে কী বুঝি।
• [ ] Induced norm \(\lVert f \rVert = \sqrt{\langle f, f\rangle}\) এবং এটা valid norm কেন — homogeneity ও triangle inequality।
• [ ] Cauchy–Schwarz inequality \(\lvert \langle f,g\rangle \rvert \leq \lVert f\rVert \lVert g\rVert\)-এর proof বুঝেছি — orthogonal decomposition কৌশল।
• [ ] Triangle inequality Cauchy–Schwarz থেকে বের করতে পারি।
• [ ] Angle \(\cos\theta = \langle f,g\rangle/(\lVert f\rVert \lVert g\rVert)\) কীভাবে সংজ্ঞায়িত এবং Cauchy–Schwarz কেন দরকার।
• [ ] Parallelogram law জানি এবং কেন এটা inner product norm-কে characterize করে — Jordan–von Neumann।
• [ ] \(\mathbb{R}^n\), \(\ell^2\), \(L^2(\mu)\)-এর inner product formula জানি এবং Cauchy–Schwarz-এর রূপ প্রতিটায় লিখতে পারি।
• [ ] \(\ell^1\) norm কেন inner product নয় — parallelogram law counterexample দিতে পারি।

---

➡️ পরের অধ্যায়: 5.2 — Orthogonality ও Projection — inner product থেকে আসে orthogonality (লম্বতা), orthogonal complement, আর projection theorem; Hilbert space-এ best approximation-এর মূল তত্ত্ব।