Définition. Un produit scalaire sur $E$ est une application $\phi :E\times E\to ℝ$, notée $\phi (x,y)=⟨x,y⟩$, qui vérifie, pour tous $x,y,z\in E$ et $\lambda \in ℝ$ :

Symétrie et linéarité à gauche donnent la linéarité à droite : $\phi$ est une forme bilinéaire symétrique. On dit en résumé : forme bilinéaire, symétrique, définie positive.

• On appelle espace préhilbertien réel un $ℝ$-espace vectoriel $E$ muni d'un produit scalaire ; lorsque de plus $E$ est de dimension finie, on parle d'espace euclidien.
• Conséquences immédiates : $⟨0_E,y⟩=0$ ; $⟨{\sum }_i{\lambda }_i{x}_i,{\sum }_j{\mu }_j{y}_j⟩={\sum }_{i,j}{\lambda }_i{\mu }_j⟨x_i,y_j⟩$.

Exemples à connaître (chacun se vérifie avec la méthode ci-dessous).

Contre-exemples instructifs.

• Sur ${ℝ}_2[X]$, $(P,Q)\mapsto P(0)Q(0)+P(1)Q(1)$ est bilinéaire, symétrique, positive, mais pas définie : $P=X(X-1)\mathrm{\ne }0$ donne $0$. Avec deux points seulement, il faudrait se limiter à ${ℝ}_1[X]$.
• Sur ${ℳ}_2(ℝ)$, $(A,B)\mapsto \mathrm{tr}(AB)$ n'est pas positive : pour $A=\left(\begin{array}{cc}0& 1\\ -1& 0\end{array}\right)$, $\mathrm{tr}(A^2)=-2$. La transposée est indispensable.
• Sur $𝒞([0,1],ℝ)$, $(f,g)\mapsto {\int }_0^{1\mathrm{/}2}fg$ n'est pas définie (une fonction nulle sur $[0,\frac{1}{2}]$ et non nulle après).

Produits scalaires « avec matrice » sur ${ℝ}^2$. $\phi (x,y)=\alpha x_1{y}_1+\beta (x_1{y}_2+x_2{y}_1)+\gamma x_2{y}_2$ est un produit scalaire exactement lorsque $\alpha >0$ et $\alpha \gamma -{\beta }^2>0$ : on écrit $\phi (x,x)=\alpha (x_1+\frac{\beta }{\alpha }{x}_2{)}^2+\frac{\alpha \gamma -{\beta }^2}{\alpha }{x}_2^2$ (forme canonique, comme pour un trinôme).

Norme associée : $\parallel x\parallel =\sqrt{⟨x,x⟩}$. Distance : $d(x,y)=\parallel x-y\parallel$. Un vecteur de norme $1$ est unitaire ; pour $x\mathrm{\ne }0$, $\frac{x}{\parallel x\parallel }$ est unitaire (on normalise $x$).

• $\parallel x\parallel =0⟺x=0$ ; $\parallel \lambda x\parallel =\mid \lambda \mid \parallel x\parallel$.
• Développements (à savoir refaire, ils remplacent les identités remarquables) : $$\parallel x+y{\parallel }^2=\parallel x{\parallel }^2+2⟨x,y⟩+\parallel y{\parallel }^2,\parallel x-y{\parallel }^2=\parallel x{\parallel }^2-2⟨x,y⟩+\parallel y{\parallel }^2,$$ $$⟨x+y,x-y⟩=\parallel x{\parallel }^2-\parallel y{\parallel }^2\mathrm{.}$$
• Identités de polarisation : le produit scalaire se retrouve à partir de la norme, $$⟨x,y⟩=\frac{1}{2}(\parallel x+y{\parallel }^2-\parallel x{\parallel }^2-\parallel y{\parallel }^2)=\frac{1}{4}(\parallel x+y{\parallel }^2-\parallel x-y{\parallel }^2)\mathrm{.}$$
• Identité du parallélogramme : $\parallel x+y{\parallel }^2+\parallel x-y{\parallel }^2=2(\parallel x{\parallel }^2+\parallel y{\parallel }^2)$ (la somme des carrés des diagonales égale la somme des carrés des quatre côtés).

Exemple. Si $\parallel x\parallel =3$, $\parallel y\parallel =4$ et $\parallel x+y\parallel =6$, alors $⟨x,y⟩=\frac{1}{2}(36-9-16)=\frac{11}{2}$ et $\parallel x-y{\parallel }^2=2(9+16)-36=14$.

Une norme qui ne vient d'aucun produit scalaire. Sur ${ℝ}^2$, $N(x)=\max (\mid x_1\mid ,\mid x_2\mid )$ est une norme (séparation, homogénéité, inégalité triangulaire) mais, pour $x=(1,0)$, $y=(0,1)$ : $N(x+y{)}^2+N(x-y{)}^2=2\mathrm{\ne }4=2(N(x{)}^2+N(y{)}^2)$. Le parallélogramme sert de test : une norme qui ne le vérifie pas n'est pas associée à un produit scalaire.

Inégalité de Cauchy-Schwarz. Hypothèses : $(E,⟨\cdot ,\cdot ⟩)$ préhilbertien réel, $x,y\in E$. Conclusion : $\mid ⟨x,y⟩\mid \le \parallel x\parallel \parallel y\parallel$, et l'on a égalité exactement quand $x$ et $y$ sont colinéaires.

Preuve (à savoir refaire). Si $y=0$, tout est nul. Sinon, pour tout $t\in ℝ$, $T(t)=\parallel x+ty{\parallel }^2=\parallel y{\parallel }^2{t}^2+2⟨x,y⟩t+\parallel x{\parallel }^2\ge 0$. Ce trinôme de coefficient dominant $\parallel y{\parallel }^2>0$ garde un signe constant : son discriminant réduit $⟨x,y{⟩}^2-\parallel x{\parallel }^2\parallel y{\parallel }^2$ est $\le 0$. En cas d'égalité, $T$ a une racine (double) $t_0$, donc $\parallel x+t_{0}y\parallel =0$, d'où $x=-t_{0}y$ (on utilise ici le caractère défini). Réciproque : calcul direct.

Inégalité de Minkowski (inégalité triangulaire). Hypothèses : $x,y\in E$. Conclusion : $\parallel x+y\parallel \le \parallel x\parallel +\parallel y\parallel$, et l'on a égalité exactement quand $x$ et $y$ sont positivement colinéaires ($y=0$ ou $x=\lambda y$ avec $\lambda \ge 0$).

Preuve. $\parallel x+y{\parallel }^2=\parallel x{\parallel }^2+2⟨x,y⟩+\parallel y{\parallel }^2\le \parallel x{\parallel }^2+2\parallel x\parallel \parallel y\parallel +\parallel y{\parallel }^2$ par Cauchy-Schwarz. Égalité : il faut $⟨x,y⟩=\parallel x\parallel \parallel y\parallel$, soit Cauchy-Schwarz avec égalité et produit scalaire positif. Conséquences : $\mid \parallel x\parallel -\parallel y\parallel \mid \le \parallel x-y\parallel$ ; $\parallel \cdot \parallel$ est bien une norme et $d$ une distance.

Les trois versions à reconnaître dans un énoncé.

Méthode. Pour prouver une inégalité « produit de deux sommes (ou intégrales) $\ge$ carré d'une somme », chercher deux vecteurs $x,y$ dont le produit scalaire est la quantité au carré. Exemple : si $x_1,\dots ,x_n>0$ et $\sum x_i=1$, alors $\sum \frac{1}{x_i}\ge n^2$ (prendre $u=(\sqrt{x_i}{)}_i$ et $v=(1\mathrm{/}\sqrt{x_i}{)}_i$, de produit scalaire $n$).

• $x$ et $y$ sont orthogonaux, noté $x\perp y$, si $⟨x,y⟩=0$. Le vecteur nul est orthogonal à tout vecteur, et c'est le seul vecteur orthogonal à lui-même (caractère défini).
• Orthogonal d'une partie $A\subset E$ : $A^{\perp }=\{x\in E,\mathrm{\forall }a\in A,⟨x,a⟩=0\}$.

Propriétés de l'orthogonal.

1. $A^{\perp }$ est toujours un sous-espace vectoriel de $E$, même si $A$ n'en est pas un (intersection des noyaux des formes linéaires $x\mapsto ⟨a,x⟩$).
2. $A\subset B\Rightarrow B^{\perp }\subset A^{\perp }$ (l'inclusion se renverse).
3. $A^{\perp }=(\mathrm{Vect}A{)}^{\perp }$ : pour $F=\mathrm{Vect}(f_1,\dots ,f_p)$, il suffit de tester l'orthogonalité aux $f_j$ : $x\in F^{\perp }⟺⟨x,f_1⟩=\cdots =⟨x,f_p⟩=0$.
4. $\{0_E{\}}^{\perp }=E$, $E^{\perp }=\{0_E\}$ ; $F\cap F^{\perp }=\{0_E\}$ pour tout sous-espace $F$ ; $F\subset (F^{\perp }{)}^{\perp }$.

Deux sous-espaces $F$ et $G$ sont orthogonaux si $⟨x,y⟩=0$ pour tous $x\in F$, $y\in G$, c'est-à-dire $G\subset F^{\perp }$. Alors $F\cap G=\{0_E\}$ : la somme $F+G$ est directe. Attention : dans ${ℝ}^3$, deux plans « perpendiculaires » au sens courant (par exemple $z=0$ et $x=0$) ne sont pas orthogonaux au sens de ce chapitre (ils contiennent tous deux la droite dirigée par $(0,1,0)$).

Théorème de Pythagore. $x\perp y⟺\parallel x+y{\parallel }^2=\parallel x{\parallel }^2+\parallel y{\parallel }^2$. (Équivalence vraie dans un espace réel.) Pour plus de deux vecteurs, on a seulement une implication : si $x_1,\dots ,x_p$ sont deux à deux orthogonaux, alors $\parallel \sum x_i{\parallel }^2=\sum \parallel x_i{\parallel }^2$. La réciproque est fausse dès $p=3$ : $x=(1,0)$, $y=(0,1)$, $z=(1,-1)$ dans ${ℝ}^2$ donnent $\parallel x+y+z{\parallel }^2=4=\parallel x{\parallel }^2+\parallel y{\parallel }^2+\parallel z{\parallel }^2$ sans que $x\perp z$.

Une famille $(e_1,\dots ,e_p)$ est orthogonale si $⟨e_i,e_j⟩=0$ pour $i\mathrm{\ne }j$ ; orthonormée (ou orthonormale) si de plus chaque $e_i$ est unitaire, c'est-à-dire $⟨e_i,e_j⟩={\delta }_{ij}$ (symbole de Kronecker).

Théorème. Toute famille orthogonale de vecteurs non nuls est libre ; en particulier toute famille orthonormée est libre. Preuve : si $\sum {\lambda }_i{e}_i=0$, le produit scalaire avec $e_j$ donne ${\lambda }_j\parallel e_j{\parallel }^2=0$, donc ${\lambda }_j=0$.

Conséquences : si $\dim E=n$, une famille orthonormée a au plus $n$ vecteurs ; une famille orthonormée de $n$ vecteurs est une base orthonormée (en abrégé dans les cours : b.o.n. ; jamais d'abréviation dans une copie).

Exemples.

• Base canonique de ${ℝ}^n$ (produit canonique) ; base $(E_{ij})$ de ${ℳ}_{n,p}(ℝ)$ pour $\mathrm{tr}({}^{t}AB)$ ; base $(1,X,\dots ,X^n)$ pour le produit $\sum a_k{b}_k$ des coefficients.
• Pour ${\sum }_{k=0}^n{P}^{(k)}(a)Q^{(k)}(a)$ sur ${ℝ}_n[X]$ : la base de Taylor ${\left(\frac{(X-a{)}^k}{k!}\right)}_{0\le k\le n}$ est orthonormée.
• Pour ${\int }_0^{2\pi }fg$ sur $𝒞([0,2\pi ],ℝ)$ : la famille $(1,\cos t,\sin t,\dots ,\cos pt,\sin pt)$ est orthogonale (linéarisation : ${\int }_0^{2\pi }\cos (kt)\cos (\mathrm{\ell }t)dt=0$ pour $k\mathrm{\ne }\mathrm{\ell }$, etc.), avec $\parallel 1{\parallel }^2=2\pi$ et $\parallel \cos kt{\parallel }^2=\parallel \sin kt{\parallel }^2=\pi$ ($k\ge 1$).
• La base canonique $(1,X,X^2)$ de ${ℝ}_2[X]$ n'est pas orthonormée pour ${\int }_{-1}^{1}PQ$ : $⟨1,X^2⟩=\frac{2}{3}\mathrm{\ne }0$ et $\parallel 1{\parallel }^2=2$.

Théorème. Hypothèses : $(e_1,\dots ,e_p)$ est une famille libre de $E$ préhilbertien réel. Conclusion : il existe une unique famille orthonormée $({\epsilon }_1,\dots ,{\epsilon }_p)$ telle que, pour tout $k\in [\text{\hspace{0.17em}⁣}[1,p]\text{\hspace{0.17em}⁣}]$, (i) $\mathrm{Vect}({\epsilon }_1,\dots ,{\epsilon }_k)=\mathrm{Vect}(e_1,\dots ,e_k)$ et (ii) $⟨{\epsilon }_k,e_k⟩>0$. On l'appelle l'orthonormalisée de Gram-Schmidt de $(e_1,\dots ,e_p)$.

Algorithme (une étape par vecteur) : $${\epsilon }_1=\frac{e_1}{\parallel e_1\parallel },v_k=e_k-\sum _{i=1}^{k-1}⟨{\epsilon }_i,e_k⟩{\epsilon }_i,{\epsilon }_k=\frac{v_k}{\parallel v_k\parallel }(2\le k\le p)\mathrm{.}$$ On retire à $e_k$ ses composantes sur les ${\epsilon }_i$ déjà construits, puis on normalise. $v_k\mathrm{\ne }0$ car sinon $e_k$ serait combinaison de $e_1,\dots ,e_{k-1}$ (liberté). $v_k$ est le vecteur $e_k-p_{F_{k-1}}(e_k)$ où $F_{k-1}=\mathrm{Vect}(e_1,\dots ,e_{k-1})$ (§ 9).

Variante sans racines. On peut d'abord construire une famille seulement orthogonale $(v_1,\dots ,v_p)$ par $v_k=e_k-{\sum }_{i<k}\frac{⟨v_i,e_k⟩}{\parallel v_i{\parallel }^2}{v}_i$, puis normaliser à la fin. C'est plus sûr en calcul à la main.

Exemple. ${ℝ}_2[X]$ muni de $⟨P,Q⟩={\int }_{-1}^{1}P(t)Q(t)dt$, base $(1,X,X^2)$.

• $v_1=1$, $\parallel 1{\parallel }^2=2$.
• $v_2=X-\frac{⟨1,X⟩}{2}\cdot 1=X$ (car ${\int }_{-1}^{1}tdt=0$) ; $\parallel X{\parallel }^2=\frac{2}{3}$.
• $v_3=X^2-\frac{⟨1,X^2⟩}{2}\cdot 1-\frac{⟨X,X^2⟩}{2\mathrm{/}3}X=X^2-\frac{1}{3}$ ; $\parallel v_3{\parallel }^2={\int }_{-1}^1{(t^2-\frac{1}{3})}^{2}dt=\frac{8}{45}$.

D'où la base orthonormée $({\displaystyle \frac{1}{\sqrt{2}}},\sqrt{{\displaystyle \frac{3}{2}}}X,{\displaystyle \frac{3\sqrt{10}}{4}}(X^2-{\displaystyle \frac{1}{3}}))$. Contrôles systématiques : vérifier un ou deux produits scalaires nuls, et que ${\epsilon }_k$ a un coefficient de $e_k$ positif.

Existence. Tout espace euclidien $E\mathrm{\ne }\{0\}$ possède une base orthonormée (Gram-Schmidt appliqué à une base quelconque). Base orthonormée incomplète. Toute famille orthonormée de $E$ euclidien se complète en une base orthonormée de $E$ (compléter en une base, puis appliquer Gram-Schmidt : les premiers vecteurs ne changent pas).

Calculs dans une base orthonormée $ℬ=(e_1,\dots ,e_n)$. Pour $x,y\in E$ de coordonnées $X,Y$ : $$x=\sum _{i=1}^n⟨e_i,x⟩e_i,⟨x,y⟩=\sum _{i=1}^n{x}_i{y}_i={}^{t}XY,\parallel x{\parallel }^2=\sum _{i=1}^n{x}_i^2\mathrm{.}$$

• Les coordonnées s'obtiennent sans système : $x_i=⟨e_i,x⟩$.
• Dans une base orthonormée, tout produit scalaire ressemble au produit canonique de ${ℝ}^n$.
• Matrice d'un endomorphisme $f$ dans $ℬ$ : son coefficient $(i,j)$ vaut $⟨e_i,f(e_j)⟩$.

Ces formules sont fausses dans une base non orthonormée. Dans une base quelconque $ℬ=(u_1,\dots ,u_n)$, on a $⟨x,y⟩={}^{t}XGY$ où $G=(⟨u_i,u_j⟩{)}_{i,j}$ est la matrice du produit scalaire dans $ℬ$ (matrice de Gram). $G$ est symétrique, et $G=I_n$ si et seulement si $ℬ$ est orthonormée. Pour ${\int }_0^{1}PQ$ et la base $(1,X,\dots ,X^n)$, $G$ est la matrice de coefficients $\frac{1}{i+j+1}$ ($0\le i,j\le n$).

Représentation des formes linéaires (lien avec le dual, Espaces vectoriels § 12). Hypothèses : $E$ euclidien, $\phi \in E^{\ast }$. Conclusion : il existe un unique $a\in E$ tel que $\phi (x)=⟨a,x⟩$ pour tout $x\in E$. Dans une base orthonormée, $a={\sum }_i\phi (e_i)e_i$. L'application $a\mapsto ⟨a,\cdot ⟩$ est un isomorphisme de $E$ sur $E^{\ast }$ (injective entre deux espaces de même dimension). Conséquence : un hyperplan $H=\mathrm{Ker}\phi$ s'écrit $H=a^{\perp }=(ℝa{)}^{\perp }$ ; $a$ est un vecteur normal à $H$. Dans ${ℝ}^n$ canonique, l'hyperplan d'équation $a_1{x}_1+\cdots +a_n{x}_n=0$ a pour vecteur normal $(a_1,\dots ,a_n)$. En PC et T, le mot « hyperplan » est hors programme selon le rapport du jury 2025 : on y parle de « plan de ${ℝ}^3$ d'équation… » ou de « sous-espace $a^{\perp }$ », avec les mêmes formules.

Théorème du supplémentaire orthogonal. Hypothèses : $E$ préhilbertien réel, $F$ sous-espace de $E$ de dimension finie. Conclusion : $E=F\oplus F^{\perp }$ et $(F^{\perp }{)}^{\perp }=F$. Si de plus $E$ est euclidien, $\dim F^{\perp }=\dim E-\dim F$. $F^{\perp }$ est le supplémentaire orthogonal de $F$ (c'est le seul supplémentaire de $F$ orthogonal à $F$).

Preuve. $F\cap F^{\perp }=\{0\}$ toujours. Pour la somme : avec une base orthonormée $(e_1,\dots ,e_p)$ de $F$, on écrit $x=\underset{\in F}{\underbrace{{\sum }_i⟨e_i,x⟩e_i}}+(x-{\sum }_i⟨e_i,x⟩e_i)$ et l'on vérifie que la deuxième parenthèse est orthogonale à chaque $e_j$. Enfin $F\subset (F^{\perp }{)}^{\perp }$ ; si $x\in (F^{\perp }{)}^{\perp }$, on écrit $x=f+g$ avec $f\in F$, $g\in F^{\perp }$, et $0=⟨x,g⟩=⟨f,g⟩+\parallel g{\parallel }^2=\parallel g{\parallel }^2$, donc $x=f\in F$.

En dimension infinie, l'hypothèse « $F$ de dimension finie » est indispensable. Dans $E=ℝ[X]$ muni de $⟨P,Q⟩={\sum }_k{a}_k{b}_k$ (coefficients), l'hyperplan $H=\{P,{\int }_0^{1}P(t)dt=0\}$ vérifie $H^{\perp }=\{0\}$ : si $Q=\sum b_k{X}^k\in H^{\perp }$, alors $Q\perp X^k-\frac{1}{k+1}$ (qui est dans $H$) pour tout $k\ge 1$, donc $b_k=\frac{b_0}{k+1}$ pour tout $k$ ; comme $Q$ n'a qu'un nombre fini de coefficients non nuls, $b_0=0$ puis $Q=0$. Ainsi $H\oplus H^{\perp }=H\mathrm{\ne }E$ et $(H^{\perp }{)}^{\perp }=E\mathrm{\ne }H$ (exercice 8).

Trouver $F^{\perp }$ en pratique.

• $F=\mathrm{Vect}(f_1,\dots ,f_p)$ : $F^{\perp }$ est défini par les $p$ équations $⟨x,f_j⟩=0$.
• $F$ défini par des équations dans ${ℝ}^n$ canonique : si $F=\{x,⟨a_1,x⟩=\cdots =⟨a_q,x⟩=0\}$, alors $F^{\perp }=\mathrm{Vect}(a_1,\dots ,a_q)$ (car $F=\{a_1,\dots ,a_q{\}}^{\perp }$, puis $(F^{\perp }{)}^{\perp }=F$ appliqué à $\mathrm{Vect}(a_j)$).
• Toujours contrôler la dimension : $\dim F+\dim F^{\perp }=n$.

Exemple (${ℳ}_n(ℝ)$, $\mathrm{tr}({}^{t}AB)$). Si $S\in {𝒮}_n(ℝ)$ et $A\in {𝒜}_n(ℝ)$, alors $\mathrm{tr}({}^{t}SA)=\mathrm{tr}(SA)$ et $\mathrm{tr}(SA)=\mathrm{tr}({}^t(SA))=\mathrm{tr}({}^{t}A{}^{t}S)=-\mathrm{tr}(AS)=-\mathrm{tr}(SA)$, donc $⟨S,A⟩=0$. Comme ${ℳ}_n(ℝ)={𝒮}_n\oplus {𝒜}_n$ : ${𝒮}_n(ℝ{)}^{\perp }={𝒜}_n(ℝ)$. De même $(ℝI_n{)}^{\perp }=\mathrm{Ker}\mathrm{tr}$, car $⟨I_n,M⟩=\mathrm{tr}M$.

Définition. Soit $F$ un sous-espace de dimension finie de $E$. La projection orthogonale sur $F$, notée $p_F$, est le projecteur d'image $F$ et de noyau $F^{\perp }$ (au sens de Espaces vectoriels § 10) ; $p_F$ est linéaire, $p_F\circ p_F=p_F$, $\mathrm{Im}{p}_F=F$, $\mathrm{Ker}{p}_F=F^{\perp }$, et $p_{F^{\perp }}={\mathrm{i}\mathrm{d}}_E-p_F$.

Caractérisation (la plus utile). Pour $x\in E$ et $y\in E$ : $$y=p_F(x)⟺\{\begin{array}{l}y\in F,\\ x-y\in F^{\perp }\mathrm{.}\end{array}$$ Avec une base quelconque $(f_1,\dots ,f_p)$ de $F$ : on cherche $y={\sum }_j{\lambda }_j{f}_j$ tel que $⟨x-y,f_k⟩=0$ pour $k=1,\dots ,p$ (système de $p$ équations, appelées équations normales).

Formule avec une base orthonormée $(e_1,\dots ,e_p)$ de $F$ : $$p_F(x)=\sum _{i=1}^p⟨e_i,x⟩e_i\mathrm{.}$$ Avec une base seulement orthogonale $(v_1,\dots ,v_p)$ : $p_F(x)={\sum }_i\frac{⟨v_i,x⟩}{\parallel v_i{\parallel }^2}{v}_i$.

Cas à connaître par cœur ($a\mathrm{\ne }0$) :

• sur une droite $D=ℝa$ : $p_D(x)={\displaystyle \frac{⟨a,x⟩}{\parallel a{\parallel }^2}}a$ ;
• sur un hyperplan $H=a^{\perp }$ : $p_H(x)=x-{\displaystyle \frac{⟨a,x⟩}{\parallel a{\parallel }^2}}a$.

Exemple. Dans ${ℝ}^3$ canonique, $H$ : $x+y+z=0$, $a=(1,1,1)$. Pour $u=(1,2,3)$ : $⟨a,u⟩=6$, $\parallel a{\parallel }^2=3$, donc $p_H(u)=(1,2,3)-2(1,1,1)=(-1,0,1)$. Contrôle : $(-1,0,1)\in H$ et $u-p_H(u)=(2,2,2)$ est bien colinéaire à $a$.

Matrice dans une base orthonormée. Dans ${ℝ}^n$ canonique, la matrice de $p_D$ est ${\displaystyle \frac{1}{{}^{t}aa}}a{}^{t}a$ (avec $a$ en colonne) ; celle de $p_H$ est $I_n-{\displaystyle \frac{1}{{}^{t}aa}}a{}^{t}a$. La matrice d'une projection orthogonale dans une base orthonormée est symétrique (et idempotente).

Inégalité de Bessel. $\parallel p_F(x)\parallel \le \parallel x\parallel$ ; avec une famille orthonormée $(e_1,\dots ,e_p)$ : ${\sum }_{i=1}^p⟨e_i,x{⟩}^2\le \parallel x{\parallel }^2$ (Pythagore appliqué à $x=p_F(x)+(x-p_F(x))$). Égalité si et seulement si $x\in F$.

Symétrie orthogonale. $s_F=2p_F-{\mathrm{i}\mathrm{d}}_E$ fixe chaque vecteur de $F$ et change en son opposé chaque vecteur de $F^{\perp }$ ; elle conserve la norme ($\parallel s_F(x)\parallel =\parallel x\parallel$). Pour un hyperplan $H=a^{\perp }$, $s_H(x)=x-2\frac{⟨a,x⟩}{\parallel a{\parallel }^2}a$ s'appelle une réflexion.

Projecteur orthogonal. Un projecteur $p$ ($p\circ p=p$) coïncide avec $p_{\mathrm{Im}p}$ exactement lorsque $\mathrm{Ker}p\perp \mathrm{Im}p$, ce qui équivaut à $⟨p(x),y⟩=⟨x,p(y)⟩$ pour tous $x,y$ (exercice 9).

Définition. Pour une partie non vide $A$ de $E$ et $x\in E$ : $d(x,A)=\inf \{\parallel x-a\parallel ,a\in A\}$ (borne inférieure d'une partie de ${ℝ}_{+}$ non vide, donc elle existe).

Théorème de la meilleure approximation. Hypothèses : $F$ sous-espace de dimension finie de $E$, $x\in E$. Conclusion : $d(x,F)=\parallel x-p_F(x)\parallel$, et $p_F(x)$ est l'unique vecteur de $F$ où cette borne est atteinte. De plus $$d(x,F{)}^2=\parallel x{\parallel }^2-\parallel p_F(x){\parallel }^2=\parallel x{\parallel }^2-\sum _{i=1}^p⟨e_i,x{⟩}^2\text{(base orthonorm}\acute{\text{e}}\text{e }(e_i)\text{ de }F)\mathrm{.}$$ Preuve. Pour $y\in F$ : $x-y=(x-p_F(x))+(p_F(x)-y)$ avec $x-p_F(x)\in F^{\perp }$ et $p_F(x)-y\in F$. Pythagore donne $\parallel x-y{\parallel }^2=\parallel x-p_F(x){\parallel }^2+\parallel p_F(x)-y{\parallel }^2\ge \parallel x-p_F(x){\parallel }^2$, avec égalité si et seulement si $y=p_F(x)$.

Formules directes. $d(x,ℝa{)}^2=\parallel x{\parallel }^2-{\displaystyle \frac{⟨a,x{⟩}^2}{\parallel a{\parallel }^2}}$ et $d(x,a^{\perp })={\displaystyle \frac{\mid ⟨a,x⟩\mid }{\parallel a\parallel }}$. Dans ${ℝ}^3$, la distance de $(x_0,y_0,z_0)$ au plan $\alpha x+\beta y+\gamma z=0$ vaut ${\displaystyle \frac{\mid \alpha x_0+\beta y_0+\gamma z_0\mid }{\sqrt{{\alpha }^2+{\beta }^2+{\gamma }^2}}}$. Dans l'exemple du § 9 : $d(u,H)=\frac{6}{\sqrt{3}}=2\sqrt{3}=\parallel (2,2,2)\parallel$.

Reconnaître une distance dans un problème de minimisation. Le rapport du jury 2025 note que des candidats connaissent le cours sur la projection mais ne voient pas qu'un minimum à calculer est une distance. Signal : on minimise une somme de carrés ou une intégrale d'un carré dépendant linéairement de paramètres.

Exemple. Calculer $m=\underset{(a,b)\in {ℝ}^2}{\inf }{\int }_{-1}^1(t^3-a-bt{)}^{2}dt$. C'est $d(X^3,{ℝ}_1[X]{)}^2$ pour ${\int }_{-1}^{1}PQ$. Avec la base orthonormée $(\frac{1}{\sqrt{2}},\sqrt{\frac{3}{2}}X)$ de ${ℝ}_1[X]$ (§ 6) : $⟨\frac{1}{\sqrt{2}},X^3⟩=0$, $⟨\sqrt{\frac{3}{2}}X,X^3⟩=\sqrt{\frac{3}{2}}\cdot \frac{2}{5}$, donc $p(X^3)=\frac{3}{2}\cdot \frac{2}{5}X=\frac{3}{5}X$ et $m=\parallel X^3{\parallel }^2-\frac{3}{2}\cdot \frac{4}{25}=\frac{2}{7}-\frac{6}{25}=\frac{8}{175}$, atteint pour $a=0$, $b=\frac{3}{5}$ seulement.

Dans ${ℳ}_n(ℝ)$ : $d(M,{𝒮}_n)=\parallel \frac{M-{}^{t}M}{2}\parallel$ et $d(M,\mathrm{Ker}\mathrm{tr})=\frac{\mid \mathrm{tr}M\mid }{\sqrt{n}}$.

Prouver qu'on a affaire à un produit scalaire

1. Vérifier qu'elle est bien à valeurs réelles et bien définie (intégrale d'une fonction continue sur un segment, somme finie).
2. Symétrie (souvent évidente), puis linéarité à gauche ; la linéarité à droite s'en déduit par symétrie : le dire.
3. Positivité : $\phi (x,x)$ est une somme de carrés, une intégrale d'un carré, ou une forme canonique.
4. Caractère défini (la seule étape délicate) : supposer $\phi (x,x)=0$ et en déduire $x=0$ ; pour une intégrale, citer la continuité et le théorème « continue, positive, d'intégrale nulle » ; pour des polynômes, conclure par le nombre de racines ou la formule de Taylor.

Orthonormaliser une famille

Variante orthogonale (sans racines) puis normalisation à la fin ; vérifier deux produits scalaires nuls ; donner le résultat sous forme de famille.

Calculer une projection orthogonale $p_F(x)$

• Droite ou hyperplan : formules du § 9.
• Base orthonormée de $F$ connue (ou facile par Gram-Schmidt) : $p_F(x)=\sum ⟨e_i,x⟩e_i$.
• Sinon : équations normales $⟨x-{\sum }_j{\lambda }_j{f}_j,f_k⟩=0$.
• Si $F^{\perp }$ est plus petit que $F$ : calculer $p_{F^{\perp }}(x)$ et écrire $p_F(x)=x-p_{F^{\perp }}(x)$.

Calculer une distance ou un minimum

1. Identifier l'espace, le produit scalaire, le vecteur $x$ et le sous-espace de dimension finie $F$ tels que la quantité à minimiser soit $\parallel x-y{\parallel }^2$, $y\in F$.
2. Calculer $p_F(x)$ ; conclure $\min =\parallel x-p_F(x){\parallel }^2=\parallel x{\parallel }^2-\parallel p_F(x){\parallel }^2$, et donner les paramètres où il est atteint.
3. Contrôle : le minimum est $\ge 0$, et il vaut $0$ exactement lorsque $x\in F$.

Déterminer un orthogonal

Écrire les conditions d'orthogonalité aux vecteurs d'une famille génératrice, résoudre, et contrôler la dimension ($\dim F^{\perp }=n-\dim F$).

1. Oublier le caractère défini, ou le « démontrer » sans la continuité : ${\int }_a^b{f}^2=0\Rightarrow f=0$ exige $f$ continue (et $a<b$).
2. Prendre pour produit scalaire une forme non définie : $P(0)Q(0)+P(1)Q(1)$ sur ${ℝ}_2[X]$, ${\int }_0^{1\mathrm{/}2}fg$ sur $𝒞([0,1])$.
3. Utiliser $x=\sum ⟨e_i,x⟩e_i$, $⟨x,y⟩=\sum x_i{y}_i$ ou $p_F(x)=\sum ⟨e_i,x⟩e_i$ avec une base non orthonormée.
4. Gram-Schmidt : oublier de normaliser, retirer la composante sur $e_i$ au lieu de ${\epsilon }_i$, ou diviser par $\parallel v_i\parallel$ au lieu de $\parallel v_i{\parallel }^2$ dans la variante orthogonale.
5. Écrire $E=F\oplus F^{\perp }$ ou $(F^{\perp }{)}^{\perp }=F$ pour un $F$ de dimension infinie (contre-exemple au § 8).
6. Confondre « $F$ et $G$ orthogonaux » et « $F$ et $G$ supplémentaires » : deux droites orthogonales de ${ℝ}^3$ ne sont pas supplémentaires ; deux plans « perpendiculaires » de ${ℝ}^3$ ne sont pas orthogonaux.
7. Pythagore avec trois vecteurs : l'égalité des normes n'entraîne pas l'orthogonalité deux à deux.
8. Écritures dénuées de sens, sanctionnées par le jury : diviser par un vecteur, écrire $\parallel x{\parallel }^2$ pour un réel négatif, « $⟨x,y⟩\le \parallel x\parallel \parallel y\parallel$ donc $x$ et $y$ colinéaires ».
9. Dans un problème de minimisation : donner le minimum sans dire où il est atteint, ou ne pas reconnaître la distance (rapport du jury 2025).
10. Rédaction : « b.o.n. », « s.e.v. » dans la copie ; conclure sans encadrer le résultat.

• Produit scalaire noté $⟨x,y⟩$ (écrit « $<x,y>$ » dans les énoncés tapés), parfois $(x\mid y)$ ou $⟨x\mid y⟩$ dans les cours de 2e année ; norme $\parallel x\parallel$, « la norme déduite (ou associée) du produit scalaire ».
• L'exercice de mai commence presque toujours par la vérification qu'une application donnée est un produit scalaire sur un ${ℝ}_n[X]$, puis par la phrase « en déduire que cet espace est euclidien » (il suffit de rappeler qu'il est de dimension finie).
• « Base orthonormée » et « base orthonormale » s'emploient indifféremment ; « procédé (ou algorithme) d'orthonormalisation de Gram-Schmidt ».
• « Supplémentaire orthogonal », « projeté orthogonal de $x$ sur $F$ », « distance de $x$ à $F$ », notée $d(x,F)$.
• ${ℝ}_n[X]$ pour les polynômes de degré $\le n$ ; ${ℳ}_n(ℝ)$, $I_n$, transposée à gauche ${}^{t}A$, $\mathrm{tr}$ ; ${𝒮}_n(ℝ)$, ${𝒜}_n(ℝ)$ ; $\mathrm{Vect}$, $\mathrm{Ker}$ ; intervalle d'entiers $[\text{\hspace{0.17em}⁣}[1,n]\text{\hspace{0.17em}⁣}]$.
• En 2e année (Maths II en MP, Algèbre en PC/T), le chapitre est repris puis prolongé : endomorphismes orthogonaux et matrices orthogonales (${}^{t}PP=I_n$), endomorphismes symétriques, théorème spectral, espaces hermitiens (MP). Ces notions ne sont pas exigées en 1re année ; un sujet de mai qui les utilise les définit dans l'énoncé.
• Pas de calculatrice : les distances se donnent sous forme exacte ($\frac{8}{175}$, $2\sqrt{3}$, expressions en $e$), jamais en valeur décimale.