Álgebra Linear I

Início · Capítulo 6 · Produto interno

Ortonormalidade, Gram–Schmidt e \(S^\perp\)

25 cards nesta seção
  1. Motivação 6.1A estrutura que faltava para escolher
  2. Definição 6.2Produto interno, norma e ortogonalidade
  3. Exemplo 6.3O produto escalar de \(\R^n\)
  4. Exemplo 6.4Produto interno de matrizes: \(\tr(A^tB)\)
  5. Exemplo 6.5Produto interno de funções: a integral do produto
  6. Exemplo 6.6Um produto interno em \(\R^2\) que não é o usual
  7. Exemplo 6.7Bilinear e simétrica, mas não positiva
  8. Proposição 6.8Pitágoras
  9. Teorema 6.9Desigualdade de Cauchy–Schwarz
  10. Corolário 6.10Desigualdade triangular
  11. Definição 6.11Ângulo entre dois vetores
  12. Exemplo 6.12O ângulo entre \(1\) e \(t^2\)
  13. Definição 6.13Listas ortogonais e ortonormais
  14. Proposição 6.14Vetores ortogonais não nulos são LI
  15. Proposição 6.15Coordenadas numa base ortonormal
  16. Corolário 6.16Mudança entre bases ortonormais: matrizes ortogonais
  17. Teorema 6.17Gram–Schmidt
  18. Corolário 6.18Existência de base ortonormal
  19. Exemplo 6.19Gram–Schmidt em \(\R^3\)
  20. Exemplo 6.20Polinômios de Legendre
  21. Definição 6.21Complemento ortogonal
  22. Teorema 6.22\(V = S\oplus S^\perp\)
  23. Exemplo 6.23Em \(\R^n\), \(S^\perp\) é o espaço solução de um sistema
  24. Exemplo 6.24Matrizes simétricas e antissimétricas são ortogonais
  25. Exemplo 6.25O complemento ortogonal das constantes em \(\Pol{2}\)
Motivação 6.1

A estrutura que faltava para escolher

Um subespaço tem muitos complementares, e não há um preferido (Corolário 2.83); e \(V\iso V^*\) depende de uma escolha (Nota 5.20). Nas duas situações o que falta é uma estrutura extra. Ela é o produto interno (Definição 6.2), que escolhe um complementar (Teorema 6.22) e um isomorfismo \(V\to V^*\) (Teorema 6.34).

Definição 6.2

Produto interno, norma e ortogonalidade

Um produto interno num espaço vetorial real \(V\) é uma função \(\langle\cdot,\cdot\rangle:V\times V\to\R\) que é

  1. bilinear: linear em cada variável, com a outra fixa;

  2. simétrica: \(\langle u,v\rangle = \langle v,u\rangle\);

  3. positiva definida: \(\langle v,v\rangle>0\) para todo \(v\neq0\).

A norma de \(v\) é \(\|v\| = \sqrt{\langle v,v\rangle}\). Dizemos que \(u\) e \(v\) são ortogonais, \(u\perp v\), se \(\langle u,v\rangle = 0\).

Em movimento: Dot products and duality — 3Blue1Brown (vídeo e texto, em inglês).

Exemplo 6.3

O produto escalar de \(\R^n\)

O produto escalar em \(\R^n\): \(\langle x,y\rangle = x_1y_1+\cdots+x_ny_n = x^ty\).

É um produto interno.

Exemplo 6.4

Produto interno de matrizes: \(\tr(A^tB)\)

Matrizes: em \(\Mat{m}{n}\), é um produto interno \(\langle A,B\rangle = \tr(A^tB) = \sum_{i,j}a_{ij}b_{ij}\). É o produto escalar de \(\R^{mn}\), com as entradas listadas.

Exemplo 6.5

Produto interno de funções: a integral do produto

Funções: em \(\Pol{n}\) ou em \(C^0([-1,1])\), é um produto interno \(\langle f,g\rangle = \int_{-1}^1f(t)g(t)\,dt\). A positividade: se \(f\neq0\) é contínua, \(f^2\) é contínua, \(\geq0\) e positiva num intervalo, logo tem integral positiva.

Exemplo 6.6

Um produto interno em \(\R^2\) que não é o usual

Um produto interno em \(\R^2\) que não é o usual: \[\langle x,y\rangle_G = x^tGy,\qquad G = \begin{pmatrix}2&1\\1&1\end{pmatrix},\qquad \text{isto é,}\quad\langle x,x\rangle_G = 2x_1^2+2x_1x_2+x_2^2 = x_1^2+(x_1+x_2)^2.\] A última forma mostra que é positivo para \(x\neq0\).

figura

Os vetores de norma \(1\) para o produto escalar (círculo tracejado) e para \(\langle\cdot,\cdot\rangle_G\) (elipse azul). Mudar o produto interno muda quem tem comprimento \(1\) e quem é perpendicular a quem. Toda elipse centrada na origem é a esfera unitária de algum produto interno (Proposição 9.23).

A elipse corta os eixos em \(\pm1/\sqrt2\) (eixo \(x\)) e \(\pm1\) (eixo \(y\)), e está inclinada porque \(e_1\) e \(e_2\) não são ortogonais para \(G\). Todo produto interno em \(\R^n\) é da forma \(x^tGy\), com \(G\) simétrica.

Exemplo 6.7

Bilinear e simétrica, mas não positiva

Não-exemplo: \(\langle x,y\rangle = x_1y_1-x_2y_2\) em \(\R^2\) é bilinear e simétrica, mas \(\langle e_2,e_2\rangle = -1\), e \(\langle(1,1),(1,1)\rangle = 0\).

Proposição 6.8

Pitágoras

Se \(u\perp v\), então \(\|u+v\|^2 = \|u\|^2+\|v\|^2\). Em geral, \(\|u+v\|^2 = \|u\|^2+2\langle u,v\rangle+\|v\|^2\).

Demonstração

Expanda \(\langle u+v,u+v\rangle\) por bilinearidade e use a simetria.

Teorema 6.9

Desigualdade de Cauchy–Schwarz

A demonstração exigeProposição 6.8Pitágoras

Para todos \(u,v\in V\), \[|\langle u,v\rangle|\leq\|u\|\,\|v\|,\] com igualdade se e somente se \(u\) e \(v\) são linearmente dependentes.

A demonstração usual (o discriminante do polinômio \(t\mapsto\|u+tv\|^2\)) é igualmente curta. A escolhida aqui tem a vantagem de introduzir a decomposição \(v = p+w\) da figura, que é o passo de Gram–Schmidt (Teorema 6.17) e o caso unidimensional da projeção ortogonal (Definição 6.26).

Demonstração

Se \(u = 0\), os dois lados são nulos e \(u,v\) são LD. Suponha \(u\neq0\) e escreva \[v = \underbrace{\frac{\langle v,u\rangle}{\|u\|^2}\,u}_{p}+\underbrace{\Big(v-\frac{\langle v,u\rangle}{\|u\|^2}\,u\Big)}_{w}.\] Então \(\langle w,u\rangle = \langle v,u\rangle-\langle v,u\rangle = 0\), logo \(w\perp p\), e por Pitágoras \[\|v\|^2 = \|p\|^2+\|w\|^2\geq\|p\|^2 = \frac{\langle v,u\rangle^2}{\|u\|^2}.\] Multiplicando por \(\|u\|^2\) e tirando a raiz obtém-se a desigualdade. A igualdade vale se e somente se \(w = 0\), isto é, \(v\) é múltiplo de \(u\).

figura

A componente de \(v\) na direção de \(u\). O vetor \(p\) é a “sombra” de \(v\) sobre a reta de \(u\), e o que sobra, \(w\), é perpendicular a \(u\). Cauchy–Schwarz diz que a sombra não é mais comprida que o vetor; Gram–Schmidt consiste em ficar com \(w\) e jogar \(p\) fora.

Corolário 6.10

Desigualdade triangular

\(\|u+v\|\leq\|u\|+\|v\|\) (desigualdade triangular).

Demonstração

\(\|u+v\|^2 = \|u\|^2+2\langle u,v\rangle+\|v\|^2\leq\|u\|^2+2\|u\|\|v\|+\|v\|^2 = (\|u\|+\|v\|)^2\).

Definição 6.11

Ângulo entre dois vetores

Para \(u,v\neq0\), o ângulo entre \(u\) e \(v\) é o único \(\theta\in[0,\pi]\) com \[\cos\theta = \frac{\langle u,v\rangle}{\|u\|\,\|v\|}.\] Cauchy–Schwarz é exatamente o que garante que o lado direito está em \([-1,1]\).

Exemplo 6.12

O ângulo entre \(1\) e \(t^2\)

Em \(\Pol{2}\) com \(\langle p,q\rangle = \int_{-1}^1pq\): \(1\perp t\), porque \(\int_{-1}^1t\,dt = 0\). E o ângulo entre \(1\) e \(t^2\) satisfaz \[\cos\theta = \frac{\int_{-1}^1t^2}{\sqrt{\int_{-1}^11}\sqrt{\int_{-1}^1t^4}} = \frac{2/3}{\sqrt2\,\sqrt{2/5}} = \frac{\sqrt5}{3}\approx0{,}75,\] isto é, \(\theta\approx42^\circ\). Funções têm ângulos entre si, e isso é útil: “\(t^2\) é parecido com \(1\)” ganha um número.

Definição 6.13

Listas ortogonais e ortonormais

Uma lista \((u_1,\ldots,u_k)\) é ortogonal se \(\langle u_i,u_j\rangle = 0\) para \(i\neq j\), e ortonormal se, além disso, \(\|u_i\| = 1\) para todo \(i\); isto é, \(\langle u_i,u_j\rangle = \delta_{ij}\).

Proposição 6.14

Vetores ortogonais não nulos são LI

Uma lista ortogonal de vetores não nulos é LI.

Demonstração

Se \(\sum_ja_ju_j = 0\), faça o produto interno com \(u_i\): \(a_i\|u_i\|^2 = 0\), logo \(a_i = 0\).

Proposição 6.15

Coordenadas numa base ortonormal

Seja \((u_1,\ldots,u_n)\) base ortonormal de \(V\). Então, para todos \(v,w\in V\), \[v = \sum_{i=1}^n\langle v,u_i\rangle\,u_i\qquad\text{e}\qquad \langle v,w\rangle = \sum_{i=1}^n\langle v,u_i\rangle\langle w,u_i\rangle.\] Isto é: as coordenadas são produtos internos, e numa base ortonormal o produto interno de \(V\) vira o produto escalar das coordenadas.

Compare com o Teorema 5.9: lá, as coordenadas eram os funcionais da base dual, \(v_i^*(v)\), e calculá-los exigia inverter uma matriz (Proposição 5.11). Aqui \(v_i^* = \langle\cdot,u_i\rangle\), e o cálculo é um produto interno. É a primeira aparição do isomorfismo \(V\iso V^*\) dado pelo produto interno (Teorema 6.34).

Demonstração

Escreva \(v = \sum_ja_ju_j\) e faça o produto interno com \(u_i\): \(\langle v,u_i\rangle = a_i\). A segunda fórmula sai expandindo \(\langle\sum_ia_iu_i,\sum_jb_ju_j\rangle\) por bilinearidade.

Corolário 6.16

Mudança entre bases ortonormais: matrizes ortogonais

Sejam \(B\) e \(B'\) bases ortonormais de \(V\) e \(Q = [I]_{BB'}\). Então \(Q^tQ = I\), isto é, \(Q^{-1} = Q^t\).

Uma matriz com \(Q^tQ = I\) chama-se ortogonal. Suas colunas são uma base ortonormal de \(\R^n\). As rotações de \(\R^2\) são o exemplo principal.

Demonstração

A coluna \(j\) de \(Q\) é \([u'_j]_B\). Pela Proposição 6.15, o produto escalar das colunas \(i\) e \(j\) é \(\langle u'_i,u'_j\rangle = \delta_{ij}\), que é a entrada \((i,j)\) de \(Q^tQ\).

Teorema 6.17

Gram–Schmidt

Seja \((v_1,\ldots,v_n)\) uma lista LI em \(V\). Defina recursivamente \[w_1 = v_1,\qquad w_k = v_k-\sum_{j<k}\frac{\langle v_k,w_j\rangle}{\|w_j\|^2}\,w_j\quad(k\geq2).\] Então \((w_1,\ldots,w_n)\) é ortogonal, com \(w_k\neq0\), e \([w_1,\ldots,w_k] = [v_1,\ldots,v_k]\) para todo \(k\). Normalizando, \(u_k = w_k/\|w_k\|\) dá uma lista ortonormal com a mesma propriedade.

figura

O terceiro passo de Gram–Schmidt. De \(v_3\) tira-se a sua componente no plano dos anteriores (verde), que é \(\sum_{j<3}\frac{\langle v_3,w_j\rangle}{\|w_j\|^2}w_j\); o que sobra, transportado para a origem, é \(w_3\) (rosa), perpendicular ao plano. Em cada passo o subespaço gerado cresce de uma dimensão e não muda de lugar.

A mudança de base \((v_i)\to(w_i)\) é triangular; daí sai a decomposição \(A = QR\).

Demonstração

Indução em \(k\). Para \(k=1\) é imediato (\(w_1 = v_1\neq0\)). Suponha que \(w_1,\ldots,w_{k-1}\) são ortogonais, não nulos, e \([w_1,\ldots,w_{k-1}] = [v_1,\ldots,v_{k-1}]\).

Ortogonalidade: para \(i<k\), usando \(\langle w_j,w_i\rangle = 0\) para \(j\neq i\), \[\langle w_k,w_i\rangle = \langle v_k,w_i\rangle-\frac{\langle v_k,w_i\rangle}{\|w_i\|^2}\, \|w_i\|^2 = 0.\] \(w_k\neq0\): se fosse, \(v_k\) estaria em \([w_1,\ldots,w_{k-1}] = [v_1,\ldots,v_{k-1}]\), contra a independência dos \(v\). Subespaços: \(w_k\in v_k+[w_1,\ldots,w_{k-1}]\), logo \([w_1,\ldots,w_k] = [w_1,\ldots,w_{k-1},v_k] = [v_1,\ldots,v_k]\).

Gram–Schmidt em ℝ³
Corolário 6.18

Existência de base ortonormal

Todo espaço com produto interno de dimensão finita tem base ortonormal, e toda lista ortonormal se completa a uma base ortonormal.

Demonstração

Aplique o teorema a uma base. Para a segunda afirmação, complete a lista ortonormal \((u_1,\ldots,u_k)\) a uma base qualquer (Teorema 2.79) e aplique o teorema: os \(k\) primeiros vetores não mudam, porque já são ortonormais.

Exemplo 6.19

Gram–Schmidt em \(\R^3\)

Em \(\R^3\) com o produto escalar, \(v_1 = (1,1,0)\), \(v_2 = (1,0,1)\), \(v_3 = (0,1,1)\): \[\begin{align*} w_1 &= (1,1,0),\\ w_2 &= (1,0,1)-\tfrac12(1,1,0) = \big(\tfrac12,-\tfrac12,1\big),\\ w_3 &= (0,1,1)-\tfrac12(1,1,0)-\frac{1/2}{3/2}\big(\tfrac12,-\tfrac12,1\big) = \big(-\tfrac23,\tfrac23,\tfrac23\big). \end{align*}\] Confira: \(\langle w_3,w_1\rangle = 0\) e \(\langle w_3,w_2\rangle = -\tfrac13-\tfrac13+\tfrac23 = 0\).

Exemplo 6.20

Polinômios de Legendre

Em \(\Pol{2}\) com \(\langle p,q\rangle = \int_{-1}^1pq\), aplique Gram–Schmidt a \((1,t,t^2)\). As integrais necessárias são \(\int_{-1}^1t^k\,dt = \frac{2}{k+1}\) para \(k\) par e \(0\) para \(k\) ímpar. \[\begin{align*} w_1 &= 1, & \|w_1\|^2 &= 2,\\ w_2 &= t-\tfrac{\langle t,1\rangle}{2}\cdot1 = t, & \|w_2\|^2 &= \tfrac23,\\ w_3 &= t^2-\tfrac{\langle t^2,1\rangle}{2}\cdot1-\tfrac{\langle t^2,t\rangle}{2/3}\,t = t^2-\tfrac13, & \|w_3\|^2 &= \tfrac25-\tfrac49+\tfrac29 = \tfrac{8}{45}. \end{align*}\] A base ortonormal é \(\Big(\tfrac{1}{\sqrt2},\ \sqrt{\tfrac32}\,t,\ \sqrt{\tfrac{45}{8}}\,\big(t^2-\tfrac13\big)\Big)\).

figura

Os três primeiros polinômios de Legendre (sem normalizar). A ortogonalidade se vê nas áreas: \(t^2-\frac13\) tem área total nula em \([-1,1]\) (é ortogonal a \(1\)), e é par enquanto \(t\) é ímpar (são ortogonais). O \(\frac13\) é exatamente o deslocamento que zera a área.

Definição 6.21

Complemento ortogonal

Seja \(S\subset V\) um subespaço. O complemento ortogonal de \(S\) é \[S^\perp = \{v\in V:\ \langle v,s\rangle = 0\ \text{para todo}\ s\in S\}.\]

Teorema 6.22

\(V = S\oplus S^\perp\)

Seja \(V\) de dimensão finita com produto interno e \(S\) um subespaço. Então \(S^\perp\) é subespaço, \[V = S\oplus S^\perp,\qquad \dim S^\perp = \dim V-\dim S,\qquad (S^\perp)^\perp = S.\]

figura

Uma reta \(S\) e o plano \(S^\perp\) em \(\R^3\). Todo vetor se decompõe de modo único em uma parte em \(S\) e uma parte perpendicular a \(S\). Dentre os muitos complementares de \(S\) (Corolário 2.83), o produto interno escolhe este.

Demonstração

\(S^\perp\) é subespaço pela linearidade na primeira variável. Interseção: se \(v\in S\cap S^\perp\), então \(\langle v,v\rangle = 0\) e \(v = 0\). Soma: seja \((u_1,\ldots,u_k)\) base ortonormal de \(S\), completada a uma base ortonormal \((u_1,\ldots,u_n)\) de \(V\) (Corolário 6.18). Os vetores \(u_{k+1},\ldots,u_n\) são ortogonais a \(u_1,\ldots,u_k\), logo a \(S\): estão em \(S^\perp\). Então \(V = [u_1,\ldots,u_n] \subset S+S^\perp\). Isso dá \(V = S\oplus S^\perp\) e a fórmula da dimensão (Corolário 2.86). Duplo perp: \(S\subset(S^\perp)^\perp\) pela definição, e as dimensões são iguais: \(n-(n-k) = k\).

Exemplo 6.23

Em \(\R^n\), \(S^\perp\) é o espaço solução de um sistema

Em \(\R^3\), \([(1,1,1)]^\perp\) é o plano \(x+y+z = 0\). Em geral, em \(\R^n\) com o produto escalar, \([u_1,\ldots,u_k]^\perp\) é o espaço solução do sistema cujas linhas são os \(u_i\) — o mesmo sistema que calcula o anulador (Nota 5.27).

Não é coincidência: o produto interno identifica \(V\) com \(V^*\) (Teorema 6.34), e essa identificação leva \(S^\perp\) em \(S^0\). Compare as fórmulas: \(\dim S^\perp = n-\dim S = \dim S^0\) e \((S^\perp)^\perp = S = (S^0)^0\).

Exemplo 6.24

Matrizes simétricas e antissimétricas são ortogonais

Em \(\Mat{n}{n}\) com \(\langle A,B\rangle = \tr(A^tB)\), simétricas e antissimétricas são ortogonais: se \(S^t = S\) e \(A^t = -A\), \[\langle S,A\rangle = \tr(SA) = \tr\big((SA)^t\big) = \tr(A^tS^t) = -\tr(AS) = -\tr(SA),\] logo \(\langle S,A\rangle = 0\). Como \(\Mat{n}{n} = \Simet\oplus\mathcal{A}\) (Exemplo 2.28) e as dimensões somam \(n^2\), \(\Simet^\perp = \mathcal{A}\): essa decomposição é ortogonal.

Exemplo 6.25

O complemento ortogonal das constantes em \(\Pol{2}\)

Em \(\Pol{2}\) com \(\int_{-1}^1\): \([1]^\perp = \{p: \int_{-1}^1p = 0\} = [t,\ t^2-\tfrac13]\), pelo Exemplo 6.20.