Universitetseksamen etter tema
Øv på ett tema om gangen med oppgavene fra universitetseksamenene vi har lagt ut, foreløpig NTNU Matematikk 1 og NTNU Matematikk 3. Velg område og tema, så henter vi oppgavene fra alle settene. Prøv selv først – løsningen ligger under oppgaven når du står fast.
Område
Emne
minste kvadraters metode
Velger du flere tema, får du oppgavene som har alle sammen.
9 oppgaver i NTNU Matematikk 3 om minste kvadraters metode
Oppgavene
Oppgave 2
Se på punktene
i
Finn et førstegradspolynom som passer best mulig til punktene.
Vis løsningSkjul løsning på oppgave 2
Svar
De fire punktene ligger ikke på én linje, så vi finner linjen med minste kvadraters metode: vi løser normallikningene.
1. Sett opp likningssystemet
Hvert punkt \( (x, y) \) gir en likning \( {ax + b = y}\text{:} \)
\[ \begin{aligned} a \cdot 0 + b &= 1 \\ a \cdot 1 + b &= -1 \\ a \cdot 2 + b &= 2 \\ a \cdot 3 + b &= 2 \end{aligned} \]
De to første gir \( {b = 1} \) og \( {a = -2}\text{,} \) men da blir den tredje \( {-3 = 2}\text{.} \) Systemet har altså ingen løsning. På matriseform er det:
\[ \underbrace{\begin{bmatrix} 0 & 1 \\ 1 & 1 \\ 2 & 1 \\ 3 & 1 \end{bmatrix}}_{X}\begin{bmatrix} a \\ b \end{bmatrix} = \underbrace{\begin{bmatrix} 1 \\ -1 \\ 2 \\ 2 \end{bmatrix}}_{\mathbf{y}} \]
2. Sett opp normallikningene
Minste kvadraters metode forteller oss at linjen som gjør summen av de kvadrerte avstandene så liten som mulig, er løsningen av:
\[ X^TX\begin{bmatrix} a \\ b \end{bmatrix} = X^T\mathbf{y} \]
Vi ganger rad med kolonne, som i videoen Multiplikasjon:
\[ \begin{aligned} X^TX &= \begin{bmatrix} 0 & 1 & 2 & 3 \\ 1 & 1 & 1 & 1 \end{bmatrix}\begin{bmatrix} 0 & 1 \\ 1 & 1 \\ 2 & 1 \\ 3 & 1 \end{bmatrix} \\ &= \begin{bmatrix} \textcolor{blue}{14} & \textcolor{red}{6} \\ \textcolor{blue}{6} & \textcolor{red}{4} \end{bmatrix} \end{aligned} \]
Høyresiden blir:
\[ X^T\mathbf{y} = \begin{bmatrix} 0 - 1 + 4 + 6 \\ 1 - 1 + 2 + 2 \end{bmatrix} = \begin{bmatrix} 9 \\ 4 \end{bmatrix} \]
3. Løs normallikningene
Formelen for den inverse forteller oss at:
\[ \begin{aligned} &\begin{bmatrix} \textcolor{blue}{A} & \textcolor{red}{B} \\ \textcolor{blue}{C} & \textcolor{red}{D} \end{bmatrix}^{-1} \\ &= \dfrac{1}{\textcolor{blue}{A}\textcolor{red}{D} - \textcolor{red}{B}\textcolor{blue}{C}}\begin{bmatrix} \textcolor{red}{D} & -\textcolor{red}{B} \\ -\textcolor{blue}{C} & \textcolor{blue}{A} \end{bmatrix} \end{aligned} \]Hvis du er usikker på den, kan du se videoen Invers matrise med determinanter.
Her er:
\[ \begin{aligned} \textcolor{blue}{A} &= \textcolor{blue}{14} & \textcolor{red}{B} &= \textcolor{red}{6} \\ \textcolor{blue}{C} &= \textcolor{blue}{6} & \textcolor{red}{D} &= \textcolor{red}{4} \end{aligned} \]
Plugger vi dette inn, er nevneren:
\[ \textcolor{blue}{14} \cdot \textcolor{red}{4} - \textcolor{red}{6} \cdot \textcolor{blue}{6} = 20 \]
Så ganger vi den inverse med høyresiden:
\[ \begin{aligned} \begin{bmatrix} a \\ b \end{bmatrix} &= \dfrac{1}{20}\begin{bmatrix} \textcolor{red}{4} & -\textcolor{red}{6} \\ -\textcolor{blue}{6} & \textcolor{blue}{14} \end{bmatrix}\begin{bmatrix} 9 \\ 4 \end{bmatrix} \\ &= \dfrac{1}{20}\begin{bmatrix} 12 \\ 2 \end{bmatrix} = \begin{bmatrix} \tfrac{3}{5} \\ \tfrac{1}{10} \end{bmatrix} \end{aligned} \]
Oppgave 2
Se på punktene og i
Oppgave 2a)
Finn et andregradspolynom som går gjennom punktene.
Vis løsningSkjul løsning på oppgave 2a
Svar
Hvert punkt gir en likning for \( a\text{,} \) \( b \) og \( c\text{.} \) Vi får tre likninger med tre ukjente, og dem løser vi med Gauss-eliminasjon.
1. Sett opp likningene
Vi setter inn punktene i \( p(x)\text{,} \) som i videoen Polynom interpolasjon:
\[ \begin{aligned} p(1) &= \textcolor{blue}{a} + \textcolor{red}{b} + \textcolor{green}{c} = 5 \\ p(-1) &= \textcolor{blue}{a} - \textcolor{red}{b} + \textcolor{green}{c} = 9 \\ p(2) &= 4\textcolor{blue}{a} + 2\textcolor{red}{b} + \textcolor{green}{c} = 12 \end{aligned} \]
2. Radreduser totalmatrisen
Vi skriver likningene som en totalmatrise og radreduserer, som i videoen Gauss Eliminering:
\[ \left[\begin{array}{ccc|c} 1 & 1 & 1 & 5 \\ 1 & -1 & 1 & 9 \\ 4 & 2 & 1 & 12 \end{array}\right] \]
\( {R_2 \to R_2 - R_1} \) gir:
\[ \left[\begin{array}{ccc|c} 1 & 1 & 1 & 5 \\ 0 & -2 & 0 & 4 \\ 4 & 2 & 1 & 12 \end{array}\right] \]
\( {R_3 \to R_3 - 4R_1} \) gir:
\[ \left[\begin{array}{ccc|c} 1 & 1 & 1 & 5 \\ 0 & -2 & 0 & 4 \\ 0 & -2 & -3 & -8 \end{array}\right] \]
\( {R_3 \to R_3 - R_2} \) gir:
\[ \left[\begin{array}{ccc|c} 1 & 1 & 1 & 5 \\ 0 & -2 & 0 & 4 \\ 0 & 0 & -3 & -12 \end{array}\right] \]
3. Løs nedenfra og opp
Andre og tredje rad gir:
\[ \begin{aligned} -2\textcolor{red}{b} &= 4 & &\Rightarrow & \textcolor{red}{b} &= \textcolor{red}{-2} \\ -3\textcolor{green}{c} &= -12 & &\Rightarrow & \textcolor{green}{c} &= \textcolor{green}{4} \end{aligned} \]
Første rad gir da:
\[ \textcolor{blue}{a} = 5 - (\textcolor{red}{-2}) - \textcolor{green}{4} = \textcolor{blue}{3} \]
Vi sjekker det siste punktet:
\[ p(2) = 3 \cdot 4 - 2 \cdot 2 + 4 = 12 \]
Oppgave 2b)
Bruk minste kvadraters metode til å finne førstegradspolynomet som passer best til de tre punktene.
Vis løsningSkjul løsning på oppgave 2b
Svar
Ingen rett linje går gjennom alle tre punktene. Vi skriver derfor kravene som et system \( {M\mathbf{x} = \mathbf{y}} \) og løser normallikningene \( {M^TM\mathbf{x} = M^T\mathbf{y}}\text{.} \)
1. Sett opp systemet
Skal linja gå gjennom alle tre punktene, må:
\[ \begin{aligned} \textcolor{blue}{d} + \textcolor{red}{e} &= 5 \\ -\textcolor{blue}{d} + \textcolor{red}{e} &= 9 \\ 2\textcolor{blue}{d} + \textcolor{red}{e} &= 12 \end{aligned} \]
De to første gir \( {d = -2} \) og \( {e = 7}\text{,} \) men da blir den tredje:
\[ 2 \cdot (-2) + 7 = 3 \neq 12 \]
Systemet har altså ingen løsning. På matriseform er det:
\[ \underbrace{\begin{bmatrix} 1 & 1 \\ -1 & 1 \\ 2 & 1 \end{bmatrix}}_{M} \begin{bmatrix} \textcolor{blue}{d} \\ \textcolor{red}{e} \end{bmatrix} = \underbrace{\begin{bmatrix} 5 \\ 9 \\ 12 \end{bmatrix}}_{\mathbf{y}} \]
2. Sett opp normallikningene
Minste kvadraters løsning er den som gjør summen av de kvadrerte avvikene minst. Den finner vi med normallikningene:
\[ M^TM\begin{bmatrix} \textcolor{blue}{d} \\ \textcolor{red}{e} \end{bmatrix} = M^T\mathbf{y} \]
Vi ganger rad med kolonne, som i videoen Multiplikasjon:
\[ \begin{aligned} M^TM &= \begin{bmatrix} 1 & -1 & 2 \\ 1 & 1 & 1 \end{bmatrix}\begin{bmatrix} 1 & 1 \\ -1 & 1 \\ 2 & 1 \end{bmatrix} \\ &= \begin{bmatrix} 6 & 2 \\ 2 & 3 \end{bmatrix} \end{aligned} \]
\[ \begin{aligned} M^T\mathbf{y} &= \begin{bmatrix} 1 & -1 & 2 \\ 1 & 1 & 1 \end{bmatrix}\begin{bmatrix} 5 \\ 9 \\ 12 \end{bmatrix} \\ &= \begin{bmatrix} 5 - 9 + 24 \\ 5 + 9 + 12 \end{bmatrix} = \begin{bmatrix} 20 \\ 26 \end{bmatrix} \end{aligned} \]
3. Løs normallikningene
Normallikningene er:
\[ \begin{aligned} 6\textcolor{blue}{d} + 2\textcolor{red}{e} &= 20 \\ 2\textcolor{blue}{d} + 3\textcolor{red}{e} &= 26 \end{aligned} \]
Den første gir \( {\textcolor{red}{e} = 10 - 3\textcolor{blue}{d}}\text{.} \) Setter vi det inn i den andre, får vi:
\[ \begin{aligned} 2\textcolor{blue}{d} + 3(10 - 3\textcolor{blue}{d}) &= 26 \\ -7\textcolor{blue}{d} &= -4 \\ \textcolor{blue}{d} &= \textcolor{blue}{\dfrac{4}{7}} \end{aligned} \]
Det gir oss:
\[ \textcolor{red}{e} = 10 - 3 \cdot \dfrac{4}{7} = \textcolor{red}{\dfrac{58}{7}} \]
Oppgave 7
- Flere oppgaver om interpolasjon,
- Flere oppgaver om lineære likningssystemer,
- Flere oppgaver om minste kvadraters metode,
- Flere oppgaver om polynomer
Gitt datapunktene og
Oppgave 7a)
Finn et andregradspolynom, på formen som går igjennom disse punktene.
Vis løsningSkjul løsning på oppgave 7a
Svar
Hvert punkt gir én likning for de tre ukjente koeffisientene. Vi løser likningssystemet ved å trekke likningene fra hverandre.
1. Sett opp likningene
Vi setter inn \( x \) og krever at \( p(x) \) blir \( y\text{,} \) som i videoen Polynom interpolasjon:
\[ \begin{aligned} p(1) &= \textcolor{blue}{a_1} + \textcolor{red}{b_1} + \textcolor{green}{c_1} = 4 & &\text{(I)} \\ p(2) &= 4\textcolor{blue}{a_1} + 2\textcolor{red}{b_1} + \textcolor{green}{c_1} = 1 & &\text{(II)} \\ p(-1) &= \textcolor{blue}{a_1} - \textcolor{red}{b_1} + \textcolor{green}{c_1} = 0 & &\text{(III)} \end{aligned} \]
2. Løs likningssystemet
(I) minus (III) fjerner \( \textcolor{blue}{a_1} \) og \( \textcolor{green}{c_1}\text{:} \)
\[ 2\textcolor{red}{b_1} = 4 \quad \Rightarrow \quad \textcolor{red}{b_1} = 2 \]
(II) minus (I) fjerner \( \textcolor{green}{c_1}\text{:} \)
\[ \begin{aligned} 3\textcolor{blue}{a_1} + \textcolor{red}{b_1} &= -3 \\ 3\textcolor{blue}{a_1} + 2 &= -3 \\ \textcolor{blue}{a_1} &= -\dfrac{5}{3} \end{aligned} \]
Setter vi dette inn i (I), får vi:
\[ \begin{aligned} \textcolor{green}{c_1} &= 4 - \textcolor{blue}{a_1} - \textcolor{red}{b_1} \\ &= 4 + \dfrac{5}{3} - 2 = \dfrac{11}{3} \end{aligned} \]
Kontroll: \( {p(2) = -\tfrac{20}{3} + 4 + \tfrac{11}{3} = 1} \) og \( {p(-1) = -\tfrac{5}{3} - 2 + \tfrac{11}{3} = 0}\text{.} \)
Oppgave 7b)
Bruk minste kvadraters metode til å finne linjen som passer dataene best.
Vis løsningSkjul løsning på oppgave 7b
Svar
Ingen rett linje går gjennom alle tre punktene. Vi setter opp likningssystemet likevel og løser normallikningene, som gir linja med minst sum av kvadrerte avvik.
1. Sett opp likningssystemet
Skulle linja gått gjennom alle punktene, måtte \( {\textcolor{blue}{a_2}x + \textcolor{red}{b_2} = y} \) for hvert punkt. På matriseform er det \( {A\mathbf{x} = \mathbf{y}}\text{:} \)
\[ \underbrace{\begin{bmatrix} 1 & 1 \\ 2 & 1 \\ -1 & 1 \end{bmatrix}}_{A}\begin{bmatrix} \textcolor{blue}{a_2} \\ \textcolor{red}{b_2} \end{bmatrix} = \underbrace{\begin{bmatrix} 4 \\ 1 \\ 0 \end{bmatrix}}_{\mathbf{y}} \]
Linja gjennom \( (1, 4) \) og \( (2, 1) \) er \( {y = -3x + 7}\text{,} \) og den bommer på det tredje punktet:
\[ -3 \cdot (-1) + 7 = 10 \neq 0 \]
Systemet har altså ingen løsning, så vi bruker minste kvadraters metode. Den velger \( \textcolor{blue}{a_2} \) og \( \textcolor{red}{b_2} \) slik at summen av de kvadrerte avvikene blir minst mulig, og forteller oss at de løser normallikningene:
\[ A^T\!A\,\mathbf{x} = A^T\mathbf{y} \]
2. Regn ut normallikningene
Vi ganger rad med kolonne, som i videoen Multiplikasjon:
\[ \begin{aligned} A^T\!A &= \begin{bmatrix} 1 & 2 & -1 \\ 1 & 1 & 1 \end{bmatrix}\begin{bmatrix} 1 & 1 \\ 2 & 1 \\ -1 & 1 \end{bmatrix} \\ &= \begin{bmatrix} 6 & 2 \\ 2 & 3 \end{bmatrix} \end{aligned} \]
\[ \begin{aligned} A^T\mathbf{y} &= \begin{bmatrix} 1 & 2 & -1 \\ 1 & 1 & 1 \end{bmatrix}\begin{bmatrix} 4 \\ 1 \\ 0 \end{bmatrix} \\ &= \begin{bmatrix} 6 \\ 5 \end{bmatrix} \end{aligned} \]
Det gir likningene:
\[ \begin{aligned} 6\textcolor{blue}{a_2} + 2\textcolor{red}{b_2} &= 6 \\ 2\textcolor{blue}{a_2} + 3\textcolor{red}{b_2} &= 5 \end{aligned} \]
3. Løs normallikningene
Vi ganger den andre likningen med \( 3 \) og trekker fra den første:
\[ \begin{aligned} 7\textcolor{red}{b_2} &= 15 - 6 \\ \textcolor{red}{b_2} &= \dfrac{9}{7} \end{aligned} \]
Setter vi dette inn i den første likningen, får vi:
\[ \begin{aligned} 6\textcolor{blue}{a_2} &= 6 - 2 \cdot \dfrac{9}{7} = \dfrac{24}{7} \\ \textcolor{blue}{a_2} &= \dfrac{4}{7} \end{aligned} \]
Oppgave 5
Beregn en linje som passer best mulig til de fem målinger:
Vis løsningSkjul løsning på oppgave 5
Svar
De fem punktene ligger ikke på én linje, så vi finner linjen med minste kvadraters metode: vi løser normallikningene.
1. Sett opp likningssystemet
Hver måling \( (x, y) \) gir en likning \( {\textcolor{blue}{a}x + \textcolor{red}{b} = y}\text{:} \)
\[ \begin{aligned} -\textcolor{blue}{a} + \textcolor{red}{b} &= 2 \\ \textcolor{red}{b} &= 0 \\ \textcolor{blue}{a} + \textcolor{red}{b} &= 2 \\ 2\textcolor{blue}{a} + \textcolor{red}{b} &= -2 \\ 3\textcolor{blue}{a} + \textcolor{red}{b} &= \dfrac{1}{2} \end{aligned} \]
Den andre og tredje gir \( {\textcolor{red}{b} = 0} \) og \( {\textcolor{blue}{a} = 2}\text{,} \) men da blir den første \( {-2 = 2}\text{.} \) Systemet har altså ingen løsning. På matriseform er det:
\[ \underbrace{\begin{bmatrix} -1 & 1 \\ 0 & 1 \\ 1 & 1 \\ 2 & 1 \\ 3 & 1 \end{bmatrix}}_{X}\begin{bmatrix} \textcolor{blue}{a} \\ \textcolor{red}{b} \end{bmatrix} = \underbrace{\begin{bmatrix} 2 \\ 0 \\ 2 \\ -2 \\ \tfrac{1}{2} \end{bmatrix}}_{\mathbf{y}} \]
2. Sett opp normallikningene
Minste kvadraters metode forteller oss at linjen som gjør summen av de kvadrerte avvikene så liten som mulig, er løsningen av:
\[ X^TX\begin{bmatrix} \textcolor{blue}{a} \\ \textcolor{red}{b} \end{bmatrix} = X^T\mathbf{y} \]
Vi ganger rad med kolonne, som i videoen Multiplikasjon:
\[ \begin{aligned} &X^TX \\ &= \begin{bmatrix} -1 & 0 & 1 & 2 & 3 \\ 1 & 1 & 1 & 1 & 1 \end{bmatrix}\begin{bmatrix} -1 & 1 \\ 0 & 1 \\ 1 & 1 \\ 2 & 1 \\ 3 & 1 \end{bmatrix} \\ &= \begin{bmatrix} 15 & 5 \\ 5 & 5 \end{bmatrix} \end{aligned} \]
Høyresiden blir:
\[ \begin{aligned} X^T\mathbf{y} &= \begin{bmatrix} -2 + 0 + 2 - 4 + \tfrac{3}{2} \\ 2 + 0 + 2 - 2 + \tfrac{1}{2} \end{bmatrix} \\ &= \begin{bmatrix} -\tfrac{5}{2} \\ \tfrac{5}{2} \end{bmatrix} \end{aligned} \]
3. Løs normallikningene
Skrevet ut er normallikningene:
\[ \begin{aligned} 15\textcolor{blue}{a} + 5\textcolor{red}{b} &= -\dfrac{5}{2} \\ 5\textcolor{blue}{a} + 5\textcolor{red}{b} &= \dfrac{5}{2} \end{aligned} \]
Trekker vi den andre fra den første, forsvinner \( \textcolor{red}{b}\text{:} \)
\[ 10\textcolor{blue}{a} = -5 \quad \Rightarrow \quad \textcolor{blue}{a} = -\dfrac{1}{2} \]
Setter vi dette inn i den andre, får vi:
\[ \begin{aligned} 5 \cdot \left(-\dfrac{1}{2}\right) + 5\textcolor{red}{b} &= \dfrac{5}{2} \\ 5\textcolor{red}{b} &= 5 \\ \textcolor{red}{b} &= 1 \end{aligned} \]
Kontroll: Avvikene \( {y - g(x)} \) er \( {\dfrac{1}{2}, -1, \dfrac{3}{2}, -2} \) og \( 1\text{,} \) og summen er \( 0\text{,} \) slik den alltid er for linjen fra normallikningene.
Oppgave 6
En forsker gjør følgende observasjoner i et eksperiment:
Hun ønsker å modellere den underliggende prosessen som et andregradspolynom. Bruk minste kvadraters metode til å finne koeffisientene slik at passer best mulig til dataene.
Vis løsningSkjul løsning på oppgave 6
Svar
Hvert punkt gir én likning, så vi får fire likninger med tre ukjente. De har ingen eksakt løsning, så vi løser normallikningene i stedet.
1. Sett opp likningssystemet
Setter vi hvert punkt inn i \( {p(x) = y}\text{,} \) får vi:
\[ \begin{aligned} a \cdot 0^2 + b \cdot 0 + c &= -6 \\ a \cdot 1^2 + b \cdot 1 + c &= 0 \\ a \cdot 2^2 + b \cdot 2 + c &= -8 \\ a \cdot 3^2 + b \cdot 3 + c &= -10 \end{aligned} \]
På matriseform er det \( {X\boldsymbol{\beta} = \mathbf{y}}\text{,} \) der:
\[ \begin{aligned} X &= \begin{bmatrix} 0 & 0 & 1 \\ 1 & 1 & 1 \\ 4 & 2 & 1 \\ 9 & 3 & 1 \end{bmatrix}, \quad \boldsymbol{\beta} = \begin{bmatrix} a \\ b \\ c \end{bmatrix}, \\ \mathbf{y} &= \begin{bmatrix} -6 \\ 0 \\ -8 \\ -10 \end{bmatrix} \end{aligned} \]
2. Sett opp normallikningene
Minste kvadraters metode forteller oss at den beste \( \boldsymbol{\beta} \) løser:
\[ X^TX\boldsymbol{\beta} = X^T\mathbf{y} \]
Vi ganger rad med kolonne, som i videoen Multiplikasjon. Radene i \( X^T \) er kolonnene \( x^2\text{,} \) \( x \) og \( 1\text{,} \) så hvert tall blir en sum over de fire punktene:
\[ \begin{aligned} \textstyle\sum x^4 &= 0 + 1 + 16 + 81 = 98 \\ \textstyle\sum x^3 &= 0 + 1 + 8 + 27 = 36 \\ \textstyle\sum x^2 &= 0 + 1 + 4 + 9 = 14 \\ \textstyle\sum x &= 0 + 1 + 2 + 3 = 6 \end{aligned} \]
Høyresiden får vi på samme måte:
\[ \begin{aligned} \textstyle\sum x^2y &= 0 + 0 - 32 - 90 = -122 \\ \textstyle\sum xy &= 0 + 0 - 16 - 30 = -46 \\ \textstyle\sum y &= -6 + 0 - 8 - 10 = -24 \end{aligned} \]
Med fire punkter er \( {\sum 1 = 4}\text{.} \) Det gir oss:
\[ \begin{bmatrix} 98 & 36 & 14 \\ 36 & 14 & 6 \\ 14 & 6 & 4 \end{bmatrix}\begin{bmatrix} a \\ b \\ c \end{bmatrix} = \begin{bmatrix} -122 \\ -46 \\ -24 \end{bmatrix} \]
3. Løs normallikningene
Vi deler hver likning på \( 2\text{:} \)
\[ \begin{aligned} 49a + 18b + 7c &= -61 \\ 18a + 7b + 3c &= -23 \\ 7a + 3b + 2c &= -12 \end{aligned} \]
Vi fjerner \( c \) ved å trekke likningene fra hverandre, som i videoen Gauss Eliminering. Den andre ganget med \( 2 \) minus den tredje ganget med \( 3 \) gir:
\[ 15a + 5b = -10 \;\Rightarrow\; \textcolor{blue}{b = -2 - 3a} \]
Den første ganget med \( 2 \) minus den tredje ganget med \( 7 \) gir:
\[ 49a + 15b = -38 \]
Setter vi inn \( {\textcolor{blue}{b = -2 - 3a}}\text{,} \) får vi:
\[ \begin{aligned} 49a + 15(\textcolor{blue}{-2 - 3a}) &= -38 \\ 4a - 30 &= -38 \\ a &= -2 \end{aligned} \]
Da er \( {b = -2 + 6 = 4}\text{,} \) og fra den tredje likningen:
\[ c = \dfrac{-12 - 7 \cdot (-2) - 3 \cdot 4}{2} = -5 \]
Oppgave 7
En ortogonal basis for kolonnerommet til matrisen
er gitt ved hvor
og
Oppgave 7a)
Regn ut projeksjonen av ned på (Svaret skal bli
Vis løsningSkjul løsning på oppgave 7a
Svar
Basisen er ortogonal, så projeksjonen på \( \operatorname{Col} A \) er summen av projeksjonene på hver av basisvektorene.
1. Skriv opp projeksjonsformelen
Med en ortogonal basis \( \{\mathbf{u}_1, \mathbf{u}_2, \mathbf{u}_3\} \) er projeksjonen av \( \mathbf{b} \) på underrommet de utspenner:
\[ \begin{aligned} \hat{\mathbf{b}} &= \dfrac{\mathbf{b} \cdot \mathbf{u}_1}{\mathbf{u}_1 \cdot \mathbf{u}_1}\mathbf{u}_1 + \dfrac{\mathbf{b} \cdot \mathbf{u}_2}{\mathbf{u}_2 \cdot \mathbf{u}_2}\mathbf{u}_2 \\ &\quad + \dfrac{\mathbf{b} \cdot \mathbf{u}_3}{\mathbf{u}_3 \cdot \mathbf{u}_3}\mathbf{u}_3 \end{aligned} \]
2. Regn ut skalarproduktene
Skalarproduktet ganger koordinatene parvis og legger sammen, som i videoen Multiplikasjon:
\[ \begin{aligned} \mathbf{b} \cdot \mathbf{u}_1 &= -1 + 0 + 1 + 0 = \textcolor{blue}{0} \\ \mathbf{b} \cdot \mathbf{u}_2 &= -1 - 0 - 1 + 0 = \textcolor{red}{-2} \\ \mathbf{b} \cdot \mathbf{u}_3 &= -1 - 0 + 1 - 0 = \textcolor{green}{0} \end{aligned} \]
Hver \( \mathbf{u}_i \) har fire koordinater som er \( 1 \) eller \( {-1}\text{,} \) så:
\[ \mathbf{u}_1 \cdot \mathbf{u}_1 = \mathbf{u}_2 \cdot \mathbf{u}_2 = \mathbf{u}_3 \cdot \mathbf{u}_3 = 4 \]
3. Sett inn i formelen
Plugger vi dette inn, blir bare leddet med \( \mathbf{u}_2 \) igjen:
\[ \begin{aligned} \hat{\mathbf{b}} &= \dfrac{\textcolor{blue}{0}}{4}\mathbf{u}_1 + \dfrac{\textcolor{red}{-2}}{4}\mathbf{u}_2 + \dfrac{\textcolor{green}{0}}{4}\mathbf{u}_3 \\ &= -\dfrac{1}{2}\begin{bmatrix} 1 \\ -1 \\ -1 \\ 1 \end{bmatrix} = \begin{bmatrix} -1/2 \\ 1/2 \\ 1/2 \\ -1/2 \end{bmatrix} \end{aligned} \]
Oppgave 7b)
Finn minste-kvadratsløsningen til det overbestemte ligningssystemet
Vis løsningSkjul løsning på oppgave 7b
Svar
Selv om du ikke fikk til a), kan du løse denne: projeksjonen \( \hat{\mathbf{b}} \) står i oppgaveteksten.
Minste-kvadratsløsningen er den \( \hat{\mathbf{x}} \) som gjør \( A\hat{\mathbf{x}} \) så nær \( \mathbf{b} \) som mulig. Det nærmeste punktet i \( \operatorname{Col} A \) er projeksjonen, så vi løser \( {A\hat{\mathbf{x}} = \hat{\mathbf{b}}}\text{.} \)
1. Sett opp likningssystemet
Projeksjonen \( \hat{\mathbf{b}} \) er vektoren i \( \operatorname{Col} A \) som ligger nærmest \( \mathbf{b}\text{.} \) Minste-kvadratsløsningen er derfor løsningen av:
\[ A\hat{\mathbf{x}} = \hat{\mathbf{b}} \]
I a) fant vi:
\[ \hat{\mathbf{b}} = \begin{bmatrix} -1/2 \\ 1/2 \\ 1/2 \\ -1/2 \end{bmatrix} \]
Med \( {\hat{\mathbf{x}} = (\textcolor{blue}{x_1}, \textcolor{red}{x_2}, \textcolor{green}{x_3})} \) gir radene i \( A \) likningene:
\[ \begin{aligned} \textcolor{blue}{x_1} + 3\textcolor{red}{x_2} + 5\textcolor{green}{x_3} &= -\tfrac{1}{2} & &\text{(I)} \\ \textcolor{blue}{x_1} + \textcolor{red}{x_2} &= \tfrac{1}{2} & &\text{(II)} \\ \textcolor{blue}{x_1} + \textcolor{red}{x_2} + 2\textcolor{green}{x_3} &= \tfrac{1}{2} & &\text{(III)} \\ \textcolor{blue}{x_1} + 3\textcolor{red}{x_2} + 3\textcolor{green}{x_3} &= -\tfrac{1}{2} & &\text{(IV)} \end{aligned} \]
2. Løs likningssystemet
Vi trekker likningene fra hverandre, slik videoen Gauss Eliminering gjør før den bruker matriser. (III) minus (II) gir:
\[ 2\textcolor{green}{x_3} = 0 \quad \Rightarrow \quad \textcolor{green}{x_3} = 0 \]
Med \( {\textcolor{green}{x_3} = 0} \) gir (I) minus (II):
\[ 2\textcolor{red}{x_2} = -1 \quad \Rightarrow \quad \textcolor{red}{x_2} = -\dfrac{1}{2} \]
Setter vi dette inn i (II), får vi:
\[ \textcolor{blue}{x_1} = \dfrac{1}{2} - \left(-\dfrac{1}{2}\right) = 1 \]
\( \operatorname{Col} A \) har dimensjon \( 3\text{,} \) og \( A \) har tre kolonner, så kolonnene er lineært uavhengige og løsningen er den eneste.
Kontroll: (IV) gir \( {1 - \tfrac{3}{2} + 0 = -\tfrac{1}{2}}\text{,} \) som stemmer.
Oppgave 8
Benytt minste kvadraters metode til å finne andregradspolynomet
som minimerer avstanden til datapunktene
(Det vil si, finn og )
Vis løsningSkjul løsning på oppgave 8
Svar
Hvert punkt gir én likning, så vi får fire likninger med tre ukjente. De har ingen eksakt løsning, så vi løser normallikningene.
1. Sett opp likningssystemet
Setter vi hvert punkt inn i \( {p(x) = y}\text{,} \) får vi:
\[ \begin{aligned} a \cdot (-1)^2 + b \cdot (-1) + c &= 1 \\ a \cdot 0^2 + b \cdot 0 + c &= -2 \\ a \cdot 1^2 + b \cdot 1 + c &= 0 \\ a \cdot 2^2 + b \cdot 2 + c &= 5 \end{aligned} \]
De tre første likningene gir:
\[ c = -2, \quad a = \dfrac{5}{2}, \quad b = -\dfrac{1}{2} \]
Da blir den fjerde:
\[ 4 \cdot \dfrac{5}{2} + 2 \cdot \left(-\dfrac{1}{2}\right) - 2 = 7 \neq 5 \]Systemet har altså ingen løsning.
På matriseform er det \( {X\boldsymbol{\beta} = \mathbf{y}}\text{,} \) der:
\[ \begin{aligned} X &= \begin{bmatrix} 1 & -1 & 1 \\ 0 & 0 & 1 \\ 1 & 1 & 1 \\ 4 & 2 & 1 \end{bmatrix}, \quad \boldsymbol{\beta} = \begin{bmatrix} a \\ b \\ c \end{bmatrix}, \\ \mathbf{y} &= \begin{bmatrix} 1 \\ -2 \\ 0 \\ 5 \end{bmatrix} \end{aligned} \]
2. Sett opp normallikningene
Minste kvadraters metode forteller oss at den \( \boldsymbol{\beta} \) som gjør summen av de kvadrerte avstandene minst mulig, løser:
\[ X^TX\boldsymbol{\beta} = X^T\mathbf{y} \]
Vi ganger rad med kolonne, som i videoen Multiplikasjon. Radene i \( X^T \) er kolonnene i \( X\text{,} \) altså \( x^2\text{,} \) \( x \) og \( 1\text{,} \) så hvert tall blir en sum over de fire punktene:
\[ \begin{aligned} X^TX &= \begin{bmatrix} \sum x^4 & \sum x^3 & \sum x^2 \\ \sum x^3 & \sum x^2 & \sum x \\ \sum x^2 & \sum x & 4 \end{bmatrix} \\ X^T\mathbf{y} &= \begin{bmatrix} \sum x^2y \\ \sum xy \\ \sum y \end{bmatrix} \end{aligned} \]
Vi regner ut summene:
\[ \begin{aligned} \textstyle\sum x^4 &= 1 + 0 + 1 + 16 = 18 \\ \textstyle\sum x^3 &= -1 + 0 + 1 + 8 = 8 \\ \textstyle\sum x^2 &= 1 + 0 + 1 + 4 = 6 \\ \textstyle\sum x &= -1 + 0 + 1 + 2 = 2 \end{aligned} \]
Høyresiden får vi på samme måte:
\[ \begin{aligned} \textstyle\sum x^2y &= 1 + 0 + 0 + 20 = 21 \\ \textstyle\sum xy &= -1 + 0 + 0 + 10 = 9 \\ \textstyle\sum y &= 1 - 2 + 0 + 5 = 4 \end{aligned} \]
Med fire punkter er \( {\sum 1 = 4}\text{.} \) Det gir oss:
\[ \begin{bmatrix} 18 & 8 & 6 \\ 8 & 6 & 2 \\ 6 & 2 & 4 \end{bmatrix}\begin{bmatrix} a \\ b \\ c \end{bmatrix} = \begin{bmatrix} 21 \\ 9 \\ 4 \end{bmatrix} \]
3. Løs normallikningene
Skrevet ut er det:
\[ \begin{aligned} 18a + 8b + 6c &= 21 \\ 8a + 6b + 2c &= 9 \\ 6a + 2b + 4c &= 4 \end{aligned} \]
Vi fjerner \( c \) ved å trekke likningene fra hverandre, som med addisjonsmetoden i videoen Likningssett – innsettingsmetoden og addisjonsmetoden. Den andre ganget med \( 2 \) minus den tredje gir:
\[ 10a + 10b = 14 \quad \Rightarrow \quad \textcolor{blue}{b = \dfrac{7}{5} - a} \]
Den første ganget med \( 2 \) minus den tredje ganget med \( 3 \) gir:
\[ 18a + 10b = 30 \]
Setter vi inn \( {\textcolor{blue}{b = \dfrac{7}{5} - a}}\text{,} \) får vi:
\[ \begin{aligned} 18a + 10\left(\textcolor{blue}{\dfrac{7}{5} - a}\right) &= 30 \\ 8a + 14 &= 30 \\ a &= 2 \end{aligned} \]
Da er \( {b = \tfrac{7}{5} - 2 = -\tfrac{3}{5}}\text{,} \) og den tredje likningen gir:
\[ \begin{aligned} c &= \dfrac{4 - 6 \cdot 2 - 2 \cdot \left(-\tfrac{3}{5}\right)}{4} \\ &= \dfrac{-\tfrac{34}{5}}{4} = -\dfrac{17}{10} \end{aligned} \]
Oppgave 7
La utgjøre det lineære spennet
Oppgave 7a)
Regn ut den ortogonale projeksjonen av
ned på
Vis løsningSkjul løsning på oppgave 7a
Svar
De to vektorene som utspenner \( V\text{,} \) står ikke vinkelrett på hverandre. Vi lager derfor først en ortogonal basis med Gram-Schmidt, og projiserer så \( \mathbf{b} \) på hver basisvektor.
1. Lag en ortogonal basis
Vi kaller vektorene \( {\mathbf{u}_1 = (1, 1, 1)} \) og \( {\mathbf{u}_2 = (1, 1, -1)}\text{.} \) Prikkproduktet, som i videoen Multiplikasjon, er:
\[ \mathbf{u}_1 \cdot \mathbf{u}_2 = 1 + 1 - 1 = 1 \neq 0 \]
De står altså ikke vinkelrett på hverandre. Gram-Schmidt forteller oss at vi beholder \( {\textcolor{blue}{\mathbf{v}_1} = \mathbf{u}_1} \) og trekker projeksjonen på \( \textcolor{blue}{\mathbf{v}_1} \) fra \( \mathbf{u}_2\text{:} \)
\[ \textcolor{red}{\mathbf{v}_2} = \mathbf{u}_2 - \dfrac{\mathbf{u}_2 \cdot \textcolor{blue}{\mathbf{v}_1}}{\textcolor{blue}{\mathbf{v}_1} \cdot \textcolor{blue}{\mathbf{v}_1}}\,\textcolor{blue}{\mathbf{v}_1} \]
Her er:
\[ \begin{aligned} \mathbf{u}_2 \cdot \textcolor{blue}{\mathbf{v}_1} &= 1 \\ \textcolor{blue}{\mathbf{v}_1} \cdot \textcolor{blue}{\mathbf{v}_1} &= 1 + 1 + 1 = 3 \end{aligned} \]
Plugger vi dette inn, får vi:
\[ \textcolor{red}{\mathbf{v}_2} = \begin{bmatrix} 1 \\ 1 \\ -1 \end{bmatrix} - \dfrac{1}{3}\textcolor{blue}{\begin{bmatrix} 1 \\ 1 \\ 1 \end{bmatrix}} = \begin{bmatrix} \tfrac{2}{3} \\ \tfrac{2}{3} \\ -\tfrac{4}{3} \end{bmatrix} \]
Vi kan gange med \( \dfrac{3}{2}\text{,} \) siden retningen er det som teller:
\[ \textcolor{blue}{\mathbf{v}_1} = \textcolor{blue}{\begin{bmatrix} 1 \\ 1 \\ 1 \end{bmatrix}}, \quad \textcolor{red}{\mathbf{v}_2} = \textcolor{red}{\begin{bmatrix} 1 \\ 1 \\ -2 \end{bmatrix}} \]
Nå er \( {\textcolor{blue}{\mathbf{v}_1} \cdot \textcolor{red}{\mathbf{v}_2} = 1 + 1 - 2 = 0}\text{.} \)
2. Projiser b på V
Med en ortogonal basis er projeksjonen summen av projeksjonene på hver basisvektor:
\[ \hat{\mathbf{b}} = \dfrac{\mathbf{b} \cdot \textcolor{blue}{\mathbf{v}_1}}{\textcolor{blue}{\mathbf{v}_1} \cdot \textcolor{blue}{\mathbf{v}_1}}\,\textcolor{blue}{\mathbf{v}_1} + \dfrac{\mathbf{b} \cdot \textcolor{red}{\mathbf{v}_2}}{\textcolor{red}{\mathbf{v}_2} \cdot \textcolor{red}{\mathbf{v}_2}}\,\textcolor{red}{\mathbf{v}_2} \]
Her er:
\[ \begin{aligned} \mathbf{b} \cdot \textcolor{blue}{\mathbf{v}_1} &= 1 + 0 + 2 = 3 \\ \textcolor{blue}{\mathbf{v}_1} \cdot \textcolor{blue}{\mathbf{v}_1} &= 1 + 1 + 1 = 3 \\ \mathbf{b} \cdot \textcolor{red}{\mathbf{v}_2} &= 1 + 0 - 4 = -3 \\ \textcolor{red}{\mathbf{v}_2} \cdot \textcolor{red}{\mathbf{v}_2} &= 1 + 1 + 4 = 6 \end{aligned} \]
Plugger vi dette inn, får vi:
\[ \begin{aligned} \hat{\mathbf{b}} &= \dfrac{3}{3}\textcolor{blue}{\begin{bmatrix} 1 \\ 1 \\ 1 \end{bmatrix}} - \dfrac{3}{6}\textcolor{red}{\begin{bmatrix} 1 \\ 1 \\ -2 \end{bmatrix}} \\ &= \begin{bmatrix} 1 - \tfrac{1}{2} \\ 1 - \tfrac{1}{2} \\ 1 + 1 \end{bmatrix} = \begin{bmatrix} \tfrac{1}{2} \\ \tfrac{1}{2} \\ 2 \end{bmatrix} \end{aligned} \]
Kontroll: \( {\mathbf{b} - \hat{\mathbf{b}} = (\tfrac{1}{2}, -\tfrac{1}{2}, 0)} \) har prikkprodukt \( 0 \) med både \( (1, 1, 1) \) og \( {(1, 1, -1)}\text{,} \) så den står vinkelrett på \( V\text{.} \)
Oppgave 7b)
Finn minste kvadraters-løsningen til
Vis løsningSkjul løsning på oppgave 7b
Svar
De to første likningene motsier hverandre, så systemet har ingen løsning. Minste kvadraters-løsningen finner vi fra normallikningene \( {A^{\top}A\hat{\mathbf{x}} = A^{\top}\mathbf{b}}\text{.} \)
1. Skriv systemet på matriseform
Systemet er \( {A\mathbf{x} = \mathbf{b}} \) med:
\[ A = \begin{bmatrix} 1 & 1 \\ 1 & 1 \\ 1 & -1 \end{bmatrix}, \quad \mathbf{b} = \begin{bmatrix} 1 \\ 0 \\ 2 \end{bmatrix} \]
2. Sett opp normallikningene
Minste kvadraters-løsningen \( \hat{\mathbf{x}} \) er løsningen av normallikningene:
\[ A^{\top}A\hat{\mathbf{x}} = A^{\top}\mathbf{b} \]
Vi regner ut produktene rad ganger kolonne, som i videoen Multiplikasjon:
\[ \begin{aligned} A^{\top}A &= \begin{bmatrix} 1 & 1 & 1 \\ 1 & 1 & -1 \end{bmatrix}\begin{bmatrix} 1 & 1 \\ 1 & 1 \\ 1 & -1 \end{bmatrix} \\ &= \begin{bmatrix} 1 + 1 + 1 & 1 + 1 - 1 \\ 1 + 1 - 1 & 1 + 1 + 1 \end{bmatrix} \\ &= \begin{bmatrix} 3 & 1 \\ 1 & 3 \end{bmatrix} \end{aligned} \]
Og for høyresiden:
\[ A^{\top}\mathbf{b} = \begin{bmatrix} 1 + 0 + 2 \\ 1 + 0 - 2 \end{bmatrix} = \begin{bmatrix} 3 \\ -1 \end{bmatrix} \]
Med \( {\hat{\mathbf{x}} = (\textcolor{blue}{x_1}, \textcolor{red}{x_2})} \) er normallikningene:
\[ \begin{aligned} 3\textcolor{blue}{x_1} + \textcolor{red}{x_2} &= 3 \\ \textcolor{blue}{x_1} + 3\textcolor{red}{x_2} &= -1 \end{aligned} \]
3. Løs normallikningene
Vi ganger den andre likningen med \( 3 \) og trekker den første fra, som når vi løser på vanlig måte i videoen Gauss Eliminering:
\[ 8\textcolor{red}{x_2} = -6 \quad \Rightarrow \quad \textcolor{red}{x_2} = -\dfrac{3}{4} \]
Setter vi dette inn i den andre likningen, får vi:
\[ \textcolor{blue}{x_1} = -1 - 3 \cdot \left(-\dfrac{3}{4}\right) = \dfrac{5}{4} \]
Kontroll: \( {A\hat{\mathbf{x}} = (\tfrac{1}{2}, \tfrac{1}{2}, 2)}\text{,} \) som er projeksjonen fra a): kolonnene i \( A \) utspenner \( V\text{,} \) og høyresiden er \( \mathbf{b}\text{.} \)
Oppgave 5
Bruk minste kvadraters metode for å finne en tilnærmet løsning på det overbestemte ligningssystemet
Vis løsningSkjul løsning på oppgave 5
Svar
Systemet har tre likninger og bare to ukjente, og det har ingen eksakt løsning. Vi skriver det derfor som \( {M\mathbf{v} = \mathbf{b}} \) og løser normallikningene \( {M^TM\mathbf{v} = M^T\mathbf{b}}\text{.} \)
1. Skriv systemet på matriseform
\[ \underbrace{\begin{bmatrix} 2 & 1 \\ 3 & -2 \\ -1 & 3 \end{bmatrix}}_{M} \underbrace{\begin{bmatrix} \textcolor{blue}{x} \\ \textcolor{red}{y} \end{bmatrix}}_{\mathbf{v}} = \underbrace{\begin{bmatrix} 5 \\ 1 \\ 6 \end{bmatrix}}_{\mathbf{b}} \]
2. Sett opp normallikningene
Minste kvadraters løsning er den som gjør summen av de kvadrerte avvikene minst. Den finner vi med normallikningene:
\[ M^TM\begin{bmatrix} \textcolor{blue}{x} \\ \textcolor{red}{y} \end{bmatrix} = M^T\mathbf{b} \]
Vi ganger rad med kolonne, som i videoen Multiplikasjon:
\[ \begin{aligned} M^TM &= \begin{bmatrix} 2 & 3 & -1 \\ 1 & -2 & 3 \end{bmatrix}\begin{bmatrix} 2 & 1 \\ 3 & -2 \\ -1 & 3 \end{bmatrix} \\ &= \begin{bmatrix} 4 + 9 + 1 & 2 - 6 - 3 \\ 2 - 6 - 3 & 1 + 4 + 9 \end{bmatrix} \\ &= \begin{bmatrix} 14 & -7 \\ -7 & 14 \end{bmatrix} \end{aligned} \]
\[ \begin{aligned} M^T\mathbf{b} &= \begin{bmatrix} 2 & 3 & -1 \\ 1 & -2 & 3 \end{bmatrix}\begin{bmatrix} 5 \\ 1 \\ 6 \end{bmatrix} \\ &= \begin{bmatrix} 10 + 3 - 6 \\ 5 - 2 + 18 \end{bmatrix} = \begin{bmatrix} 7 \\ 21 \end{bmatrix} \end{aligned} \]
3. Løs normallikningene
Normallikningene er:
\[ \begin{aligned} 14\textcolor{blue}{x} - 7\textcolor{red}{y} &= 7 \\ -7\textcolor{blue}{x} + 14\textcolor{red}{y} &= 21 \end{aligned} \]
Vi deler begge på \( 7\text{:} \)
\[ \begin{aligned} 2\textcolor{blue}{x} - \textcolor{red}{y} &= 1 \\ -\textcolor{blue}{x} + 2\textcolor{red}{y} &= 3 \end{aligned} \]
Den første gir \( {\textcolor{red}{y} = 2\textcolor{blue}{x} - 1}\text{.} \) Setter vi det inn i den andre, får vi:
\[ \begin{aligned} -\textcolor{blue}{x} + 2(2\textcolor{blue}{x} - 1) &= 3 \\ 3\textcolor{blue}{x} &= 5 \\ \textcolor{blue}{x} &= \textcolor{blue}{\dfrac{5}{3}} \end{aligned} \]
Det gir oss:
\[ \textcolor{red}{y} = 2 \cdot \dfrac{5}{3} - 1 = \textcolor{red}{\dfrac{7}{3}} \]
Kontroll: Avvikene \( {M\mathbf{v} - \mathbf{b} = \left(\tfrac{2}{3}, -\tfrac{2}{3}, -\tfrac{2}{3}\right)} \) står vinkelrett på begge kolonnene i \( M\text{,} \) som de skal.