L. Sq :: rät linje

c Mikael Forsberg
13 oktober 2008
L. Sq :: rät linje
Minsta kvadratmetoden.
• Om m > n i en m × n matris så händer det ofta att systemet Ax = b inte har
någon lösning; Kolonnrummet är bara en liten del av Rm och det är därför lätt
att missa b.
• Sådana system uppstår ofta i praktiska situationer, där tex mätningar inför fel.
Att lösa ekvationen är inte möjlig men man vill ändå försöka hitta ”nästanlösningar”1
• En idé är att göra det bästa man kan inom kolonnrummet; man vill hitta
den punkt i kolonnrummet som ligger närmast b; man vill hitta den vektor i
kolonnrummet som minimerar avståndet till b.
• Med lite eftertanke kan man förstå att kortaste avståndet från b till kolonnrummet är det vinkelräta avståndet; bästa approximationen är projektionen av
b ned till kolonnrummet.
• Att avståndet från b till kolonnrummet minimeras betyder att för x i kolonnrummet så gäller att
||b − x||2 = (b1 − x1 )2 + · · · + (bm − xm )2
minimeras. Detta är anledningen till namnet minsta kvadrat metoden.
1 nästan-lösningar kallas hellre approximativa lösningar, så bra lösningar som man kan få fram, lösningar som
ligger så nära en riktig lösning som möjligt.
1
c Mikael Forsberg
13 oktober 2008
Exempel på minsta kvadratmetoden.
Här sammanfattas hur minstakvadratmetoden används för att anpassa räta linjer till mätdata.
• Låt {(xi , yi )}m
i=1 vara ett antal mätpunkter fördelade som i figur
•
• Från punkterna kan man ana ett linjärt samband; vilken av linjerna ger bästa resultatet?
Låt


y1
 
Y =  ... 

1
 ..
och M =  .
ym

x1
.. 
. 
1 xn
Om y = a + bx betecknar minsta kvadratlösningen så gäller att kolonnvektorn X = (a, b)t är
lösningen till
M tM X = M tY
Låt oss nu se metoden ”in action” ::
Exempel 1. Bestäm den räta linje som bäst anpassar sig till punkterna
(−1, 4), (0, 2), (1, −2), (2, −3), (3, −7)
Räta linjens ekvation ges av m+xk = y. Våra punkter insatta i denna ekvation ger följande system
ur vilket vi vill bestämma m och k:




1 −1
4
 1 0 
 2 




 1 1  m =  −2 

 k


 1 2 
 −3 
1 3
−7
|
{z
}
A
Vi multiplicerar denna ekvation med transponatet till A. Vi får då ekvationen
"
#
#
"
5 5
−6
m
=
,
k
5 15
−33
som har lösningen
m
k
"
=
3/2
27
− 10
som ger oss linjen
y=−
27
3
x+
10
2
2
#