Transcript for:
10. Lektion Ortogonalprojektion på underrum og Gram-Schmidt

Så er vi ved at være klar til den sidste kursusgang i den her blog. De her valgblogger er jo kun to kursusgange, så vi skal allerede til at afslutte det, vi startede sidste gang. Så vi så det der med, hvordan man laver en produktion ned på en linje, og i dag skal vi så se mere generelt ned på et underrum, og så skal vi have fat i det, man kalder Gram-Smith-algoritmen, som er en måde at lave en autokronel basis. Og ligesom sidste gang, så holder jeg øje både med mail og... med chat her på YouTube, sådan at I kan stille spørgsmål undervejs. Men lad os prøve at starte med at se noget af det, vi snakkede om sidste gang. Så vi skulle have fat i de her indre produkter, og det var, at når jeg har to vektorer U og V, så er det indre produkt defineret som, at jeg tager deres første indgange og ganger sammen, deres anden indgange og ganger sammen, og så videre ned til de endte indgange, så... Jeg regner alle de her produkter ud, og så lægger jeg dem sammen, og det giver det her indre produkt. Eller enten skalarproduktet eller prikproduktet, kan man også kalde det. Og noget, der så var en god ting at huske, det var, at når jeg skriver u prikket med v, så kan jeg også udtrykke det som u transponeret ganget med v. Så egentlig tager jeg det her indre produkt, og så oversætter jeg det til et matrixvektorprodukt, hvor nu den her matrix... Det er så en 1 kryds n matrix, altså det er i virkeligheden bare en række vektorer. Men vi kan tænke på det som en matrixvektorprodukt. Og her er det så godt at huske på, at det her ikke er det samme som at sige uv transponeret. Så det skal altså være den første vektor her, vi transponerer, for at vi får, at det er det samme som det her indre produkt. Så så vi dermed, at det indre produkt har nogle pæne egenskaber, når vi skal regne med det, nemlig at det er symmetrisk, så vi må bytte om på rækkefølgen. Vi må prikke ind i en parenthes, så altså det her W kan jeg prikke ind både på U og V. Hvis jeg har skalarer, så vælger jeg selv, om jeg først ganger det på en af vektorerne, eller om jeg prikker vektorerne sammen, og så ganger skalaren på bagefter. Og så den sidste her, det er, at når vi prikker en... vektor med sig selv, så får vi noget, der er ikke negativt. Og den her lighed, altså at prikproduktet er lige med 0, det får vi hvis og kun hvis det er 0-vektoren, vi prikker med sig selv. Og den var jo særlig god at kunne i forhold til, at vi ville gerne udtrykke en længde af en vektor. Og intuitivt ville vi godt have, at den eneste vektor, der har længde 0, at det lige præcis er 0-vektoren. fordi det er den, der ikke flytter sig noget sted væk fra oreo. Så det her sikrer netop, at når vi bruger det indre produkt til at definere vores længde, så er det kun 0-vektoren, der har længde 0. Og så snakker vi om de her ortogonale komplementer. Så først at to vektorer er ortogonale, hvis deres prikprodukt er lige med 0. Og det var det med, at ortogonale, når vi snakker R2 og R3, så svarer det til, at de er vinkelrette på hinanden. Men det her med at snakke om orthogonalitet er både mere praktisk i forhold til, hvis man skal bruge noget af det her senere, men der er også noget praktisk i, at det her med at snakke om orthogonalitet, det er bare, at vi kan udregne, altså vi kan lave en beregning, så vi tjekker, om en eller anden ligning er opfyldt. Hvor det måske er svært at sige, hvis jeg har to vektorer, og så at jeg gerne vil vide, om de er i vinkelrette, så er det noget med, at jeg skal ud og måle en vinkel på en eller anden måde, og det er måske ikke helt tydeligt, hvordan jeg gør det. Men det er nemt at tjekke, om det her prægprodukt er lige med 0. Og så definerer vi det her med et komplement, så jeg har et underrum W, eller jeg har en mængde W, så det kan være et underrum. Og hvis det er et underrum, så er der uendeligt mange vektorer i den her mængde. Og så definerer vi det ortogonale komplement til at være alle de vektorer z, som opfylder at z prikket med w er lige med 0 for alle mulige vektorer i underrummet. Så altså at det her komplement er alle de vektorer, som er ortogonale på alle vektorer i w. Og vi bruger den der... Det er jo lidt sådan et omvendt T, fordi det betyder noget med at være vinklart på. Så det er det autokonale komplement, det her. Og så så vi også lidt på de her ortogonale mængder. Så det betyder bare, at nu har jeg en mængde af k-vektorer, og så siger jeg, at den er en ortogonal mængde, hvis de her parvise indre produkter giver 0. Og det skal det gælde om, eller vi skal kræve, at i er forskellige fra j heroppe. Fordi hvis nu i og j er ens, så vil vi få længden af den her vektor i anden. Så det er altså, at de er forskellige, og så skal de give 0. Så de er parvist ortogonale, de her vektorer. Hvis vi så også har, at længden er 1, så siger vi, at den her mængde er ortonormal. Altså ortogonal, det er uden at vi har normeret, og ortonormal, det er, at vi både har noget, der er ortogonalt og har længde 1. Og det her kunne vi så bruge til at lave nogle baser med særlige egenskaber, nemlig at nu har jeg k vektorer og b'et op til b'k. Og hvis det så er en orthogonal basis for et eller andet underrum, w, så vil jeg kunne gøre det, at enhver vektor i mit underrum, det kan jeg skrive som en linær kombination af basisvektorerne, så det er mere eller mindre definitionen af en basis. Men hvis nu jeg har, at det er en orthogonal basis, så kan jeg sige, at de her vægte, jeg skal bruge i min linær kombination, det er ved, at jeg udregner to prikprodukter. Så nemlig, at jeg tager den w, jeg godt vil beskrive, og prikker den. med den ide basisvektor, og så dividerer jeg med den ide basisvektor, præget med sig selv. Og det giver altså den vægt, der skal stå foran den her basisvektor bi. Når nu at vores basis heroppe, den ikke bare er orthogonal, men at den også er ortonormal, så ved vi, at længden af bi er lige 1. Og vi kan se, at det, der står der, Det er jo lige præcis længden af bi i anden, fordi længden af en vektor, det er, at vi prikker den med sig selv, og så tager vi kvadratråden. Så hvis vi ikke tager kvadratråden, så bliver det jo så længden i anden. Så altså her kan vi sige, at når nu det er en ortonormal basis, og ikke bare en ortogonal basis, så kan vi se bort fra nævneren der, så det egentlig bare bliver w prikket med den her i det basisvektor. Så det er ingen grund til. måske at man kunne være interesseret i at have en ortonormal basis, at så er det et prægtprodukt, og så får man direkte den her vægt. Og det vi så så, som varmer lidt op til i dag, det er det her med, at hvis nu vi har en linje, der er udspændt af den her u, og så har jeg en vægt til y, og jeg vil godt, det vi sagde sidste gang var, at vi vil godt finde den korteste afstand fra y, og så ned til den linje, der er udspændt af u. Og det var så den her orthogonalprojektion. Så jeg havde min vektor u, og så har jeg en vektor y. Og det jeg så skal for at få den korteste afstand, det er, at jeg skal projicere ned her. Og den vektor, jeg får, der ligger her, det er så... orthogonal-projektionen. Og vi fandt ud af sidste gang, at det er ligesom de koefficienter, vi har her. Så er det, at jeg tager koefficienten foran u, fordi nu har jeg, at u er en orthogonal basis for den her linje. Så koefficienten foran skal være y, som er den, jeg godt vil beskrive, prikket med u over u prik u, og så skal det... ganges på den her vektor u. Så det her er bare koefficienten fra det tidligere slide. Og når nu vi har fundet vores produktion, så hvis vi skal finde afstanden fra y ned til linjen, så vil det sige, at vi skal finde det der stykke. Men det er lige netop, at vi tager y minus y hat, og så kan vi tage længden af det. Det er sådan set bare, at vi kan tage vores linje, og så kan vi projicere den ned. Og når vi har gjort det, så hvis vi trækker projektionen fra, så får vi alt det, der ligger over 2-grunalt på det underrum, vi nu har projiceret på. Og det er den idé, vi ligesom skal generalisere til, at vi nu også har, at det ikke bare er en linje, at det ikke bare er noget etdimensionelt, men det kan være et generelt underrum. Så det er der, hvor vi starter i dag. Så vi skal kigge på de her generelle underrum, og inden vi gør det, så vil jeg prøve at sige lidt om, hvorfor det kunne være, at man kunne være interesseret i det her. Og en af de steder, hvor det optræder meget, og jeg tror også, at der er flere af jer, der skal arbejde med det i jeres workshop, det er det her mindstekvadratersmetode. Så en måde at forklare det er, at man laver sådan nogle... Nu skal jeg se, hvordan man laver sådan nogle kvadrater her, som har noget med fejlen at gøre, og så er det dem, der skal skrue på den her graf, sådan at de her kvadrater sammenlagt får det mindst mulige areal. Så det er en måde at tænke på mindstekvadratermetoden. En anden er, at man faktisk kan forklare det ud fra nogle af de her underordn. Så man kan sige, at vi har en vektor y, og det er noget, vi har været ude og måle. Så det kan være, at det er folks højde, at det er den, vi godt vil beskrive. Men der kan være nogle målefejl i den her, fordi vores lineal ikke var helt præcis. Eller hvad ved jeg, der kan være alle mulige målefejl i det data, vi har indsamlet. Og så har vi en eller anden model, hvor vi siger, at vi tror egentlig, at vores sande data skal følge en eller anden model. Og ud fra et linear algebra synspunkt betyder det så, at den her vektor uden fejl, så y'et er med vores fejl, men at den sande vektor skal ligge i et eller andet underrum, w. Så det kan være, at vi siger, at vi har også målt... hvad folk de vejer og hvor gamle de er. Og så har vi en eller anden idé om, at der er en eller anden model ud fra, at hvor meget de vejer og hvor gamle de er, det har også en betydning for, hvor høje de er. Så det svarer til, at vi egentlig specificerer vores underrum W. Og når vi så finder afstanden fra vores indsamlede datavægter y ned til underrummet, Jamen så får vi et eller andet mål for, hvor tæt vi er på den her model. Altså hvor stor er vores målefejl. Eller hvis nu den her afstand er meget stor, så kan det være, at vi finder ud af, at vores model her ikke rigtig passer til det data, vi har indsamlet. Så der måske er et eller andet galt med modellen. Så når vi snakker mindstekvadratersmetode, så er det sådan i en eller anden meget overordnet forstand, så er det, at vi skal finde den vektor nede i vores underrum, som ligger tættest på det indsamlede data. Fordi når vi så finder den her vektor, der er tættest på, så vil, når vi udtrykker den i en basis for vores underrum, Så er det sådan set det, der giver os vores parametre i modellen. Så det der med, her har vi en eller anden ax i anden plus bx plus c, så er det de der a, b og c, dem finder vi egentlig ved at beskrive den her vektor nede i w, som er tættest på y. Så det er motivationen for, hvorfor vi kunne godt tænke os at gøre noget som det her. Eller det er en mulig motivation for, hvorfor vi ville gøre det. Så lad os prøve at starte med et simpelt tilfælde, hvor nu kigger jeg på R5, og så har jeg fem basisvektorer, og det er en ortogonal basis. Og det, der så gør mit tilfælde simpelt nu, det er, at nu siger jeg, at det underrum, jeg kigger på, det er bare spændet af de tre første basisvektorer. Så altså, jeg har en basis for det hele, og så udvælger jeg nogle af mine basisvektorer og siger, at de er en basis for R5. mit underrum w. Og så har jeg en vektor v, og nu vil jeg godt finde afstanden fra v ned til det her underrum w. Og jeg kan jo sige, at det jeg har først her, altså så v, den kan jeg skrive op som en linær konvention af alle mine basisvektorer, men hvis jeg kigger på det, så har jeg de tre første basisvektorer, de er også en basis for w, så det vil sige, at det her, det er noget, der ligger i w. Hvad kan jeg sige om den sidste del her? Jamen jeg ved, at det her er en orthogonal basis, så det vil sige, at B4 er orthogonal på alle de tre første basisvektorer, og B5 er også orthogonal på alle de tre første basisvektorer. Så det vil sige, at det jeg får her, det må være orthogonalt på det, der står herovre. Og faktisk mere generelt kan vi sige, at det der står her, det vil være orthogonal. Autorionalt på alt, der ligger i det her spænd af de tre første basevektorer. Altså at det vil være autoral på hele W. Så det betyder, at den her ligger i det autonale komplement til W. Så hvis vi nu bruger den samme tankegang, som vi havde sidste gang, hvor man kunne sige, hvis nu jeg har tegningen der, der sagde vi også, at jeg var interesseret i at få fra y og så ned til linjen. Jamen så det jeg er interesseret i, når jeg skal finde længden, det er det her, der ligger i komplementet til linjen. Det er ligesom det, jeg skal finde længden af. Så det jeg tænker nu, det er, at det kunne give mening, hvis længden, eller afstanden fra V ned til underrummet, det skal være, at jeg tager længden af den her del, der ligger i komplementet. Så jeg ligesom siger, at det her, det er noget, der ligger nede i underrummet, så det giver ikke nogen... Noget bidrag til afstanden Så det er alt sammen herfra At det her bidrag det kommer Så det vil mit bud være At det er det der jeg skal vælge Til at være min afstand Så nu har jeg et eksempel Jeg har tre vittorer Jeg tror også det er tre af dem jeg kiggede på sidste gang Og så siger jeg nu at Mit underrum W Det er spændet af de to første Så det første jeg skal gøre det er At jeg skal tjekke at Den sidste vektor her, den ligger i komplementet til mit W. Så vi tjekker, at hvis nu jeg tager B3 prikket med B1, så får jeg 1 plus 0 minus 1, altså det giver 0. Og jeg får et B3 prikket med B2, det er 0 plus 0 plus 0. Så det giver også 0. Så jeg kan se her, at B3 ligger i komplementet. Og så kan vi faktisk også sige, at fordi vi har tre vektorer, og de to første er en basis for W, og nu har jeg, at B3 ligger i komplementet, så viser det sig faktisk, at det er også en basis for komplementet. Og den er faktisk en basis for komplementet. Og jeg tror ikke rigtigt, vi har snakket så meget om dimensionen af det her komplement, men man kan vise, at hvis man tager dimensionen af W plus dimensionen af komplementet, så skal det give dimensionen af hele rummet. Så altså her har jeg... Mine vektorer ligger i R3, og jeg kan se, at W har dimension 2. Det betyder, at komplementet her skal have dimension 1. Så nu har jeg fundet en vektor, der ligger der. Det vil sige, at jeg har automatisk min basis, fordi jeg har fundet den ene linært uafhængige vektor. Så det betyder, at nu har jeg den opspænding, som jeg havde før, at det her udspænder med W, og den her udspænder med W-komplement. Så finder jeg nu en vægt til W, og jeg har udtrykt den i min basis for hele R3. Og så vil jeg sige, at jeg vil finde afstanden fra den her ned til underrummet W. Men ligesom før, så kan jeg sige, at det der er noget, der ligger i W. Det her er noget, der ligger i komplementet til W. Så det vil sige, at afstanden må være... at vi tager længden af den her kvadrat og 2 b3, og så kunne jeg selvfølgelig gange den her kvadrat og 2, den kunne jeg gange ind på vektoren, og så kunne jeg finde længden. Men man kan vise, at når jeg har en vektor og ganger en skalar på, og så tager længden, så svarer det til, at jeg må trække den her skalar ud foran. Så altså, Intuitivt giver det også mening, at hvis jeg tager en vektor og ganger den med 5, så bliver den 5 gange længere. Så det jeg bruger her er, at nu har jeg ganget med kvadratet 2, så det betyder, at længden af den her vektor bliver kvadratet 2 gange større. Og så skal jeg egentlig bare i gang med at regne ud, at hvad er længden af B3? Så det bliver 1 i anden plus 0 i anden plus minus 1 i anden, altså at det bliver... Øh, kvadratet 2, og så får jeg det kvadratet 2 i anden, så det er 2. Så afstanden fra den her vektor ned til mit underrum, altså det der er udspændt af beta b2, er 2. Så her var jeg så heldig, at jeg ligesom har en basis for hele R3, hvor at min basis for underrummet, det er nogle af mine basisvektorer. Men generelt så har vi måske kun en orthogonal basis for vores underrum. Så altså, vi har beskrevet det underrum, vi godt ville kigge på, og så har vi en basis for det. Men vi har ikke udvidet det til en basis for hele Rn. Men det er sådan set ikke noget problem, fordi vi kan bruge den samme idé, som vi brugte, da vi snakkede om linjen. Nemlig at, når vi har en basis for vores underrum, så er det nemt at repræsentere den her ortogonale projektion ved hat. Ja, altså i den her ortogonale basis. Så det vi kunne gøre, det var, at vi kan tage vektoren v, så kan vi projicere den ned på vores underrum, netop ved at bruge samme idé med, at det er noget med at udegne nogle prikprodukter. Og når vi så har fundet projektionen, så kan vi sige, at den oprindelige vektor minus projektionen, det giver et eller andet z, og det z er det, der ligger uden for w. Så hvis vi finder længden af z, så må det være afstanden fra v ned til v. Så det er den idé, vi kan bruge, og det er fuldstændig analogt til det, vi gjorde sidste gang. Ja, da vi skulle snakke om linjen, der gjorde vi også det her med at prøve at tage ned, trække fra, og så finde længden. Og det, vi egentlig laver her, det kommer af noget mere generelt, som man kalder en orthogonal dekomposition. Så man kan vise, at hvis jeg har et underrum W, så vil enhver vektor i hele Rn, så i det store rum, det vil have en opskrivning på den her form, hvor jeg har V hat, det er noget, der ligger i mit underrum W, og Z, det er noget, der ligger i komplementet til W. Og bemærk her, at det her er en entydig måde at skrive det op. Så jeg kan ligesom sige, at jeg... Jeg kan tage v, og så kan jeg splitte den op i to komponenter. En, der ligger i underrummet, og en, der ligger ortogonalt på underrummet. Og ikke nok med, at vi ved, at vi har sådan en opsplitning. Vi kan også sige, at hvis vi har en ortogonal basis for vores underrum-dobbelvind, så ved vi lige præcis, hvordan den her projektion ser ud. Nemlig, at vi følger samme princip som for linjen. at den her, hvad hedder det, projektion, det er, at vi tager v, altså den vektor, vi godt vil udtrykke, så den tager vi og prikker med b1, så dividerer vi med b1, prikker med sig selv, og det er så koefficienten, som skal ganges på den første basisvektor. Så går vi videre til basisvektor nummer to, og der er det samme princip, vi tager v og prikker den på basisvektoren, dividerer den med basisvektoren, prikker med sig selv, osv. Og sådan bliver vi ved, indtil vi har fundet Sådan en koefficient for alle basisvektorerne. Så det giver v' og for at den her ligning skal være opfyldt, så kan vi isolere z, og så får vi, at z er givet ved v minus v'. Så det her kan vi altså altid gøre, hvis vi har et rum, og vi har valgt et underrum, så kan vi opsplitte den i komponenter, hvor den ene ligger i w, og den anden ligger i komplementet til w. Hvis vi så skal finde de her komponenter, så kan vi bruge en orthogonal basis, fordi på den måde, så kan vi nemt udregne, hvad produktionen er, og derefter kan vi trække fra, og så får vi komponenten i komplementet. Godt. Så lad os prøve at se et eksempel på, hvordan det ser ud. Så nu arbejder jeg i R4, og jeg har mit underrum W, som er givet ved det, der står her. Øhm, og så har jeg mit v, og nu skal jeg lige, fordi vi skulle jo sådan set gerne have, så jeg vil gerne lave en orthogonal dekomposition af mit v, hvor vi har en komponent, der ligger i w, og en, der ligger i komplementet til w. Så jeg vil sådan set godt bruge det, vi har herovre. Men det betyder, at jeg er nødt til at være sikker på, at den basis, jeg har, at det er en orthogonal. basis. Så hvis nu jeg kalder den der dobbelt og den der er w2, så kan vi bemærke, at hvad sker der, hvis vi tager w1 og prikker med w2? Så får vi 0 plus 0 minus 1 plus 1, altså at det indre produkt er 0, så de her to er ortogonale. Og dermed er de en ortogonal basis, så vi kan bruge den her sætning fra før. Men det betyder så, at... for at finde den her v hat så beregner vi at vi siger vi kigger på v prikket med w1 over w1 prikket med sig selv så det vil sige og nu i stedet for at skrive alle produkterne op så siger jeg bare at det er 2x4 Så det er 8 plus 1 gange 5. Så det er 5 plus 1 gange 5. Så det er også 5. Så skal jeg tage dobbelt 1'en sig selv. Så det giver 2 i anden plus 0 i anden plus 1 i anden plus 1 i anden. Så altså her opsprænger jeg over også det led, der hedder 0 gange 6. Så det vil sige, at her får jeg, at det er... 18 over, så det er 4, 5, 6, så det er 3. Så gør jeg det samme med, at nu tager jeg v og prikker på mit w. Så det er 0 gange 4 plus 1 gange 6. Så er det minus 1 gange 5, så det er minus 5. Og så er det 1 gange 5, så det er plus 5. Og så skal jeg dividere det med w2' selv, så det er 0 i anden plus 1 i anden plus minus 1 i anden plus 1 i anden. Så det giver 6 over 3, altså 2. Og hvis jeg kombinerer dem her, så betyder det, at vores projektion er v ned på det her underrum. Det har jeg givet ved 3. W1 plus 2 W2, fordi det her netop er koefficienterne, jeg skal gange på mine to basisvektorer for at få udtrykt den her produktion. Så jeg ganger 3 på der, så det er 6, og så er det 2, så får jeg 3 minus 2, så det vil sige, at det giver 1, og så 3. plus 2, så det giver 5. Så den vektor her, det er altså projektionen af v ned på det her underord. Og sagt på en anden måde, at den her vektor, det er den vektor nede i w, som er tættest på v. Og så mangler vi komponenten i komplementet. Så komponenten i Det her komplement W. Hvad er det? Ja, så komponenten i komplementet, som hedder W-komplement, den er så, at vi nu tager vores V og trækker V hat fra. Så altså vi får 4, 6, 5, 5 minus 6, 2, 1, 5. Så det giver minus 2, 4, 4, 0. Så nu har vi en komponent i W og en komponent i W-komplement. Og hvis vi lægger dem sammen, så får vi V. Og vi kan også tjekke her, om vi har regnet rigtigt, ved at hvis vi tager den her, Hvis nu jeg kalder den her z, ligesom før, at hvis nu jeg tager z og prikker den med w1, hvad får jeg så? Så får jeg minus 4 plus 0, og så har jeg plus 4 og plus 0, så det giver minus 4 fra den første led, og så får jeg plus 4 fra andet led, så det giver 0, og så har jeg z prikket med w2. Derfor er 0 plus 4 min. Minus 4 plus 0. Altså igen, 4 minus 4, så den giver også 0. Så det passer altså, at den her ligger i komplementet til det her underrum, W. Og jeg tror, at vi skal tage og holde den første pause her. Så I får lige en pauseskærm. Det var der. Hvad er det, du gør, når du er i en køkken? Hvad er det, du gør, når du er i en køkken? Hvad er det, du gør, når du er i en køkken? Hvad er det, du gør, når du er i en køkken? Hvad er det, du gør, når du er i en køkken? Danske tekster af Nicolai Winther Danske tekster af Nicolai Winther Danske tekster af Danske tekster Danske tekster af Nicolai Winther Godt, så den her ortogonalprojektion, den siger altså, at vi kan tage enhver vektor i hele Rn, der kan vi tage enhver vektor, så kan vi opskrive den som en ortogonalprojektion ned på et eller andet underrum, plus en komponent, der ligger i komplementet. Den er entydig i den her repræsentation. Derfor kalder vi den her for den ortogonale dekomposition. Hvorfor ortogonal? Det er, fordi den her komponent er ortogonal på den der komponent. Det er altså uanset hvad for et underordent. Hvis vi så vælger en orthogonal basis for vores underrum, så ved vi også præcist, hvordan vores orthogonal produktion, hvordan vi skal opskrive den, og hvordan vi skal beregne den. Fordi det bare er noget med at regne nogle prikprodukter. Så vi havde et eksempel her, hvor vi gjorde det. Det vi jo så kan sige nu, det er, at hvis vi har den her ortogonalprojektion ned på vores underrum, jamen så vil det også give mening, at den, hvad hedder det, altså så den her ortogonalprojektion, at det skal netop også give den vægt så ned i underrummet, som er tættest på V. Og indtil videre har vi bare sådan tænkt, at sådan må det være, men nogle gange kan der jo ske nogle mystiske ting, når man går op i højere dimensioner. Hvor den intuition, man har, måske ikke nødvendigvis holder. Så det er stadigvæk et åbent spørgsmål, om det holder teoretisk, at den her alternativprojektion, det er også den, der er tættest på vores v. Og det kan vi heldigvis vise, at det er det. Fordi vi har den her sætning, der siger, at vi har vores underrum, og vi har vores v, som er en eller anden vektor. Og så kigger vi på, at nu tager vi v og producerer den ned på underrummet. Så står der her, at der... så gælder at afstanden, eller det er jo, som man kan sige, egentlig har jeg bare skrevet det som længden her, men det her er også det, vi har defineret som afstanden fra v til v hat. Den er mindre end afstanden fra v til w for alle vektorer nede i vores underrum, som ikke er lige med projektionen. Så er det altså, at jeg har... Øhm... Hvad hedder det? Åh, nu skal jeg lige se. Er der... Så for mit... For mig ser det ud til, at teknikken virker. Så hvis der er et eller andet med... Hvad hedder det? Streamen, så må det være på jeres side, vil jeg gå ud fra. Men ellers, hvis der er et eller andet, så skriv lige i chatten. Så jeg har mit underrum her, så har jeg min vektor v, og det jeg så kan sige her, det er, at jeg kigger på, at jeg tager den ortonale projektion ned på underrummet her. Så der får jeg, når jeg tager den i blå, her har jeg min v-hat. Så det den her sætning siger, det er, at hvis jeg tager en... Hvilken som helst anden vektor hernede i underrummet, jamen så får jeg også, så nu har jeg tegnet den på, ja det ved jeg ikke, her måske, den her w. Så hvis jeg tager enhver anden vektor nede i underrummet, så vil afstanden fra den og op til v, den vil være større. Og det er egentlig også det, vi gerne vil have. Øhm, hvad hedder det? Intuitivt, at den korteste vej, det er, at vi går direkte vinkleret ned på det her plan. Så hvordan viser vi, at det her holder? Jo, vi tager og siger, at nu kigger vi på afstanden mellem v og w. Så jeg tager v og måler afstanden ned til w. Hvor w, det er en eller anden vilkårlig vektor nede i vores underrum. Og så sætter jeg det her i anden, fordi så slipper jeg at få noget med nogle kvadratrødder og noget. Men det holder stadigvæk heroppe også, at hvis den her afstand er mindre end den der, så gælder det også, hvis jeg sætter det i anden, fordi de begge to er ikke negative. Okay, så jeg kigger på den der, og så siger jeg nu, jeg laver sådan en standard matematikertrick med, at hvis jeg tager det her, og så skal jeg lige have slået den der lineale ind fra. Jeg tager og lægger 0 til på en besværlig måde. Så jeg siger, at nu har jeg v minus v hat plus v hat minus w. Så det er det samme som før, bare at jeg har lagt en 0-vektor til. Men det, der er smart nu, det er, at hvis jeg kigger på den her v minus v hat, så vil det sige, at jeg har v minus v hat. Så det vil sige, at det er noget, der ligger her. Jamen, det er noget, der ligger i komplementet. Det er også det, jeg skriver her, at v minus v hat ligger i komplementet. Og hvad kan jeg så sige om v hat minus w? Jamen, v hat ligger nede i planet, og w ligger nede i komplementet. ligger også nede i planet. Så altså, de ligger inde i et underrum. Og noget af det, vi snakkede om med underrum, det var, at hvis jeg laver lineare kombinationer af noget, der ligger inden for underrummet, så skal det stadigvæk ligge inden for underrummet. Altså, jeg kan ikke lave lineare kombinationer og slippe uden for det her underrum. Så det betyder, at det her, det er noget, der ligger i W. Så nu har jeg en vektor, der ligger i komplementet, plus en vektor, der ligger i underrummet. Så siger jeg, den Pythagoras-sætning, vi så sidste gang, at fordi de her to vektorer er ortogonale, så må jeg splitte det op og sige, at det her er v minus v hat i anden, plus v hat minus w i anden. Så altså, jeg har min v minus v hat, som egentlig er den, der står deroppe, bare nu har jeg sat det andet. Eller måske skal jeg starte med at sige, at den der står herovre, hvis vi sætter den i anden, så får jeg min venstre side herovre. Og nu har jeg fundet ud af, at det er v minus v hat, som er den der står der, bare sat i anden, plus et eller andet led. Og jeg kan jo sige, at det der står her, den længde her, den vil være større end 0, hvis v hat... er forskellige fra w. Så altså, hvis w ikke er lige med v hat, så vil det her være en vektor forskellig fra 0-vektoren, og så tager vi længden af den, det giver noget, der er positivt. Så altså, at den her er lige med den her længde fra v til v hat, plus noget positivt, så derfor vil den her være større end den her. Fordi det egentlig bare er, at den her står der, og den der står der. Og så skal jeg lægge et eller andet til for at få den der. Så altså, at vores v hat, og terminalprojektionen, det er den vektor i w, der ligger tættest på vores vektor v. Så intuitionen holder altså. Så det er meget heldigt, at det også holder i højere dimensioner, at terminalprojektionen giver det, der er tættest på. Og så har vi et eksempel her, med at jeg nu har to vektorer. U1 og U2, og jeg kigger på spændet af dem, og det kan være, at vi skal starte med at tjekke, hvis vi tager U1 prik U2, hvad får vi så? Så det giver minus 4 plus 5, så det vil sige, at jeg er på plus 1, og så det sidste led, det er minus 1, altså at det giver 0, så det er en orthogonal basis. Så vil jeg godt finde orthogonalprojektionen af V ned på mit underrum, og bagerst at finde afstanden. Jeg kan gå i gang med at sige, at jeg har v' med u1 over u1' u1, fordi jeg skal finde den koefficient, jeg skal gange på u1. Så det bliver 20 plus 5 gange 18, det er 50 plus 40, så det vil sige, at det er 90. Og så har jeg minus 1 gange minus 10, så det giver plus 10. Så skal jeg have længden af den her, så vil sige, det er 4 i anden, plus 5 i anden, plus minus 1 i anden. Så den her giver 120. Og hvad? Så det er 16 plus 25 plus 1. Så det er... Er det 42? Nej. Undskyld. Undskyld, det er fordi... Jeg synes også, der var et eller andet der, der ikke helt stemte. Så jeg tog det der to-tal og satte det i anden, så det giver 2 i anden, som var 4. Så det var det der 4-tal, jeg fik taget med. Så nu står der, at det er 4 plus 25 plus 1. Det giver 30. Det ligner mere noget, jeg kunne finde på at lave et eksempel, så jeg fik det. Fordi jeg nu kan sige, hvad er 120 over 30? Det er det samme som 4. Så har jeg v'u2 over u2'u2. Så skal jeg tage mit v og prikke på u2. Så der får jeg først minus 20, og så får jeg plus 18, og så får jeg minus 10. Og det skal jeg så dividere med u2'en selv. Så det er minus 2 i anden, plus 1 i anden, plus 1 i anden. Så det giver minus 30 plus 18, så det må give minus 12. Og så har jeg, at det her giver 4 plus 1 plus 1, så det er 6. Altså det her giver minus 2. Så langt så godt. Sammenlagt giver det her, at min projektion B hat, den er lige med 4 gange u1. Minus 2 gange u2. Altså jeg får her, at det er... Så jeg ganger den med 4. Det er 8. Og så... Ja, måske skal jeg bare skrive det op. Så det er 8 minus 2 gange 2. Ja, og det er så egentlig... Jeg har minus og minus, så det bliver plus. Så har jeg 4 gange 5, så jeg vil sige, at det er 20. Og så har jeg minus 2 gange 1. Og så har jeg 4. Altså det bliver minus 4, når jeg ganger den på der. Og så har jeg minus 2 gange 1. Så det vil sige, at det giver 12. Og så giver det 18. Og så giver det minus 6. Så det er simpelthen min projektion ned på mit underrum. Og for at finde... Afstanden nu, så kan jeg bare sige, at afstanden er længden af v minus v hat, som er længden af 10, 18, minus 10, fradrukket 12, 18, minus 6. Hvad er det for en vækst, jeg skal tage længden af? Det er minus 2, 0, så er det minus 10 plus 6, så det giver minus 4. Så her får jeg det kvadratråd af minus 2 i anden plus 0 i anden plus minus 4 i anden. Det vil sige, at jeg får, at det er 4. Plus 16, altså det er kvadratråd 20. Og så kan jeg sige, at 20 er det samme som 4 gange 5. Og så splitter jeg op og siger, at det er kvadratråd 4 gange kvadratråd 5. Og kvadratråd 4 er 2. Så afstanden her er 2 kvadratråd 5. Men det jeg egentlig bruger, er også det, jeg lavede før, da jeg lavede den ordentlige dekomposition. Med at jeg først finder... komponenten nede i mit underrum, og komponenten i komplementet, det er altså bare, at jeg tager v minus automatprojektionen. Og nu her var jeg kun interesseret i afstanden, og ikke i selve komponenten, så jeg tager bare og trækker fra, og så udregner længden. Altså man kunne også sige, at det der er jo netop det der set, altså den komponent, der ligger i w-komplement. Men det er altså den her måde, vi finder afstanden ned til et underrum. Så det vi har brugt meget af, det er de her ortogonale baser. Vi har fundet ud af, at det er smart at have dem her, fordi vi så kan finde de her ortogonale produktioner bare ved at lave prægprodukter. Men vi havde ikke rigtig sagt noget om, hvordan vi finder sådan en ortogonal basis. Fordi der er jo nogle ting, der skal være opfyldt netop det her med, at jeg kan ikke bare vælge helt frit. Jeg skal have, at... at alle mine basisvektorer er ortogonale på hinanden. Så hvordan gør man det? Det er, at vi skal have fat i gram og smidt. Og så vidt jeg husker, så er det den metode, vi skal se. Den har de egentlig opfundet mere eller mindre uafhængigt af hinanden, måske med lidt anden notation eller beskrevet på en lidt anden måde, men man har altså opkaldt efter Jørgen Gram. Så han var dansker, og så er her Schmidt, som er, jeg mener er jo tysker, det kunne selvfølgelig også godt være, at han var østrigere, i hvert fald fra et tysktalende land. Så Gram og Schmidt er dem, der har fundet på den her måde, hvor man laver autokonale baser. Så det der, kan man sige, er hele ideen i proceduren, det er, at vi tager bare en... Vi starter med at vælge en eller anden basis for vores underrum, og den kan vi vælge helt frit. Så vi kan forestille os, at vi har et underrum, og vi har allerede fundet en basis. Så det, Graham-Smith gør, det er, at vi tager vores vektorer, og så en efter en, så ændrer vi vores basisvektorer, sådan at vi fjerner de dele, som ligger i samme retning som de andre basisvektorer. Så det vil sige, at hvis nu jeg har to vektorer, så har jeg en basis, og det er den, der er tegnet her. Så har jeg B1 og B2, og så vil jeg godt lave en orthogonal basis. Jamen så det jeg gør, det er at jeg siger, at den første basisvektor, V1, der vælger jeg bare mit V1. Fordi jeg skal vælge et eller andet, og V1 er lige så god som alt muligt andet. Så den vælger jeg bare, som den er. Så kommer jeg til, at jeg skal vælge V2. Så jeg har mit V1, og nu skal jeg bruge V2 til at finde en ny basisvektor. Og problemet er, at min V1, som jeg har valgt, den er ikke orthogonal på V2. Men jeg kunne sige, at hvad nu hvis jeg tager min B2 og projicerer ned på linjen udspændt af B1, så jeg får et B2 hat her. Så kunne jeg jo tage mit B2 og trække den her B hat fra, fordi så får jeg lige netop en vektor, der svarer til den der. Det vil sige, at jeg får sådan set den der, men jeg kan lave parallelforskydningen for ligesom at se mere tydeligt, at det er. B2 hat plus B2, det giver den oprindelige B2. Så altså, jeg siger, at jeg tager min oprindelige, og det kan være, at jeg skal skifte tilbage til den blå, jeg tager den oprindelige B2, og så trækker jeg den her projektion fra, altså at det bliver B2 minus, så jeg tager projektionen ned på underåret udspændt af V1, så det vil sige, at det er B2 prik V1 over V1 prik V1, og så skal det ganges med V1, fordi den der er kun selve koefficienten. Og det er, kan man sige, hele ideen i Gram-Smith, at hvis der så var en tredje vektor, så ville jeg projicere den ned på V1, og så trække det fra, og så ville jeg projicere den ned på V2, og så ville jeg trække det fra. Og på den måde kan man så gå igennem. Og hvis man skal skrive det sådan meget stringent op, Så er det, at jeg nu har en basis v1 op til vn, og der vil jeg godt danne en orthogonal basis v1 op til vn. Og ligesom før startede vi med at sige, at den første vektor er v1, der vælger jeg bare den første basisvektor også. Så skal vi gøre noget igen og igen, nemlig at vi starter med, at i er 2, og så sætter jeg v2 til at være b2 minus projektsionen på underrummet udspændt af de tidligere vektorer. Så i det her tilfælde vil det være v1. op til v2 minus 1, altså bare v1. Men generelt kan man sige, at når jeg er nået til, at jeg skal finde den ide basisvektor, så projicerer jeg ned på v1, v2 op til vi minus 1. Altså, hvis vi skriver det ud, vi, den bliver så vi minus den her projektion, hvor jeg laver det her med vi prikke med v1 over v1 prikke med v1, gange med v1. og så videre tilsvarende med v2, hele vejen op til vi-1. Så på den her måde får jeg så en ortogonal basis. Og hvis nu jeg vil have en ortonormal basis i stedet for, så kan jeg enten gøre det, at når jeg definerer mit vi her, inden jeg så fylder den ind i min basis, så kan jeg tage og normere den. Altså jeg kan sørge for, at den har længde 1 på det tidspunkt. Eller også kan jeg gå igennem hele Gram-Smith-proceduren her, og så til allersidst, så kan jeg normere mine vektorer. Fordi det er det der med, at hvis jeg har en orto-gronal basis, og jeg godt vil lave det om til en orto-normal, så er det bare et spørgsmål om at gå igennem alle vektorerne, og sørge for, at de har længde 1. Ja, jeg vil gerne i hvert fald i gang med det her eksempel, inden vi holder en pause. Men ikke bare, at vi skal se, hvor langt vi når, og så må jeg lige se, om vi skal stoppe halvvejs. Det finder jeg lige ud af. Så jeg vil godt have en ortonormal basis for et eller andet underrum. Og det her underrum er udspændt af x1, x2 og x3, som er de vektorer, der står heroppe. Så jeg starter med at sætte mit v1 til at være 1 over x1 gange x1. Så. Det, der står herovre, er, at jeg skal sætte den til at være den første basisvektor, altså at jeg skal sætte den til at være x1, men fordi jeg godt vil have... En ortonormal basis, så sørger jeg lige for at normere det undervejs. Så altså jeg sørger for, at jeg får noget, der har længde 1. Det betyder så, at jeg skal finde længden af x1. Så det er kvadratråden af 1 plus 1 plus 1 plus 1, altså kvadratrådet 4. Så det vil sige, at det er 2 gange 1, 1, 1, 1. Så. Den første er altid til at klare. Så siger jeg nu, at nu skal jeg finde mit V2. Men fordi det V2, jeg egentlig gerne vil ende ud med, det skal have længde 1, så starter jeg med at sige, at nu finder jeg noget, der minder lidt om V2, men ikke helt er det. Så jeg kalder det nu V2 hat. Og det er mere for, at det er lettere at holde styr på, hvad er det egentlig, jeg laver her. Så jeg starter med at finde en vektor, der har den rigtige retning, og den kalder jeg V2 hat. Og når jeg så har fundet den, så nomerer jeg V2 hat for at finde den V2, jeg egentlig ender med. Så V2 hat, det er nu, at jeg siger, at jeg tager min x2, som er den anden basisvektor for mit W. Så skal jeg trække fra, at jeg projicerer ned på den her V1. Så det vil sige, at jeg skal tage x2 prik v1 over v1 prik v1, og v1 skulle der være, og så skal jeg gange den med v1. Så det vil sige, at det bliver 0, 1, 1, 1, fordi det er min x2, minus, og så skal jeg prikke dem her med hinanden. Ja, og måske skal vi lige nævne her. Så der står egentlig v1 prikket med v1, men jeg har sørget for, at når jeg valgte min v1, at så har den længde 1. Så det vil sige, at den der er lige med 1, da v1 er normeret. Så jeg kan egentlig glemme, hvad hedder det, nævneren, hver gang jeg laver de her gramsmæt, fordi jeg sørger for... at jeg når mere undervejs. Så det er sådan set kun det her indre produkt, jeg skal udregne. Og jeg har min v1 her, der har jeg en faktor en halv, men det betyder, at jeg kan sige, at det er en halv gange sådan set prikproduktet mellem nu skal I se x2, så det er den her vektor prikket med den her vektor. Så jeg har taget min skalar en halv, som egentlig står herinde i produktet. Og så har jeg trukket den ud foran, så der får jeg den halve der. Så det er den der, prægget med den der. Så det giver 0 plus 1 plus 1 plus 1, så det giver 3. Så måske skal jeg bare sige, at det er en halv gange 3. Så det er prægproduktet. Og så skal jeg gange den med min v1, som altså er den Øhm, så det vil sige, at jeg får, at det er 0, 1, 1, 1 minus, hvorfor er det der 3, halve, øh, 1, 1, 1, 1. Øhm, ja, så hvad bliver det? Det bliver, at vi får, øh, minus 3, halve. Øh, så har jeg 1 minus 3, halve, så det bliver minus 1. halv, og det gør det sådan set hele vejen ned her undskyld, undskyld det bliver ikke, så jeg har en halv gang en halv, jeg mangler lige at det skulle være fjerde del af dem der, det ændrer jo så resultatet en lille smule så lad os prøve en gang mere først får jeg minus 3 Fjerdele, fordi det er 0 minus den der. Så har jeg 4 fjerdele minus 3 fjerdele. Stilvis det giver en fjerdele. Så får jeg en fjerdele og en fjerdele. Så den der er min V2 hat. Altså noget, der har den rigtige retning, men ikke er normeret endnu. Og jeg kan også sige, at det her er en fjerdele. gange minus 3, det var ikke et salg pænt, tre salg, minus 3, 1, Men nu siger jeg så, at den v2, jeg egentlig er interesseret i, det er, at jeg tager min v2-tilte, og så nomerer jeg den, fordi så får jeg noget, der har længde 1. Så det vil sige, at jeg skal nomere den her. Og den der fjerde del, så i stedet for at gange fjerde delen ind og... finde længden og så gang den på her, så tænker jeg nu, at jeg kunne sådan set smide den der fjerdedel væk, så har jeg stadigvæk en vektor, der peger i samme retning som v2 til det, og så kan jeg normere den i stedet for. Så det vil give det samme resultat. Så jeg siger, at jeg skal finde længden af den her, så det er 1 over kvadratråden af minus 3. i anden plus 1 i anden plus 1 i anden plus 1 i anden over minus 3, 1, 1, 1, så får jeg det 9 plus 3, altså det er 12, så det her vil være min V2. Inden vi så udregner vores v3, så tror jeg, at vi skal have en pause, fordi nu skal vi gøre det her en gang mere, og vi skal sådan set trække to vektorer fra. Så lad os holde en pause her. Sådan. Hvad er det, du gør, når du er i en køkken? Danske tekster af Nicol Danske tekster af Nicolai Win Ja, så er vi klar til at gå i gang igen med vores Gram-Smith her. Så vi har fundet den første basisvektor. Det var ikke så svært, for der skulle vi bare normere. Og så har vi fundet den her V2 ved, at vi har taget den oprindelige anden basisvektor, og så har vi projiceret den ned på vores V1, og så har vi trukket det fra vores oprindelige X2. Så det gav jeg også den her hat på, for ligesom at markere, at det er noget, der har den rigtige retning, men ikke den rigtige længde. Så normerede jeg for at få min anden basevektor. Så nu skal vi så i gang med at finde V3. For at jeg er sikker på, at jeg har nok plads, så er jeg lige gået over på en ny side. Så jeg siger et V3. Og igen, jeg starter med at finde en V3 til det, fordi den jeg finder i første omgang, den har ikke nødvendigvis længde 1. Det skal så være, at jeg starter med min oprindelige x3, så trækker jeg den, eller det jeg så skal trække fra nu, det er, at jeg tager min x3, prækket på v1, og igen, man kan sige, egentlig burde jeg skrive her, v1, præk v1, men jeg ved, at den her, den er lige med 0, undskyld, lige med 1, ellers så sker der farlige ting, hvis jeg begynder at divide den med 0. Så jeg kan egentlig se bort fra nævneren her, når jeg skriver det op. Så det er den ene ting, jeg skal gøre, og så skal jeg også trække fra, at jeg tager min x3, og her vil jeg så måske bare skrive min x3 prikke med v2. Igen, fordi egentlig skulle jeg dividere med længden af v2 i anden, men v2 har jeg sørget for, at den har længde 1, så derfor slipper jeg for den der nævner. Og det skal så ganges med V2. Så det kan jeg så gå i gang med. Min x3, den hedder 0011. 0011. Minus, så har jeg mit V1. Og ligesom før, og det kan egentlig være, at det er en fordel, hvis nu jeg lige... Så jeg tager lige herover og skriver, at min x3, den er... 0, 0, 1, 1. Min v1, den havde jeg fundet til at være en halv, gang 1, 1, 1, 1. Og min v2 havde jeg fået til at være hvad? 1 over kvadratet 12. Så 1 over kvadratet 12, gang minus 3, 1, 1, 1. Så behøver jeg ikke at gå frem og tilbage lige så mange gange. Så min x3, og så kigger jeg på v1, og der har jeg igen den her faktor en halv, som jeg kan trække udenfor mit prikprodukt. En halv gange prikproduktet mellem x3, og nu er det den her vektor, fordi jeg har trukket den halve ud, så det er 0 plus 0 plus 1 plus 1, altså det giver 2, gange med v1 selv, så det er en halv Det er det første led. Så skal jeg tage x3 og gange med v2. Og igen der har jeg en faktor, som er 1 over kvadratud 12. Den kan jeg trække udenfor mit prækprodukt. Og så skal jeg tage x3 og prække med den her vektor. Så det giver 0 plus 0 plus 1 plus 1. Altså det giver 2. Og så skal jeg gange det på v2 selv. Så det er 1 over kvadratud 12. over minus 3, 1, 1, 1. Så er det egentlig bare at gå i gang med at regne ud. 1, 1. Så her får jeg minus en halv, gange 1, 1, 1, 1. Og herover får jeg, at de der 12. dele møder hinanden, så det giver en 12. del, og så gange jeg med 2, så det er 2 12. dele, som er det samme som en 6. del. Og så er det minus 3, 1, 1, 1. Og må det så ikke være smart at skrive det her om til sjættedele? Så det vil sige, at jeg tager det hele og laver om til sjættedele. Så den der, der skal jeg i gang med 6, 0, 0, 6, 6. Her har jeg... halve, så det vil sige, at hvis jeg skal op i 6. del, så skal jeg gange med 3. Pas det ikke? Jo, det må det gøre, at hvis jeg tager 3 og divider med 6, så får jeg en halv. Det passer med det, der står der. Og her skal jeg så bare trække fra, som det står. Så det vil sige, at nu får jeg Det er 6. del jeg regner med, og hvad bliver den vektor der står herinde? Så det er 0. Minus 3, så det er minus 3, og så er det plus 3. Så står der 0 minus 3, så er vi på minus 3 minus 1, så det vil sige, at det er minus 4. 6 minus 3, så det er 3 minus 1, det giver 2. 6 minus 3 minus 1, det giver også 2 igen. Ja, og så behøver jeg så sådan set ikke min parentes, for nu har jeg bare den sætte del gange den der. Øhm, ja. Så det vil sige, at den her vektor, den har den rigtige retning, men den har ikke nødvendigvis længde 1. Ja, og man kunne sige, at der er en faktor 2 her i alle de her elementer. Så den kan jeg trække ud foran, så er der så to sjættedele, og så bliver det 1 tredjedel gange 0 minus 2, 1, 1. Så det er bare, at jeg har omskrevet den her. Så det er en vektor, der er i den rigtige retning, men den har ikke længde 1. Så jeg siger, at min v3, det er, at jeg tager 1 over længden af min v3 til det. Og den skal have gang med v3 til det. Og ligesom før, kunne jeg godt gange den der tredjedel ind, og så finde længden, og så gange på. Men jeg siger, at jeg får sådan set det samme, om jeg tager den her vektor, og normerer den. Eller om jeg kun tager den der vektor og normerer den. Så jeg kan sige, at det her er 1 over kvadratrådet 0 i anden plus minus 2 i anden plus 1 i anden plus 1 i anden. Gange med 0, minus 2, 1, 1. Så her får jeg, at det er 4 plus 1 plus 1, altså det er kvadratrådet 6. Gange den her 0, minus 2. 1, 1. Så altså, den her v1, v2, v3 er en ortonormal basis for, jeg har nok kaldt det w, har jeg ikke det? Jo. Så jeg startede med en vilkårlig basis. Og den er ikke ortogonal. Jeg kan fx tage prikproduktet mellem x1 og x2. Det er 3. Så de er ikke ortogonale. Så i 2, den er basis. Så kører jeg den igennem gramsmæt. Og det jeg så får ud, det er enten en ortogonal eller en ortonormal basis. Og fordi jeg har gjort det her med, at jeg har normeret mine vektorer undervejs, så får jeg en ortonormal basis ud. Alternativt kunne jeg have brugt de her hatvektorerne som mine v2, v3, og så kunne jeg bagefter have normeret, hvis jeg ville have en ortonormale basis. Men det er altså den her måde, man hele tiden gør det i Gram-Smith, at man tager den næste. basisvektor i den oprindelige, og så trækker man fra det, at man producerer ned på de vejer, man allerede har valgt. Så her havde jeg kun én vektor, der var valgt, så derfor skulle jeg kun lave én produktion. Men for at udregne V3 her, så har jeg to vektorer, der er valgt i forvejen, så derfor skal jeg producere ned på de to vektorer, og så trække det fra. Så det er den måde, kramsmidt fungerer. Men... Noget, man så skal være opmærksom på, det er, at når man bruger gramsmit, så afhænger det sådan til, hvad for en rækkefølge man skriver vektorerne op, når man bruger dem i gramsmit. Så jeg har for eksempel, at hvis jeg har den her mængde 1,011, så hvis jeg bruger gramsmit på den, så vil jeg få 1,011, altså vores standardbasisvektorer, fordi jeg siger, at jeg vælger den her til at være min første basisvektor. Øhm, øhm, så, øhm, hvad hedder det, øhm, ja, så den vælger jeg bare først, og når jeg så laver grams mit, så får jeg den her 0,1. Hvis jeg så i stedet for, øhm, altså så bytter jeg om på rækkefølgen, så får jeg en anden basis ud, fordi jeg nu siger, at nu skal den der være en af mine basisvektorer. Så det er bare noget at være opmærksom på, at, øhm. Der kan til godt være, at hvis man bytter om på rækkefølgen i basen, Så bliver det enten lettere eller sværere at udregne den her gramsmid. Og så skal jeg lige sige, at der var et spørgsmål. Ja, så jeg kan godt tilføje, at... Så den her oppe havde jeg jo... Her har jeg bare direkte kaldt den V1, den her, der er normeret. Så nu skriver jeg, at V1, V2, tilde, V3, tilde er en... Orto-gonal, basis for W, men er ikke orto-normal. Så man vil få den samme basis her, hvis jeg bare tog de her to vektorer og så normerede. Jeg har bare gjort det undervejs i algoritmen. Så den sidste del, vi skal se, det er, at når vi kender Gram-Smith, så kan vi lave en form for matrixfaktorisering. Så vi har tidligere set det her med en diagonalisering, og det er også et eksempel på en matrixfaktorisering, fordi jeg tager min matrix, og så kan jeg skrive den som et produkt af nogle andre matriser. Og der er nogle problemer, både teoretiske, men også i praksis i ingeniørfag, hvor det er smart at have sådan en faktorisering, fordi... Hvis man kender faktoriseringen, så er der nogle problemer, der er lettere at løse. Så Gram-Smith kan jo bruge til en anden form for faktorisering, men igen det er, at jeg tager min matrix, og så skriver den op som et produkt af nogle andre matriser. Og det vi skal se, at vi kan lave, det er det, der hedder en QR-faktorisering. Så jeg har en rektangulær matrix, så altså m og n behøver ikke være ens. Så siger vi, at den kan QR-faktorisere os, hvis der eksisterer en matrix Q. Hvis søjler er en ortonormal basis for søjlerummet A, og den her Q ender med at få samme størrelse som den er oprindelig i A, og så skal der være en øveretriangulær kvadratisk matrix R, som har positive diagonalindgange. Så den her R skal være N krydset ind, hvor N er det antal af søjler i A. Og den måde, at faktoriseringen skal se ud, det er, at A kan vi skrive som Q gange R. Og nu har jeg et eksempel her, hvor jeg har min matrix A. Altså det hele her, også med den halve ude foran. Det er A. Den kan jeg skrive som et Q. Så de her vektorer, de er, hvad hedder det, ortonormale. Og man kan sige, at de er længde 1, og de er parvist ortogonale. Så derfor er det her en ortogonal matrix. fordi søjlerne er ortonormale, og jeg har fundet den ved netop at lave en ortonormal basis af de søjler, der står her. Og så har jeg en øvre triankulær matrix R, så man kan sige, at den her er en 4x3, ligesom min AR, og den her er så en 3x3 matrix, og jeg kan se, at der står positive værdier på geonalen. Så det her er et eksempel på, hvordan sådan en QR-faktorisering ser ud. Og det viser sig faktisk, at man i mange tilfælde kan lave sådan en QR-faktorisering, nemlig at når jeg har min rektangulær matrix, så længe den har linært uafhængige søjler, så eksisterer der sådan en QR-faktorisering. Så det er altså ikke ligesom en diagonalisering, hvor man kunne sige, der var noget med, at jeg først skulle ud og finde nogle egen værdier og nogle egen vektorer, og nogle gange kunne det lade sig gøre, og nogle gange kunne det ikke lade sig gøre. Her kræver jeg simpelthen bare, at søjlerne er linært uafhængige. Hvis vi kan det, så kan vi finde det her Q og det her R, så vi kan lave en QR-frakturering. Og Q'et er nemt nok at finde, fordi der kan vi bruge Gram-Smith, fordi Q'et skal indeholde en autonormal basis for søjlerummet A. Så det vil sige, at en mulig basis for søjlerummet er alle søjlerne A, fordi de netop er linært uafhængige. Så jeg kan bare tage alle søjlerne, og så kan jeg køre Gram-Smith på dem. Fordi så får jeg en ortonormal basis. Og den basis bliver så søjlerne i Q. Så når jeg skal finde R, så kan jeg bruge, at jeg har fundet mit Q, og at jeg ved, at A er lige med Q gang R. Fordi når nu de her søjler i Q er ortonormale, så betyder det, at Q transponeret i gangen Q vil blive identiteten. Og bemærk her, at det her betyder så ikke, at Q transponeret nødvendigvis er den inverse, fordi... Vores Q er jo en rektangulær matrix, så det er ikke kun, hvis M og N er lige med hinanden, at den her betyder, at Q transponeret er den inverse af matrix. Men her kan vi altså sige, at når vi ganger på fra venstre, så får vi, at Q transponeret gange Q giver identiteten. Og det betyder så, at hvis nu jeg tager Q transponeret og ganger på A, så får jeg, at det er Q transponeret gange Q gange R, fordi jeg bruger sætningen, at der eksisterer den her... Hvad hedder det? Faktorisering. Nu møder jeg Q, transponerer jeg Q hinanden, så det vil sige, at de bliver identiteten, og så står der kun R tilbage. Så altså, Q kan jeg finde, hvad jeg kan bruge Gram-Smith. Når jeg så har fundet den, så kan jeg transponere den og gange den på A, og dermed finder jeg mit R. Så her har jeg den der basis, jeg fandt ved Gram-Smith tidligere. Så det er en ortonual basis for søjlerne i den her matrix. Så hvis jeg skal finde en Q af faktoriseringen, så kan jeg sige, at mit Q er bare, at jeg tager søjlerne. Heroppe har jeg fandt Vigram Smidt, så det er 1,5, 1,5, 1,5, 1,5, minus 3 over kvadratud 12, 1 over kvadratud 12. 1 over 12 og 1 over kvadratud 12. 0 minus 2 over kvadratud 6. 1 over kvadratud 6 og 1 over kvadratud 6. Så det er min Q-matrix. Det er bare, at jeg tager de der basisvektorer, jeg har fundet. Så får jeg, at min R er givet ved, at jeg tager Q transponeret og ganger på A. Og nu... Jeg kunne selvfølgelig godt tage mit Q og så rent faktisk transponere den og skrive den op. Men for at spare lidt plads her på mit slide, så tror jeg i stedet for, at jeg vil sige, at det jeg skal gøre, det er, at jeg skal tage første søjle af, og den skal jeg prikke på den første række i Q transponeret. Men den første række i Q transponeret, det er første søjle i Q. Fordi vi husker det der med, at når jeg transponerer, så bytter jeg om på, hvad der er rækker og søjler. Så det vil sige, at første indgang heroppe, det er i virkeligheden første søjle i A, prikket med første søjle i Q. Så det vil sige, at det bliver sådan, at jeg tager en, den der, plus den der, plus den der, plus den der, så det giver to. Så, hvad hedder det, hvis jeg igen tager nu den indgang hernede, det er den, der er søjle, og så skulle den prikkes med anden række i Q. Men anden række i Q, det er det samme som, undskyld, i Q transponeret. Så den skal præges med anden række i Q transponeret. Den række i Q transponeret, det er anden søjle i Q. Så jeg tager den her, præget med den her, så det bliver noget med minus 3 plus 1 plus 1 plus 1. Så det giver 0. Og det kan vi jo sådan set godt lide, fordi det vi skulle have, det var, at vores R skal være øvre og triangulær. Så jeg skal også have et 0 der. Og det skal jeg sådan set også have hernede. Så det vil sige, at det er den her søjle, prægget med den her række, og det passer med, at jeg får 0, og så har jeg noget minus 2 plus 1 plus 1, så det vil blive 0 over kvadratud 6, jeg får ud, altså 0, ligesom jeg gerne skulle have. Så kan jeg gå videre og sige, at næste søjle er, at nu tager jeg anden søjle af, og igen, indgangen heroppe, det skulle synes jeg var den der, prægget med første række i Q transponeret, men den første række, det er det samme som første søjle i Q. Så jeg tager den her, prægget med den der, så det giver en halv, plus en halv, plus en halv, altså 3 halve. Så kan jeg gå herned, og det er den der, prægget med den her. Så kan jeg 0 gange den, og 1 gange de andre, så det vil sige, at de giver 3 over kvadratet ud af 12. Og så skal jeg gerne have et 0 hernede. Får jeg det? Jamen det er den der, prægget med den her, så det vil sige, Jeg lægger dem der sammen, så det er minus 2, 1 og 1, så det giver 0, ligesom jeg gerne skulle have. Den sidste søjle, så er det den der, prikket med den her, så det giver en halv plus en halv, altså 1. Så er det den der, prikket med den her, så det giver 1 over kvadrat 12 plus 1 over kvadrat 12, altså 2 over kvadratet 12. Og så til sidst har jeg den her, prikket med den der, så det er... 1 over kvadratud 6 plus 1 over kvadratud 6, altså 2 over kvadratud 6. Så på den her måde har jeg altså fundet mit Q og mit R. Ved at jeg først har gjort et gram smidt, og på den måde fandt jeg mit Q, og bagefter er det et spørgsmål om at tage to matriser og gange dem sammen. Og man kan faktisk gøre det lidt mere specifikt end det sætningen siger, fordi den siger bare, at søjlerne er en autonome basis for søjlerummet af, men... Man kan sådan set også sige, at den måde vi har gjort det på, der vil de første k-søjler i Q være en ortonormal basis for spændet af et optag af k. Altså så de første k-søjler i Q er en ortonormal basis for spændet af de første k-søjler i matrisen af. Så altså at den her er en ortonormal basis for spændet af den første søjle, de første to søjler her. De er en ortonormal basis for spændet af de to første søjler her. Og så, hvis jeg tager hele matrisen, så er de en ortonormal basis for spændet af alle tre søjler. Og det kommer også af den måde, hvad hedder det, R er defineret, at det skal være sådan. Så det sidste er sådan set, at vi skal kigge på det der mindste kvadraters løsning, som vi startede med at kigge på. Og det er... En af grundene til, at man kunne tænke sig at lave en mindstekvadratersmetode er, at man kunne ønske sig at lave en QR-faktorisering. Fordi det er en af de problemer, hvor hvis man har en QR-faktorisering, så bliver det lettere at løse det problem, man egentlig er interesseret i. Så mindstekvadratersmetode, det betyder, at vi nu har et ligningssystem AX'B, som er inkonsistent. Fordi nu i den her samling, så er vores b, det er det data, vi har samlet, og vores model siger, at der skal eksistere et x, sådan at a gange x er lige med b. Og det er det her med, at modellen siger, at b ligger i søjlerummet af a. Sådan set, det er en måde at sige det. Men fordi vi har været det målefejl, så er der ikke nødvendigvis en løsning til det her. Så det man så vil, det er, at vi vil finde det x hat, som minimerer Den her afstand. Og det er en anden måde at sige, at vi vil finde den vektor i søjlerummet A, der ligger tættest på vores B. Så kan man så vise, at hvis nu A har linært uafhængige søjler, så vil x hat være givet ved A transponeret A i minus første, gange A transponeret gange B. Nu antager jeg så, at jeg har taget min A her, og jeg har fundet en QR-fraktorisering. Jamen så kan jeg så sige, at Hvis jeg nu bare starter med at sætte ind alle de steder, hvor der står A, der skriver jeg nu QR, så er det så her QR transponeret gange QR minus første gange QR transponeret gange B. Så kan jeg sige, at når nu jeg transponerer et produkt af matriser, så er det, at jeg må transponere hver faktor og så bytte om på rækkefølgen, så det her bliver R. transponeret Q transponeret gange Q gange R i minus første gange Q. Undskyld, så der har vi også, at den er transponeret, så det vil sige, at det bliver R transponeret gange Q transponeret gange B. Q transponeret gange Q transponeret, det giver identiteten, ligesom før, det er det her med, at søjlerne i Q er ortonormale. Så det vil sige, at jeg får det r transponeret gange r i minus første, gange r transponeret gange q transponeret gange b. Så bruger jeg igen noget med, at hvis det er et produkt, og både r og r transponeret er inverterbare, fordi det er en diagonalmatrix, og vi har noget, der er positivt på diagonalen. Så det vil sige, at det er produktet af de der diagonale elementer, så det giver noget positivt. Så både R og R transponeret er inverterbare. Så når jeg inverterer produktet, så må jeg invertere hver af dem og bytte om på rækkefølgen. Så jeg får det R, R transponeret i minus første, gange R transponeret, gange Q transponeret, gange B. Så nu har jeg R transponeret i minus første, møder R transponeret. De går ud med hinanden, og så står der her, at det er i minus første gang Q transponeret B. Og hvis nu jeg så tager og ganger med R fra hver. Venstre på begge sider. Så får jeg den ligning her, hvor jeg kender mit R, og jeg kender Q transponeret, og jeg kender B. Så det her er sådan set bare et lineært linjeksystem, altså på formen A x lige B, hvor at nu mit A det hedder R, og mit B det hedder Q transponeret B. Det her påstår jeg, at det er et særligt nemt system at løse. Hvorfor er det det? Det er det, fordi R... Den er øvre triangulær. Så hvis man kigger på, hvordan ville totalmatrisen for det der se ud, hvis nu jeg bruger den her som eksempel, så vil jeg have et eller andet, der står heroppe på højre siden, men jeg kan direkte aflæse, at den sidste variable her, den er lige med det der, eller det der gange den sidste variable, er lige med et eller andet. Så jeg kan sådan set aflæse direkte, hvad er den sidste variable. Så kan jeg tage den værdi, Sæt den herop, og så kan jeg aflæse direkte, hvad bliver den anden sidste variable, osv. Så det vil sige, at det kan løses ved det, der kaldes back substitution. Og jeg tror ikke rigtigt, at der er noget godt dansk navn. Substitution, hvis jeg kan stave til det. Sådan der Så det giver altså en nemmere måde At løse det her Hvad hedder det? Mindste kvadraters problem Så det er et sted hvor man kunne tænke sig At bruge sådan en QR-faktørsag Og det er Det var det jeg havde Så igen ligesom sidst For at I har mulighed for at stille de sidste spørgsmål Så får I lige et par minutter til at gøre det, og så skal jeg nok samle op på den. Hvad er det, du gør, når du er i en køkken? Ja, så der er kommet et spørgsmål, som er om, at ortogonale vektorer altid vil være et underrum af et eller andet. Og der kan man sige, at hvis vi tager nogle vektorer, som er ortogonale, og så har vi spændet af dem, så vil det danne et underrum. Det vil sige, at når vi ved, at vektorerne er... ortogonale, så ved vi også, at de er linært uafhængige, og derfor vil de være en basis for det underrum også. Så man kan sige, generelt gælder det, at når vi bare tager nogle vektorer og tager spændet af dem, så får vi et underrum, men hvis vi ved også, at de her vektorer er parvist ortogonale, så ved vi også, at det er en basis. Så det er ligesom den her ekstra ting, vi får ud, når nu de er ortogonale. Og igen, Det er lidt det, jeg har nævnt på et tidspunkt, det her med, at linear uafhængighed, det siger, at vektorerne peger i forskellige retninger, og ortogonalitet er så deluxeudgaven med, at de ikke bare peger i forskellige retninger, men de peger i så meget forskellige retninger, som de overhovedet kan. Så det håber jeg, at det svarer på det spørgsmål. Og ellers ser det ikke ud til, at der er nogle spørgsmål, så lad os bare runde af her, og så kan I komme i gang med at regne nogle opgaver.