Transcript for:
Umělá inteligence a její společenský dopad

Dobrý večer, já vás tady všichni vítám na poslední přednášce letošního cyklu přednášky z moderní fyziky, který byl teda věnován fyzice a citi. Na začátek tě netradičím, protože to uvádím já, profesor Podolský je zdávodně i disponován na požádalně, abych to teda uvedl, ale to není podstatné. Náš dnešní řečník je Petr Koutský. Významný český vědecký žurnalista a popularizátor věry, asi ho nemusím představovat, má na kontě velké množství popularizačních článků v různých periodikách.

Je autorem a spoluautorem několika krásných knih. Teď už několik let působí v denníku M, kde se pouští i do... takových širších článků. Já jsem třeba s velkým zalíbením četl vaše poslední články o historii izraelsko-palestinského konfliktu a o historii Ukrajiny a další.

Taky bych připomněl dobu covidovou, kterou se nám všem podařilo vytěsnit, ale úspěšně. V té době Petr Koupský každý týden publikoval souhrn situace, situace... a vyhlídky, což bylo v té době jeden z nejhlubších a nejkonsenzuálnějších hlasů. Myslím, že to také přispělo k tomu, že Stepak byl oceněn prestižním novinářskou cenou Ferdinanda Peroutky. Dnešní téma je jiný, je to blíže asi k původnímu zaměření Petra Koupského, kterým je kybernetika, tedy IT.

vidíte je AI, neboli jak někteří z nás říkáme AI. A o tom teda bude zase ta přednáška, tak se všichni těšíme. Děkuju za představení a uvedení. Po takovémhle úvodu člověk v podstatě nemůže nic jiného než zklamat.

Je to příliš. Já se nemohu ubránit v této budově, vzpomínce na svého středoškolského profesu. profesora matematiky v roce 1979. Jsem maturoval, bylo mi 18 let a zvažoval jsem, kam se vrtnout dál.

Zašel jsem se ho zeptat, jestli třeba ta matematicko-fyzikální fakulta, to znělo naprosto skvěle, by nemohla být místem, kam bych se mohl přihlásit. On se na mě podíval a řekl větu, kterou si pamatuju dodnes, po těch mnoha letech. Ty nikdy neuvidíš matfy zevnitř.

45 let a jsem tady. Děkuju za pozvání, dobrý den. Pan profesor Vošický je bohužel v domově důchodců a už by mi připadalo hloupé se mu zajít tím pochlubit, že se to nesplnělo a on si určitě nepamatuje, co mi tehdy řekl.

pamatuju, takhle to chodí. Buďme na studenty opatrní, co jim říkáme, někdy si to zapamatují. Prosím vás, kdo všechno tady není zpět s fakultou, kdo je tak jako zvenčí. Dobře, takže tak půl na půl. Dobrá, já jsem předpokládal, že nějak tak to bude, to samozřejmě značně komplikuje situaci, protože zvolit úroveň povídání o čemkoliv, nejenom o uměle inteligenci, o čemkoliv, aby vyhořel.

rozhovovala širokému rozpětí patrně zájmů a předběžných znalostí je taky úkol, předem odsouzený k nezderu. Na druhou stranu, my novináři jsme zvyklí na to, že v zásadě se nám nepovede vůbec nic a druhý den se jde zase dál. Bude to snad v pořádku. Já jsem povídání o umělé inteligenci, ke kterému jsem sem byl pozván, rozdělil do několika částí.

Napřed bych velice stručně zhrnul a... A těm, kteří to znají, těm navrhuji, aby mě doplňovali a polemizovali. Trochu úvodem vysvětlit, co je pod kapotou toho stroje, o kterém si tady povídáme.

Protože někdy to vypadá, že je to vysloveně mystická záležitost a někdy překvapivě zjišťuju, že i lidé, kteří se pohybují v technických disciplínách, tak... mají ne úplně přesné představy o tom, jak velké jazykové modely, což je ta část umělé inteligence, která teď je aktuální, fungují. Potom bych rád pověděl něco o předpokládaných společenských růslecích. Pak tam mám jeden takový blok nazvaný Strašidla.

To je přehled obav. které umělá inteligence přináší a jakým způsobem ty obavy rezonují ve veřejném prostoru. To už hodně souvisí s tomou prací novináře. A nakonec bych ještě řekl, jak my novináři používáme v tuhle chvíli umělou inteligenci, k čemu nám je, k čemu není, jak se prakticky osvědčila, co si od ní slibujeme do budoucna. Čili tohle je plán pro následující půl, druhou hodinu a verování pro vás, pokud jste...

přišli s jiným očekáváním, tak lze stále ještě utéct si. Tak připomeňme si maličko, jak ta věc funguje. Všichni určitě máte zkušenost s velkými jazykovými modely typu chat GPT, ale ukažme si některé výrazné rysy práce s tou věcí pro připomenutí.

Takhle jsem se zeptal, chat GPT 4.0. Ať mi navrhne, o čem se dá povídat na přednášce o umělé inteligenci. Úslužný stroj spolehlivě odpověděl a navrhl tři možnosti. Na tom není nic zásadního.

Zásadní je to, že když to chcete používat pro nějaký profesionální účel, třeba jít přednášet chytrým lidem, anebo o tom psát do novin, tak tomu nesmíte věřit samozřejmě. Musíte si každou z těch věcí... kterou stroj předloží ověřit normálním ručním vyhledáváním pomocí Google. A tady zrovna v tomhle případě se ukázalo, že všechny tři náměty, které mi navrhl, jsou v pořádku.

Že tam není žádný blábol, že to není nesmysl, že všechno je to v podstatě pravda a rozumně formulovaná. To zdaleka není pravidlem. Velice často, a dostaneme se k tomu proč, se stává, že si tyhle stroje vymýšlejí a dávají odpovědi poněkud nesmyslné.

O čemž nás přesvědčí další ukázka? Kdo jsou, abychom nebyli pragocentričtí, kdo jsou slavní rodáci z Brna? Zeptám se stroje, kdo jsou slavní rodáci z Brna, on mi zdvořile, promptně a rychle odpoví.

Líbí se vám ta odpověď? Je tam něco špatně snad? Co byste řekli, že je tam špatně? Je tu někdo z Brna? Ne.

Gädl je dobře. Kurt Gädl je dobře. Špatně je Mendel, který v Brně, mají to být rodáci.

Mendel samozřejmě v Brně žil, pracoval, je zpět s Brnem, ale nenorodil se tam. pochází z sleského městečka Hinčice, součást nového i čina dneska. Leuš Janáček se narodil v Hukvaldech, taky ve Slezsku. A Viktorka Pláčová, Plán, což asi já to taky nevěděl, musel jsem si to najít, je hrdák z nějaké zapadlé vesnice v Alpách.

Ale všichni v Brně působili, všichni to jsou lidé s Brnem spojení, takže tam se dá vytušit, jakým způsobem si ten GPT-4.0 vyfantazíroval tu odpověď. Nerozumí tak docela slabů hrdák, vidí, že se ho ptám na nějaké slavné osobnosti a Brno a dá dohromady takovou... vouhle odpověď. Já mu vytknu, že to není v pořádku.

Tak a co se stane? Omluví se opraví správně Mandela, to je v pořádku. Poté opraví Macha, který se naredil v Kralicích, což je něco, brně něco jako jako tady Horní Počernice nebo tak, ale Brno to v každém případě je.

A krásně opraví toho Gedela, vidíte, narodil se v Brn. To není Brno, to je Brn. Není s tou věcí rozumná řeč. Rozhodně s ní není rozumná řeč, když jde o to, ...zjistit nějaká fakta. Zajímavé je, ještě poslední jedna ukázka, taky brněnská, já nevím, co mě to popadlo, všechny ty...

nějaká inspirace. Tak, tahle báseň samozřejmě je dobře známá a jejím autorem je, jak víme, Vítězslav Nezval. Nicméně... odpověděl, že autorem je Jiří Horten, že bálceň se jmenuje Elegie, jmenuje se na břehu řeky Svratky.

A že mi nemůže prozradit její další sloku, protože by porušil copyright. To je fantastická odpověď. Představte si toho žáka zkoušeného před tabulí, jak neví.

A teďka hledá nějaký způsob, jak se z toho vykroutit. Co víte o Bukurešti? V Bukurešti se říká... říká Paříž Balkánu. Paříž je hlavní město Francie, leží na řece Séně.

A tak dále, a tak dále. Nějakým tímhle způsobem ta věc pracuje. Ta další sloka, kterou tam zkusil popsat, je taky úplně špatně.

Tanec Valova je tam vedle. Tohle všechno jsou ukázky, jak se nemá s četem GPT a podobnými následky. z třeby pracovat. K tomuhle tomu nejsou. Většina lidí ale používá právě k tomu.

Používá a ono to k tomu svádí. Máte počítač, se kterým vedete dialog, tak předpokládáte, že je vševědoucí, podobně jako je vševědoucí v jistém slova smyslu třeba vyhledávač Google, a že vám tedy odpoví rozumně na každou otázku, při nejmenším, na kterou se dá odpověď najít na internetu. To se zdá být takové logické a očekávatelné.

Není to pravda. Proč to není pravda? Ještě poslední ukázku vám nechám přečíst. Tady naopak to fungovalo dobře.

A to není jednoduchá otázka. To je z nějakého testu schopnosti pro rozumění psanému textu na na úrovni vyšších ročníků střední školy. Čili maturant, řekněme, by měl umět tuhle otázku vyřešit. Je tady nějaké povídání a je tady, která analogie nejlépe odpovídá. tomu příběhu.

Nemusíte si s tím takhle na večer lámat hlavu, ale ta odpověď je správná. Ten stroj zcela správně. A úlohy tohoto typu řeší vesměs, velice dobře, velice spolehlivě. Tak co to je? Neumí najít, kde se mrdil Janáček, přestože s internetem a Googlem to zodpoví úplně každý, tuhle otázku.

Přitom... umí vyřešit takovouhle relativně složitou logickou úvahu. Zajímavá věc. Fungování velkých jazykových modelů se dá představit různými způsoby. Mně se osvědčilo přirovnání ke kalkulačce.

Představte si normální kalkulačku, na kalkulačce máte tlačítko, dajme tomu pořádku. pro odmocninu. Zmáčknu dvojku, zmáčknu tlačítko pro odmocninu, vypadne mi 1,4142, nevím kolik, dál, nějak takhle.

A teďka mám jinou kalkulačku a na té tlačítko narepsané další slovo. Vložím do ní na místo toho čísla, se kterým jsem počítal, kus textu. Větu, odstavec, několik stránek z knihy, cokoliv.

To tam vložím jako vstup. Zmáčknu tlačítko, další slovo. A vypadne mi jako výsledek výpočtu nejpravděpodobnější další slovo, kterým by ten vložený text pokračoval. Vstup do výpočtu je kus textu, výstupem je další slovo. Pak zmláčknu tlačítko.

Náčknu to tlačítko znova opakovaně, přidá se to vygenerované slovo k tomu dosavatnímu vstupu a vygeneruje se zase další slovo. A tak dále, a tak dále, a tak dále. A tohle je to jediné, co velké jazykové modely dovedou a dělají.

Nic jiného nejsou. Jsou tlačítkem další slovo. Generování nejpravděpodobnějšího dalšího slova.

Jakým způsobem je vnitřek toho tlačítka udělaný? samozřejmě trošku složitější příběh, ale on ani ten výpočet odmocněných kalkulací Ač se není úplně triviální, tak je to obnášení nějaké programování, nějaký mikrokod, kterým se to musí realizovat. Tady je to zase programování a mikrokod, jenom jeho trochu víc, než je potřeba na výpočet odmocněny, ale princip je úplně stejný. Čili není to magie, není to myslící pětiživík zavřený ve stroji, přestože se svými antropomorfiními představami si ho tam velice často dosazujeme v myšlenkách.

Je to fakt jenom takovýhle algoritmus, nic jiného. A když se na to podíváme ve světle této informace, tak rázem ty výsledky vypadají trochu jinak. Na základě generování nejpravděpodobnějšího dalšího slova, že to poskytne třeba na tohleto odpověď, anebo koneckonců, že to vyjmenuje šest kvazi rodáků z Brna, z nichž tři jsou dobře. To vůbec není špatný. To je zajímavý výsledek.

Jak to funguje? Jak je možné, že to umí? Teď se omlouvám všem, kdo to znají.

Respektive znají to všichni. Jestli jo, tak já to přeskočím. Jak je to udělané vevnitř? Jak funguje základní princip střevového učení? Dávno vám hlasovat.

Přeskočit, nepřeskočit. Kdo je pro přeskočit? Jeden, dva, tři.

Kdo je pro nepřeskočit? Kdo je pro nepřeskočit? tak to budete muset vydržet, vědět, co jste byli předtím. Ale aspoň uvidíte, jak to vysvětlují novináři svým čtenářům, což může samou sobě být docela poučná záležitost.

Představte si, že máte krabičku, černou skříníku, se čtyřmi otočnými knoflíky, regulátory, které se dají natáčet do různých poloh. Chceme té krabičce ukazovat obrázku. nejrůznějších věcí, psů, koček, panoráma, hradčan a tak různě podobně.

A chceme, aby ta krabička poznala, když vidí obrázek psa, že to je pes, napsala na výstupu pes. Nic jiného umět nemusí. Musí umět napsat na výstupu pes, když to je pes, a nenapsat na výstupu pes, když to pes není.

Nic víc od ní nechceme. Věříme tomu, že to je správná krabička, která to s nějakým nastavením knoflíků může umět. Nevíme ale, jak funguje a nevíme, jaké nastavení knoflíků je to správné. Postupujeme tudíž zkusmo.

Ukážeme obrázek psa a podíváme se, jestli krabička řekla pes. Velmi pravděpodobně nikoli. To by byla velká náhoda. Tak pootočíme jedním knoflíkům a zkusíme, jestli se něco zlepšilo. Velmi pravděpodobně nikoli.

Pootočíme knoflíkem dál. Až vypotřebujeme všechno nastavení jednoho knoflíku, zkusíme druhý. krabička, tak jednou dorezíme do té polohy knoflíků, které na ten jeden konkrétní obrázek psa odpovědí pés.

Zamneme si ruce a vytáhneme jiný obrázek psa. Se psi je ten problém, že vypadají různě. Takže pokud krabička dobře reagovala na obrázek německého ovčáka v plném výcviku, tak na obrázek čivavy na průcházce bude patrně reagovat odlišně. Takže budeme muset znovu... krevutit knoflíky.

Pak bude dobré ověřit si, jestli pořád ještě poznává toho německého ovčáka. Občas podstrčíme obrázek kočičky hradčan prezidenta Petra Pavla nebo něčeho takového, abychom si to asi ověřili, že mylně to neklasifikuje jako psy. Když budeme dostatečně trpěliví, dostaneme nakonec, a je to správná krabička, ale s tímhle předpokladem jsme do toho šli, dostaneme nakonec krabičku, která správně rozpoznává.

obrázky psů. Kdybychom chtěli rafinovanější krabičku, tak můžeme požadovat, aby opravdu klasifikovala nejen obrázky psů, ale poznala celkem přesněji, co na tom obrázku je. Tímhle tím způsobem funguje střejové učení.

Za předpokladu, že to jsou obrázky z texty je to trošku komplikovanější. Jenom je to trochu větší. Pro model GPT-3, ten už OpenAI...

nepoužívá, ten je zastarelý, ale byl to poslední, u kterého se ještě obtěžovali publikovat, jaké jsou číselné parametry toho střejového učení. U těch vyšších modelů 3,5 a 4, přestože má ta firma v názvu slovo Open, tak nám tohle už nezdělila. Odhaduje se, že to bude někde o desítkový řád výše, ale pro GPT-3 analogie Počtu obrázků psů bylo asi 500 miliard a knoflíků k otáčení neboli nastavitelných vah na uranové sítě tam je 175 miliard.

A potom to nějak funguje. Teďka zbývá vyřešit ten drobný problém, že s obrázky je to jednodušší než se slovy z texty. Všechny obrázky psů jsou si konec konců v nějakém slova... smyslů podobný.

Bylo by dost těžké definovat, jaký ten smysl je té podobnosti, v čem jsou si podobné. Ale můžete se o tom snadno přesvědčit. Stačí si vzít k ruce pětileté dítě a ty obrázky mu ukazovat.

A dítě bude říkat bezchybně pejsek, pejsek. Ne, to není pejsek. Možná jako ta čivava ho zmate, to připouštím. Ale většinou to pozná dobře. Čili, když existuje klasifikátor v podobě tuto zraku a mozku dítěte, který funguje na ty obrázky spolehlivě, tak je jisté, že nějaký druh podobnosti rozpoznatelný tam je.

Možná, že k tomu, aby se aktivoval, potřebujeme kus lidské kultury, ve které je to dítě vzděláno, ale to nemění nic na skutečnosti, že tam nějaká podobnost je. Se slovy je to horší. Slova normálně kódujeme.

Texty normálně kódujeme nějakým zobrazením do počítačového kódu a to zobrazení potom nemá vůbec nic společného s významem těch slov. Což je špatně, protože když chceme nakonec se dostat k tomu, že nám to vytváří nejpravděpodobnější slova, tak potřebujeme nějak zakódovat význam. To je ten nejdůležitější form, který se uskutečnil, když velké jazykové modely dnešního typu vznikaly.

jakým způsobem ta slova kohdovat. Ještě jedno upřesnění. Mluvím o slovech, většinou se při popularizaci uměle a inteligence mluví o slovech, reálně to ale nejsou slova, ale tokeny takzvané, což jsou...

části slov. Velmi často to jsou ta slova rozsekaná na to, čemu se říká slovní základ předpona a přípona. Někdy to může být nějak trochu jinak, je to rozdílné trochu v angličtině a v češtině.

Interpunční znamenka jako čárka, tečka, mezera jsou taky tokeny, ale... Když si budeme představovat, že to jsou slova, tak celkem nic velkého neskazíme. Teďka potřebujeme nějak udělat, aby ta slova byla kódovaná způsobem, který...

zachovává jejich význam. Takové kodování existuje a spočívá v tom, že ke každému ze slov nebo ke každému z tokenů přiřadíme jeden prvek vektorového prostoru a vysoké dimenzi. Kdybychom zůstali u dimenzí 3, na což tak stačí lidská představivost, tak vezmeme tuhle tu pěknou velkou místnost a začneme do ní rozměstňovat slova tak, aby v různých jejich částech byla slova, která nějakým způsobem nebo jsou spolu významově nebo v širším slova směru. semanticky příbuzná.

Když je rozmístíme správně, tak dosáhneme toho, že se s nimi dá dělat takováhle jednoduchá matematika. Král minus muž plus žena a vyjde nám královna. Odečtu od krále atribut ženy, přičtu atribut muže a dostanu slovo královna.

Bratislava. takže tři slova minus Slovensko plus Polsko, rovná se Vršava. Odečetl jsem nějak od té země ten atribut, odečetl jsem od hlavního města atribut té země a přičetl jsem atribut jiné země.

Takovéhle fovorky skutečně se dají dělat. To, co tady ukazuju, to je výsledek algoritmu, který se jmenuje Word to Vector, Word to Vec, a jeho hlavním autorem je náš krajan, počítačový vědec Tomáš Mikolov. který k době, kdy to vymyslel, tak pracoval, já teď nevím, jestli v Google nebo Facebooku, on byl postupně v obou dvou těch firmách a nevím, do kterého období jeho práce tohle spadá.

V každém případě v jedné z nich, myslím, že to byl Google. Zajímavé na něm je, že teď je zpátky v Praze a místo toho, aby na Bahamách užíval balíku peněz s akcí obou těchto společností, pomáhá tady rozjet výzkum v oblasti uměla a inteligence, což je velice chválivé. samozřejmě. Tak, pokud jste se nad tím zamysleli, tak jste si asi povšimli, že v tom výkladu je jedna veliká logická slabina.

Já jsem tady mluvil o tom, jak se ta slova rozmístí v prostoru. Mluvil jsem o tom, že když jsou dobře rozmístěná, tak s nimi pak jde dělat ta významová matematika, aritmetika jednoduchá. Ale neřekl jsem, jak se toho dosáhne, aby byla na těch správných místech. A to je na tom ten hlavní for, to je na tom to nejtěžší.

Co právě Mikolov se svými spolupracovníky vymysleli, protože žádným rozumným způsobem to nejde. udělat. Oni proto zvolili způsob, který moc rozumně nevypadá na první pohled.

Zvolili algoritmus, který slova rozmistuje podle blízkosti ve větách, podle kontextu. Vychází se z toho, že když se slova často vyskytují blízko sebe ve větách, v odstavcích, takže budou ležet někde v nějaké podobné části toho vektorového prostoru. Zdůraznuju, že ten vektorový prostor, což je klíčové, je vyskytující. vysoce dimensionální, mluvíme tady o dimenzi 10-15 tisíc typicky. A tím pádem je tam jaksi dost místa.

Čím víc rozměrný prostor máte, tím víc v něm máte místa a víc možností, jak vyjadřovat složité souvislosti. Žádný člověk z hlavy by nedokázal, nemohl ta slova rozmístit do toho vektrového prostoru správně. Ten algoritmus, který musel... říká postupný pytel se slovy continuous back of words, to udělá. Nevyplývá z žádné rozumné úvahy, že takhle fungovat bude.

Je to vlastně velice překvapivý výsledek, ale funguje. To je podle mýho názoru velice zajímavá věc. A jakmile máte vyřešenou tuhle překážku, tak to ostatní už jde docela dobře.

Máte kódování slov, které zachovává význam. zachovává významové souvislosti. A jakmile tohle to máte, tak máte vlastně už ty obrázky psů.

A můžete použít stejný trénovací postup, jako u těch obrázků. Trénovat na základě téhle reprezentace slov, neuronovou síť, umělovou inteligenci, aby uměla rozpoznávat, co kam patří, aby uměla generovat to další slovo. A všechno ostatní je v zásadě otázka výkonu počítače a několika chytrých základů. třích triků, které to dál vylepšují a zjemňují. Co je k tomu, co je pod kapotou, ještě potřeba říct si, než s tímhle povídáním skončím.

Abychom získali dobře nastavenou síť rozpoznávající nikoliv obrázky psů a texty, potřebujeme obrovské množství trénovacích dát. Ve všech těch firmách, které dneska předkládají velké jazykové modely, což je především OpenAI a Google, a postupně se k nim přidávají další, ale hlavně tyhle dvě, tak použili prostě všechno, na co dosáhli svýma nenechavýma rukama. Čili prosypali tou neuronovou sítí všechny volně dostupné texty z internetu, všechny copyrightované texty z internetu, které jsou přesto technicky dostupné, čili takové... takové ty velké nelegální knihovny knížek a vědeckých článků, jako je Sci-Hub a Libgen a já nevím co všechno, to všechno se k tomu použilo.

Samozřejmě, dokud to děláte za zavřenými dveřmi laboratoře, tak si nemusíte s copyrightovými otázkami příležitě vám mat hlavu, protože vám stejně nikdo nevidí pod prsty. Jakmile ale ty dveře otevřete a pozvete veřejnost, což je to, co se stalo na podzim roku 2022, když OpenAI zpřístupnila na internetu chat GPT, tak se vám pod ty prsty začnou koukat. Já mám pocit, že celé to odhalení těch velkých jazykových modelů bylo trochu chaotické, neplánované.

A hlavně, když to jednou udělali u OpenAI, tak ti ostatní se dostali pod tlak, aby rychle je následovali, jinak budou vypadat zaostale. A tím pádem to probíhalo trochu neuváženě. A dnes se například řeší jako problém otázka, kde se ta trénovací data vzala, jak je možné, že jste použili zrovna tohle.

kolik mi za to zaplatíte, že jste použili mou knížku na trénování svého jazykového modelu. No nic vám nezaplatíme, pane spisovateli, protože kdybychom zaplatili vám jednomu, tak musíme platit všem a na to fakt nemáme. Google na to nemá. Takže tohle je trochu složitý.

Další věci, které jsou potřeba vědět k té technické stránce věci, je, že velice důležitou záležitostí je algoritmus, podle kterého se vyladňují. Já jsem mluvil lehkovážně o tom, jak utáčíme knoflíky na té krabičce, čili jak měníme váhy v neuronové síti. Jak se ve skutečnosti váhy v neuronové síti...

síti mění, jak efektivně se jde k tomu cíli, aby byla dobře vyladěná, to je naprosto rozhodující, protože když se to bude dělat opravdu jenom naslepo, tak jak jsem to naznačil s tím pejskem a kočičkou, tak by to při rozměrech použitých modelů trvalo hodně dlouho. Proto je důležité mít algoritmy, které tu cestu zjednoduší, zrychlí, najdou něco jako gravidního gradient obecné chybové funkce. Aspoň trochu ho najdou, trochu ho vyhmátnou.

Hledání globálních maxim a minim, jak všichni matematici vědí, je obecně neřešitelný problém, protože nikdy nevíte, jak moc je ta krajina sprohýbaná, jestli jste dorazili k horskému plesu anebo opravdu už dolů k moři. Ale přesto neřešitelné problémy mívají přibližná řešení. Dobrým přibližným řešením tohoto problému je velmi obecný algoritmus zpětného šíření radiantu chyby, se tomu česky říká backpropagation anglicky.

Další důležitá věc je, že síť, jak se ukázalo po prvních pokusech, nemá být přísně deterministická. Tohle všechno je deterministický postup, co jsem popsal. Ukazuje se, že když se do toho vnese malý prvek náhody, tak že jsou výsledky lepší.

Že ty výsledky... a podstatné texty potom vypadají víc, jako kdyby je psal člověk. Dají se z toho vyvodit nejrůznější závěry na filozofické úrovni, jak moc jsme racionální a jak moc chaotické bytosti a já nevím co všechno.

To je fuk. Podstatné je, že si tam doplnili parametry, kterýmu říkají temperature, teplota a zjistili, že když se nastaví na jakousi hodnotu 0,8, tak funguje. Já tu hodnotu 0,8 čtu tak, že s 80% pravděpodobně se zvolí deterministický výstup a s 20% pravděpodobností trochu náhodnější. Ne úplně náhodný, ale trochu náhodnější.

Tam se místo nejpravděpodobnějšího slova volí třeba druhé nebo třetí v pořadí těch pravděpodobných. A potom je tam spousta, u těch komerčních aplikací současných, je spousta ručního dolaďování a ještě je tam taková maličkost, které se říká systémový prompt. Systémový prompt je...

Když s tou věcí konverzujete, tak to, co jí zadáváte jako dotaz, tomu se technicky říká prompt, to jistě víte. A systémový prompt je dlouhý řetězec pokynů, který se přilepí před každý z těch vašich, z vašeho pohledu neviditelně. A tam jsou takové pokyny pro dobré chování. Odpovídej, zdvořile, zdůraznňuj, že jsi jenom jazykový model, který nemusí mít představu.

když ti uživatel vytkne, že ses zmíl, tak se omluv, neřeš to, jestli ses opravdu zmíl, nebo ne, stejně to neumíš poznat, protože nemáš žádný relevantní model vnějšího světa vůči, kterému bys to hodnotil, atd. Systémový prompt současného chatu GPT má asi 8000 znaků, takže tam se vejde těch pukinů poměrně dost. Tak, dobře, tolik k tomu nejzákladnějšímu pohledu pod kapotu pro ty, kteří ho... neznali a ti, kteří ho znají, tak doufám, že mi odpustí extrémní míru zjednodušování.

Mohu doporučit potom nějakou literaturu, kde je to trochu méně zjednodušeně. Ale fakt je ten, že časy, kdy... Otevřeně publikovalo všechno, co je pod tou kapotou, už skončily.

Takže v mnoha ohledech jsme stejně odkázáni na zjednodušené populerační výklady a na dohady. Ty časy, kdy se všechno otevřeně publikovalo, skončily nejpozději tím podzimem 2022 a spíš o něco málo dříve. Dneska už moc nevíme, co je v laboratoří Google, OpenAI, Meti a já nevím, koho dalšího na tom pracuje.

seznamu nejnověji, seznam začal pracovat na vlastní umělé inteligenci. Tak, já bych jenom stručně připomněl, že umělé inteligence samozřejmě je mnohem víc než jazykové modely, mnohem víc než chat GPT, že je to velice vážený a solidní vědecký obor. který je dokonce starší než počítače jako takové. Za první počítač se v historii vědy obvykle považuje ENIAC, spravozněný v roce 1945, nicméně už v roce 1943 PITS a MECALC. Publikovali první schematický model nervové boňky, neurovnou.

A velmi zjednodušený, že je to cosi, co má několik vstupů a jeden výstup a prahovou funkci. a když součet těch vstupů překročí práh té prahové funkce, tak se aktivuje výstup, což odpovídalo tehdejším lékařským a fyziologickým představám o tom, jak neurony fungují. Dneska se toho o nich ví daleko víc. Reální model skutečného neuronu by byl mnohem složitější, ale v neuronových sítích se v zásadě používá pořád ten jejich, protože se osvědčil, protože funguje dobře, je snadno realizovatelný. Oni tehdy neměli číslicové počítače, takže modelovali jednoduché zapojení neuronů analogově.

Dokonce neměli ani polovodičové součástky v řece 1943, tak to s nějakými elektronkama museli dělat, tak jako byl celý ENIAC. jako udělaný selektřenek, muselo to být velice vizuální, ale daleko lepší samozřejmě, když to máme všechno simulované digitálně v číslicovém počítači. Umělá inteligence jako taková získala svůj poněkud nešťastný název. Ne poněkud, to je hodně nešťastný název, to je blbý název.

Hrozně matoucí. V 1956. roce na konferenci v Dartmouthu na univerzitě, kde se na celé léto sjeli si jeli, to není dobrý slovo, kde se na celé léto setkali mnozí budoucí nositelé Nobelových cen za různé obvory, paradoxně zejména za ekonomii a promýšleli tam, jak by mohly ty budoucí myslící střive vypadat. Šťastně se zhodli, že ty střive jsou na dosah. ruky, že to je jenom taková maličkost technická to vyřešit.

A z toho taky povstal ten název umělá inteligence. A velice smělé předpovědi, které tam tehdy dali dohromady a publikovali, co všechno se stane do pěti let, do deseti let, jak bude strý mistrem světa v šachu, jak bude vymýšlet a dokazovat většinu nových matematických věd, nově objevených a já nevím, co všechno ještě. Velká část toho se nesplněla dosud.

Děkujeme. část se splnila mnohem později, než oni si představovali, ale jejich vysoké sebevědomí zůstalo v názvu vědního oboru umělá inteligence. Já si pořád myslím, že kdyby se tomu říkalo takový zvláštní druh aplikované matematické statistiky, tak že by to bylo za prvé poctivější a za druhé, že by nevznikaly ty strašlivé zmatky s veřejností, kteří potom chodí a ptají se o... jestli to myslí a jestli to má osobnost a jestli to má mít občanská práva.

Ale stalo se, to už jaksi nevrátíme zpátky. Potom z dalších podstatných milníků, co jmenovat, jako rozhodně podstatný bod byl ten, kdy se ukázalo, že už nikdy mistrem světa v šachu nebude člověk a že poměrně brzo... poté se to tež stalo s hrejou God, což se nečekalo, vzhledem k její mnohem větší kombinatorické složitosti, než je to u šachové hry, ale Můrův zákon taky jako si na tom odpracoval svoje, ta výkonnost počítačů roste hodně rychle a zlepšování algoritmů se tou dobou dařilo dělat taky velice dobře.

Aplikací, které nemají nic společného s velkými jazykovými modely, mně osobně připadají velmi zajímavé trojrozměrné struktury proteínů, které pomocí algoritmu Alphafold jsou dneska zmapované v podstatě pro všechny proteíny, které se vyskytují ve všech živých organizmech, na které si jenom vzpomenete. Blbé je to, že se u většiny z nich neví, jestli je to dobře. zmapované a že se ukazuje, že většinou tam jsou nějaké odchylky. Ale i tak je to pro ty biochemiky velká pomůcka a velké zkrácení práce, protože mohou pracovat aspoň s nějakým předpokladem, nějakým odhadem. Trojrozměrná struktura proteinu je to, co dělá s proteinou funkční záležitost.

Protein je tvár v podstatě. Ta molekula bílkoviny, ten řetězat saminokysleny je zkroucený do nějaké přecné podoby a ta podoba Říká se tomu zámek klíč. Zapadá zase do nějaké jiné biochemicky aktivní molekuly a když do sebe zapadnou, tak se stane to, co se má stát.

Nebo někdy to, co se nemá stát. Ale v každém případě se něco stane. Když to do sebe nezapadne, tak se nestane nic. Minou se a plavou si někde dál, každá svým směrem. A zjišťovat to experimentálně je pomalé, těžké a drahé.

Pomocí krystalografie je většinou hrozně komplikovaná záležitost, pracná piplačka. To, že se to dá spočítat, že jenom známe sekvenci těch aminokyselin a ten stroj z toho spočítá, jaký tvar ta molekula bude mít, to je velký výsledek. No, řekme se ale k jazykovým modelům.

Dovolím si doporučit vaší pozornosti tenhle obrázek, na kterém není tak moc zajímavé, co který z těch sloupečků znamená. Ty sloupečky to jsou výsledky jazykových modelů GPT-3,5, modrá, a GPT-4, zelená, v nejrůznějších testech, obvykle tak na úrovni přijímacích zkoušek na americké vysoké školy. Některé ty zkoušky jsou náročnější, možná. Třeba je tam přijímací zkouška do americké právnické komory.

Tak to není přijímačka na vysokou, ale už po vysoké, abyste získali právo provozovat právní praxi ve Spojených státech. A to, co na tom ale zajímavé je, je poměr těch dvou barev, protože to zlepšení od mudré k zelené, čili od 3,5 ke 4, odpovídá 6 měsícům vývoje. A to je jediný důvod, proč ten obrázek ukazuji.

V tuhle chvíli je vývoj dalších verzí poněkud zbržděný komerčními ohledy, právními ohledy, nejistotou, jak bude vypadat regulace umělé inteligence při nejmenším v Evropské unii, ale pravděpodobně i ve Spojených státech a mnoha zájmem investorů a taky... Snahou firmy jako je Microsoft a Google trochu to zpomalit, aby se dala řádně vyinkasovat každá dílčí etapa vývoje umělé inteligence. Nebýt těchto ohledů, tak patrně by se postupovalo dál nějakou podobnou srovnatelnou rychlostí.

Jak dlouho to ještě touhle rychlostí může jít? To samozřejmě ne. Dobrý.

Potom, jak dlouho to ještě touhle rychlostí může jít, to samozřejmě nikdo neví. Možná ne, možná jsme někde už o horní hranice možností jazykových modelů v jejich současné podobě. Možná ale nejsme. A jak dlouho to bude trvat, to rozhodne o tom, jak moc to změní svět. Jestli se tímhle způsobem budou vyvíjet, řekněme, ještě dve roky, tak...

se v zásadě nezmění nic moc. Jestli deset let, tak nezůstane kámen na kameni při nejmenším z každé duševní práce, na kterou si dokážete pomyslet. A jestli to bude něco mezi tím, tak to bude něco mezi tím. Což je to nejpravděpodobnější, podle mě.

Co všechno to dovede dobře v tuhle chvíli? K čemu se to dobře hodí? Už jsme si ukázali, že se to nehodí k tomu, aby to nahrazovalo Google a zjišťovalo nám to. a předkládalo nějaká hotová fakta. Což je velké zklamání pro spoustu lidí, kteří právě tohle by chtěli od umělé inteligence, právě to od ní budou požadovat a budou opakovaně zklamáváni.

Naopak je to... Já možná tohle nebudu moc rezabírat a popíšu potom, což by mohlo být užitečnější, k čemu to reálně používám já a k čemu to reálně používáme v redakci. Aby to nebylo abstraktní, aby to bylo na něčem hmatatelném.

Zábavná věc jsou třeba ty šachy, o tom se zmíním. Zkoušeli jste někdo hrát šachy s chatem GPT nebo s Bardem nebo s něčím podobným, s Antropikem? Jo?

Jak to dopadlo? Začalo mnohý lidí dělat ilegální tag. Ilegální tag?

No, ono to občas zkouší, jako udělat ilegální tag. A řekli jste mu, že hraje proti pravidlům? Jo.

Polepšil se? Někdy. A někdy udělal další ilegální tag.

Jo. A co to bylo zač? Jaký model?

Trojka, podle mě. Jo. Já jsem...

Sehrál několik partii se čtyřkou, která mě dělá ilegální tahy. A hladce se mi vždy porazil, což mi zvedlo značně sebevědomí. A někde jsem se s tím pochlubil. A kdo si mi řekl...

ale ty to děláš špatně. Co jsi mu napsal, že budete dělat? Já říkám, no zahrajeme si šachy. Ne, napiš mu, představ si, že jsi šachový velmistr a budeš se mnou hrát šachy.

Od té doby jsem nevyhrál. Na tom je to reálná příhoda. Maličko zjednodušená, ale reálná. Na tom promptu skutečně velice záleží. A to, co se ukazuje jako dobrý způsob promptování, je vnutit té věci roli.

Říct jí představ si, že jsi něco. A tím se nějakým způsobem zůžím.... nebo zostří záběr, kterým směrem vyhledává svoje další odpovědi v případě toho šachu, svoje další tahy. A je to něco jiného.

Konem z konce internet obsahuje záznamy x bambilionů šachových partií a jenom u některých z těch partií je napsáno, že se hrály velmistři. Takže když zůžíjí výběr na pokusy zopakovat tyhle partie, tak bude mít patrně lepší výsledek. Co to dělá blbě? Neumí to počítat.

Školákům to velice dobře řeší úsudkové příklady. Dokud do toho bodu, kde je potřeba do té obecné úvahy dosadit čísla a spočítat, tam to selže. Protože to nemá žádný matematický modul v sobě, žádnou ani primitivní aritmetiku. Takže i když se toho zeptáte, kolik je 8 plus 5, tak to hledá jako nejpravděpodobnější další. slovo.

Výsledky jsou slušný. Výsledky jsou slušný dokonce v počítání. Já jsem sebral nějakou takovou tu sbírku, standardní sbírku, podle který se nikoli tady samozřejmě měl natechnit se, učí integrální počet. Začal jsem předhazovat ty způsoby, které mě připomínaly.

těch gamma funkcí a co oni tam všechno počítají, šílenosti, elektrikáři a ono to ty integrály počítalo dobře. Potom se toho zeptáte, kolik je 12 na druhou a ono to zkuše řekne 196 a když mu řeknete, že to je špatně, tak řekne promiň 112. Já vím, že mnozí matematici jsou na tom podobně, že ten integrál spočítají a 12 nadřívají nikoli. A to je v pořádku, nic předtím tomu, ale uživatelé by to měli vědět, že to takhle funguje. Co nás čeká z sumylo inteligencí? To samozřejmě jsou dohady.

To samozřejmě jsou dohady a těžko říct, jestli se tyhle předpovědi nějakým způsobem vyplní, ale dovolte mi tedy, abych předložil svoje dohady. První věc, ke které podle mě dochází už teď v procesu, je... je něco, co bych nazval odkouzlením psaného textu.

Co tím chci říct? Všichni jsme vyrostli, byli vychováni v kultuře, která si psaného slova velmi váží. Možná si to ani neuvědomujeme, ale velmi váží.

Inteligenci člověka posuzujeme podle kvality jeho písemného projevu, přímo i nepřímo. Když se někdo vyjadřuje jako... Dřív se říkal jako Tatar, ale to nevím, jestli je politicky korektní.

Když se někdo vyjadřuje jako hlupák, tak si ho zaklasifikujete jako hlupák. A přitom je to možná chytrý dyslektik, který prostě není schopen formulovat lépe, ale to není vidět. V době, kdy...

kdy si pořád všichni píšeme textový zprávy a maily a chaty, čili té písemné komunikace je mnohem víc, než jí bývalo třeba v době mýho mládí, tak význam té dobré písemné komunikace je veliký. Všichni jsme v tomhle byli vychováváni, škola tyto hodnoty buduje. Potom uniká, že ten, kdo umí se plynule vyjadřovat dobrým slohem, tak může plátat.

strašlivý blbosti a stejně vypadá inteligentně, protože je to hezky napsané. A tohle podle mě končí pomalu, protože najednou tady máme pomůcku, která tu stylistiku zvládne velice dobře, čili dobrá stylistika je najednou absolutně dostupná každému. Neříkám skvělá, říkám dobrá.

Na přijatelné úrovni. A najednou bude víc záležet na tom, co je obsahem, než jaká je forma. No, to... To je věc, která nebyla nikdy v dějinách lidské duševní práce, řekněme.

Nebyla. Tohle je absolutní novinka. Druhá věc je, že si budeme muset znova promyslet, co to je tvůrčí práce.

Máme o tom všichni nějakou spontánní představu, která většinou zahrnuje hlavně naši vlastní práci a potom těch několik ostatních. se kterými jsme srezuměni a tu ostatní zatvůrčí práci nepovažujeme. Někudy vede ta hranice. Zapisování úředních vyhlášek většina z nás zatvůrčí práci nepovažuje, psaní poezie většina z nás zatvůrčí práci považuje. A tak dále, a tak dále, to je jedno.

Ta hranice pořád nějaká bude existovat, ale povede patrně jinudy. A ukousne nám z toho, co jsme považovali za výsocně lidské, mnohem větší část. Jaká část ta bude, kudy ta hranice povede?

to je těžko říct. Je mnoho lidí, kteří jsou z téhle výhlídky sklíčení, já osobně nejsem. Já si myslím, že můžeme použít něco zase, co bych pracovně nazval metaforou základního tábora.

Bývaly časy, že na vrchol Mount Everestu jste se museli dostat tak, že jste nějak došli, dobře, dojeli vlakem, dejme tomu, do Indie, z Indie se nějak dopravili do Kathmandu a odtamtud jste šli. A odnosiči vám možná něco nesli, ale šli jste tam pěšky. Dneska je základní tábor pod Everestem někde ve výšce přes pět tisíc metrů. Můžete sice tím riskujete výškovou nemoc, ale můžete se tam nechat dovést z Evropy dvěma letadly postupně.

Tohle všechno si ohromně zjednodušit a vyrazit k tomu vrcholu. Tomu Mountedrestu to neprospívá a snadný přístup do základního tábora je v jeho případě špatně. Ale... Je to metafora. Nemluvíme o výstupu na Mount Everest, mluvíme o duševní práci.

A tady to, že se můžeme nechat strojem, umělou inteligencí dopravit do základního tábora, neboli nechat za sebe udělat spoustu rutinních činností. se kterými jinak trávíme spoustu času. To je plus. Bude spousta lidí, kteří se dál nedostanou, kteří prostě se nechají dopravit do toho základního tábora.

Ten zpěvit za ně bude něco dělat a oni se tam budou motat. Bude spousta lidí, kteří konvenčně od tamtut vystoupí na ten Mount Everest a potom budou takový, kteří díky tomuto náskoku budou moci vystupovat mnohem výše, než je vrch. Cholek dosud nejvyšší z hry světa, čili vysoce tvořiví lidé najdou způsob, jak to využít k tomu, aby se mohli dostat někam dál, kam se dostat nemohli. To si myslím, že se z nějakého střednědobého hlediska v důsledku generativní uměle inteligence stane.

Bývám obvinován z přehnaného optimismu. Já s tím umím žít. S takovým obviněním. Tohle jsou nějaké studie, když si tu prezentaci stáhnete, tak je tam prolinkovaná ta studie, je to celkem solidní studie v dobrém recenzovaném časopisu. Popravdě řečeno, ta čísla jsou vždycky trošku vycucená.

ale je vidět, že změny jakékoliv duševní práci budou nevyhnutelně veliké. Ne, ne, ne, správná otázka, promiňte, to by tam mělo být napsáno, mám dojem, že je tam 10 let. Ještě k té tvůrčí práci.

Já si myslím, že obecně za to jsou rozličitelné dva druhy tvůrčí práce. Podle toho, jestli jedete podle instrukcí, anebo podle toho, jestli nové instrukce vytváříte. Pokud jde o tu první, která je nějakými pravidly víceméně definovatelná, a položme si všichni otázku, do jaké míry je naše práce definovatelná pravidly.

Já jako novinář mám v odpovědi na tuhle otázku absolutně jasno 99 A jinak, ať si to vyřeší každý sám za sebe tuhle úlohu. Nechci nikomu nic vnucovat, ale já 99 Tak tahle práce bude nahraditelná. Jestli ne teď, tak za několik let. Ty systémy se budou rozvíjet, protože existuje obrovská ekonomická motivace je rozvíjet.

Jasná ekonomická motivace nahrazuje to lidskou práci. Za lidskou práci se musí platit. Lidi jsou drazí v současné ekonomice.

Jsou to nejdražší, co může být. Všechno ostatní je škálovatelné a dobře. reprodukovatelné lidi nejsou. Takže když takováhle možnost vzniká, tak se vyvine obrovské úsilí k tomu, aby se využila.

Čili, jestli chcete nějakej návod, tak jakou část pracovní doby trávíte u počítače. Nepočítáme mobil, počítáme fakt jenom počítač, zařízení s obrazovkou a klávesnicí a jste v sedě u toho. Když tam trávíte hodně času, velkou část své pracovní doby, tak je podle mýho názoru poměrně fuk, co na tom počítači děláte. Je to práce v ohrožení. Jestli píšete texty, jestli programuješ...

zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, zkoušel, z Znáte jméno Eliezer Judkovsky? To je pro určitou skupinu lidí, kteří se pohybují kolem umělé inteligence, veliká osobnost, velice vlivná, velice... Guru bude v tomhle případě asi to správné slovo, protože on se sám do téhle polohy i stylizuje.

A strašidla můžeme začít právě od Jutkovského a od čeho si... čemu se říká Rokův bazilišek. Znáte Rokova baziliška? Rokův bazilišek je taková hezká myšlenková konstrukce, která říká, jednou v budoucnu vznikne, tím začínají všechny tyhle úvahy, jednou v budoucnu vznikne supervýkonná uměla a inteligence, která svými schopnostmi vysoce převyšuje člověka. A teďka většina těch konstrukcí z toho vyvozuje, že krátce poté budeme...

budeme všichni mrtví, protože nás ta věc je v důsledku svého racionálního uvažování vyhub. Jak přesně bude to racionální uvažování vypadat? V tom se trochu rozcházejí, ale zhodnou se v tom, že nás vyhubí. Jeden z nejkrásnějších je právě ten Rokův bazilišek. Tam ta úvaha vypadá takhle.

supervýkonná uměla a inteligence blízké budoucnosti si bude pamatovat, kdo z lidí konkrétně se podílel na tom, aby vznikla a kdo nikoli. Ti, kteří se podíleli, tak budou odměněni. Třeba tím, že zůstanou naživu. Kdežto ti, kteří se nepodíleli, ač mohli, budou strašlivě potrestáni.

Například můky věčnými, který se dají... dají velice dobře zařídit tak, že sejmou vaši mysl na hrajevní dostřeve, aby nebyla vázána na to křehké a netrvanlivé fyzické tělo a po věčnost vás budou nějakým způsobem trápit. V těch konkrétních způsobech trápení lidi okolo těchto skupin mají neobyčejně bohatou fantazii.

V zásadě to... celý je obdoba toho, co kdysi dávno vymyslel Blaipaskal, to je Paskalová sáska. Věřit v Boha nebo nevěřit.

Když budeš věřit, tak máš naději na nekonečně vysokou odměnu v podobě věčného blaženství. Neby, když věřit nebudeš, tak získáš sice radosti nezřízeného života zde na zemi, ale riskuješ být třeba s velmi malou pravděpodobností, že skončíš v pekle a A nekonečný trest s malou pravděpodobností není dobrá sázka, takže radši věř. Tohle je úplně to samé. Jutkovsky v loňském roce publikoval v časopise Time, který už dávno není tím, co býval, ale pořád to ještě čte dost lidí, takové velké povídání, ze kterého cituji jenom několik málo pozorovodných věd.

On tam říká... že bychom měli velice růkladně zablokovat všech další vývoj umělé inteligence. A pokud někdo, například subjekty cizích států, se tomu nebudou chtít podřídit, tak pošlete letadla a vybombardujte je, protože třetí světová válka, byť třeba jaderná, je pořád menší katastrofa než ovládnutí světa umělou inteligencí.

Možná vám to připadá bizarný, ale lidi... kteří tímhle způsobem uvažují, není zas tak úplně málo. A poněkud střízlivěji formulovaných výzev, že by se měl vývoj uměla a inteligence zastavit a promyslet znova důkladně, jestli víme, co děláme, těch je poměrně hodně. Ono zajímavé je, že většinu lidí, kteří to táhnou dopředu, jsou lidé chytří, velice schopní, ale nikoli... odborníci na umělou inteligenci.

Spíš to jsou takový ty lidi, co se vyskytuje všude, kteří byli úspěšní v nějakém jednom odvětví a z toho, jak oni sami, tak i jejich okolí usoudilo, že rozumějí v zásadě všemu. To je běžný, známý, je, dokonce bych řekl, že svým způsobem nevyhnutelný. A jsou to potom velice sugestivní osobnosti.

Jitek Mark nebo Lovrem Skraus, to jsou... jistě nesmírně schopní a chytří lidé. Pan Harari třeba je zase velice schopný v sebepropagaci a to tež. A Steve Wozniak je prostě hodnej kluk, který přestáral je trošku hodnej kluk, kterýmu prostě věříte, protože vymyslel ten krásnej počítač s tím jablíčkem.

Já to zlehčuju teďka, jak vidíte. protože si myslím, že opravdu takhle postavené, jinak to řeknu, že hledáme problémy s umělou inteligencí tam, kde nejsou, což nás povede k tomu, abychom přehlíželi skutečná rizika tam, kde jsou, což je blbý. Bát se něčeho, čeho bychom se bát neměli, vždycky vede k tomu, že přehlížíme skutečná rizika. To je chyba. Tohle je taky pěkný číslo.

Bylo to tři měsíce potom judkovského eseji, takže dá se z toho usoudit, že ředitelé velkých amerických firm asi čtou časopis Time, což je bezvadná zpráva pro časopis Time. Poslední slavný strašidlo je smrt lidstva pomocí výroby kancelářských sponek, paperclip maximizer. Myšlenkový pokus Nicka Bostroma už je výroba. ze začátku tohoto století, představuje si stroj, který dostane pokyn vyrábět kancelářské sponky co nejefektivněji a když se mu nezadají žádná další omezení, tak stroj...

který usoudí, že nejlepší bude přetvořit celou planetu na kancelářské sponky a že cokoliv, co mu v tom chce zabránit, je překážkou, kterou je potřeba eliminovat. Zase je to obava, která se přetřásá velmi důkladně, filozoficky a odvádí nás od rizik, které jsou podle mého názoru mnohem skutečnější a mnohem závažnější. To, co bez pochyby přinese umělá inteligence, budou sociální otřesy. Protože eliminovat tu zbytečnou duševní práci a vůbec nějak si definovat, která je zbytečná, to bude velká věc.

Když přišla průmyslová revoluce na začátku... a mohutná mechanizace výroby od ruční práce k využití síly parních strojů a transmisí, které rozváděly po fabrice ten točivý moment, tak se zachvěl svět v základech. A to se velmi pravděpodobně stane v blízké budoucnosti v oblasti duševní práce. Další zásadní věc je, co to udělá s nějakou globální rovnováhou sil.

V tuhle chvíli jsou dvě centra, kde se umělá inteligence mohutně vyvíjí, Spojené státy a Čína. O tom, co se děje ve Spojených státech, víceméně víc. nebo aspoň si myslíme, že víme, o tom, co se děje v Číně, víme z Terhubačkoru.

A potom je centrum, kde se umělá inteligence mohutně reguluje, a to je Evropská unie. Taková specializace to je. Oni to dovedou vyvinout. My to dovedeme regulovat. A nemyslím to tak jízlivě, jak to zní, protože je zjevné, že bez nějakého druhu regulace, bez nějakého druhu pravidel, kterými se vymezí, co ty systémy mohou a nemohou dělat a jak se máme k ním stavět, se neobejdeme.

Je potřeba něco takového mít. Ale ta situace, kdy v Evropě děláme jenom tohle, je poněkud riskantní. Potom tady jsou takové zdánalivé maličkosti, jako je ta otázka autorských práv, copyrightů, trénovací data, k čemu se mohou používat, k čemu nemohou. Je to nevyřešený problém, který bez pochyby bude nějakým způsobem se muset řešit, bude se muset najít nějaký kompromis, nějaká ravnováha mezi zájmy tvůrců všech těch textů, na kterých se měla inteligence učit a bude učit. zájmy těch, kteří ji vyvíjejí.

A tak dále, a tak dále. A nemluvím o vojenských využitích, to je veliká kapitola sama pro sebe, k které mluvit nechci, protože o tom nikdo nic nevíme. Ale jisté je, ještě nebyla v dějinách lidstva vojensky využitelná technologie, která by se nevyužila vojensky.

Nechápu, proč by to měla být tahle. Žádná předběžná smlouva to nevyřeší. Vyřeší. řeší to až nějakej průšvih a smlouva po průšvihu ex post.

Jak bude vypadat, kdo pak ví. Tak a teďka poslední věc, něco veselějšího, přízemnějšího a i v práci novináře. Např. vám pro legraci ukážu takovej výběr otázek, který dostáváme, nám píše spousta čtenářů.

To byste nevěřili, kolik lidí píše do redakce novin. My máme navíc redakční politiku, že se na to na všechno má odpovídat, pokud to teda není vysloveně zprostřed. prostý a i na to, pokud možno, a bez prostých slov, dá to dost práce. A umělá inteligence způsobila, že se roztrhl pytel s mnoha dalšími dopisy a dotazy, takže tohle je jenom takový výňatek z těch nejtypičtějších otázek.

Hodně lidí se zajímá, jestli se dá nějak zabránit žákom, aby to nepsalo za ně domácí úkoly. To jsou hlavně učitelé z základních škol. To byly tázací věty, na tom prvním atle jsou oznamovací věty, které nám posílají.

To, že si dostatečně nevážíme Ilona Muska, který je jednak největším odborníkem na AI a jednak spasitelem lidstva jako takového, to je tak jednou za týden. Tahle výtka přijde. A to jsme malí noviny celkem.

Dobře, tak k čemu se to podle našich dosovatních zkušeností dá a nedá použít? Číslování je takové, že je to na stupnici od 0 do 5, vyšší číslo je znamená lepší. Četnost využití je taky na stupnici od 0 do 5. Jako generátor... Jako generátor nápadů je umělá inteligence výborná věc. Pro mě osobně je to nejtypičtější způsob, jak ji používám.

Dejme tomu, že dostanu za úkol napsat článek o tom, že ve vlacích českých drách funguje... který zpomňuje blbě internet, což je pravda. Takže si zavolám chat GPT a řeknu mu, prosím tě, mohl bys mi...

Já jsem k tomu zdvořil, jo. Já trošku se bojím toho Bazeliška přece jenom a říkám si, že... si budou pamatovat, kdo by ho zdvořil, jak to ne.

Prosím tě, mám za úkol napsat takovýhle článek. Hoď mi do bodů, tak asi do sedmi, nějakou osnovu, co by v něm všechno mělo být. On mi hodí osnovu do sedmi bodů.

Já si je představuji. přečtu. Čtyři z těch věcí jsou triviality, na který bych okamžitě přišel sám.

Jinak tam nemám co dělat na té židli. Dvě jsou úplné blbosti, který nesmím použít, jinak budu za naprostýho troubu. A ta sedmá věc, ta je ta, o kterou jde, to je netrivialní nápad, na který bych možná přišel a možná nepřišel, to nevím, ale rozhodně ne hned, trvalo by mi to. A kvůli tomu sedmému bodu to dělám. Ten mi něco rozsvítí v hlavě.

Možná ho ani nepoužiju, ale někam mě posune. Přiměje mě nějakým způsobem přemýšlet. Takže s většinou námětů já tohle to skutečně dělám a je potom na mě, abych si přebral, co mi ta věc poradila a jestli se tím mám nebo nemám řídit. Ale rozhodně to vždycky stojí za pokus. Není to vůbec špatný.

Blbý je, nedá se to dělat bez jisté kvalifikace v tom tématu, o kterým máte psát, což je škoda. ale nedá, protože když ji nemáte, tak nepoznáte ty dvě blbosti a skopírujete je a pošlete dál do světa. Takových textů patrně bude přibývat. Tak, rešeršní nástroj. Řekli jsme si, že jako pomůcka, která by nám řekla, kdo se narodil v Brně, je to absolutně nepoužitelné.

Čili co tím myslím, když říkám, že se to dá použít jako rešeršní nástroj. Já s tím pracuji například tím způsobem, že tomu dávám číst PDF-ka vědeckých článků z primárních zdrojů. Každý týden přijde nová Nature a nová...

science a možná tam jsou nějaké náměty, o kterých by se mělo psát pro všechších publikum. Přelítnu si titulky, to je na mě, to bych měl umět poznat z těch titulků, co je trošku relevantní a co není. A když mě něco zaujme, tak to PDFko předložím v hodně vybrané umělé inteligenci a řeknu, prosím tě, vysvětli mi tohle jednoduchými slovy, rovnou česky, ať se nemusím namáhat s angličtinou. Tak vysvětlí, jak štěstí. takž takž.

Já se na to podívám a řeknu, hele, tomuhle nerozumím. Vysvětli mi tuhle část podrobněji, lépe. V zásadě to je takový, jako když máte po ruce odborníka z daného oboru s nekonečnou trpělivostí, který je trošku nahluchlej, takže úplně nerozumí tomu, na co se ho ptáte a taky je malinko senilní, takže občas řekne nějakou pitomost, ale pořád ty jeho celoživotní zkušenosti jsou dostatečně... je užitečná a hlavně je trpělivý.

Můžete se ho ptát pořád do kolečka. Takže když se s tím když trošku získáte cit pro to, jak tuhle komunikaci vést, tak tím můžete získat pro sebe značnej prospěch. To, kde by se to nemělo moc používat, ale používá je zdroj kuriozit.

Zdroj kuriozit hlavně generování obrázků. Jeden čas to byla nejlepší. v médiích veliká móda v průběhu loňského roku, že musí být nějaké obrázky generované mid journey anebo dalí. nebo něčím takovým, stable diffusion, tohle doufám brzo opadne. Ale jako zdroj kuriozy, co to používá.

Taky jeden čas byla veliká móda třeba na odborných konferencích nechat si vygenerovat úvodní řeč. umělou inteligencí a pak jí přečíst. To pomine. Zajímavý je to, jako generátor softwarového kódu, pro jednoduchý situace, pro jednoduchý případ.

případy. My v novinách občas takovýhle věci děláme. Děláme složitější vizualizace, píšeme si nějaký makra na data stažená z internetu, abychom v nich něco našli a podobně. Zajíména ta mladší generace novinářů tohle používá naprosto rutině.

A vypatrně všichni víte, že na psaní programového kódu se to docela dobře hodí. Dělá to chyby, není to dokonalý, ale obvykle ú... U těch jednodušších věcí se dá takhle pracovat rychleji, než to psát všechno z ruky anebo hledat ty jednotlivé segmenty někde po internetu a slepovat je dohromady.

Je to prasácký programování samozřejmě, je to quick and arty v nejdokonalejší možné podobě, ale funguje to. O to vždycky nakonec šlo v sotrovým vývoji. Přeslyzování textu, to je výborná věc.

Napíšu článek a mě se to připomíná. se to teda nestává, ale kdybych hypoteticky ho potřeboval pro dětskej časopis, tak to bezvadně ta umělá inteligence udělá. Řeknu, tady máš článek a přepiš ho pro šestiletý děti.

Přepíše velmi dobře. Slovní zásoba, vyjadřování, přirovnání, délka věd, všechno se uspůsobí krásně. A to je zrovna taková práce, která je trochu tvůrčí, ale ne, nezastak.

tak moc. Takže to je jedna z těch činností, které u tomu střevi asi půjde velice dobře svěřit. Zkracování textu, udělat souhrn z něčeho, bezvadný, skvěle dělá.

Hledání argumentačních chyb, to je docela zajímavé. Ono to nerezumí tomu, o čem ten text je, ale nějakým způsobem to rozumí jeho logické struktuře, která je nezávislá do značné míry na tom skutečném obsahu. Takže když tomu předhodíte článek a řeknete, řeknete, najdi mi chyby v argumentaci, tak je docela zajímavý se podívat, co z toho vypadne. Někdy to jsou upozornění, která jsou velice užitečná.

Někdy jsou k ničemu, ale zase je to k dispozici hned a je to k dispozici skoro nedarmo, takže proč to nepoužít. No, jak jsem říkal na fact-checking, je to absolutně k ničemu. A věc, na kterou to my používáme velice intenzivně, jsou přepisy audia.

Na to je to naprosto bezvadný, zejména práce novináře dost často spočívá v tom, že si s někým povídáte a potom to prafrázovaně přepisujete. Ale k tomu prafrázovanému přepisování potřebujete doslovnej přepis napřed. A pořídit ten doslovný přepis, to je mechanická, ale protivná a zdlouhavá práce.

mechanice, doslovný přepis záznamů dneska v podstatě v jakémkoliv kulturním jazyce dovedou dnešní AI programy naprosto bezvadně. My to velice hodně používáme s ukrajinštinou z pochopitelných důvodů, to je teď důležité, a hrovnou si to dáváme přepisovat většinou do angličtiny, protože ten výsledek překladu je lepší než do češtiny. A Je to velice kvalitní. A pak člověk to nemůže použít, tak, jak je to přepsané, ale jako pomůcka je to naprosto úžasná věc.

Takže tohle mi připadá, že je nejzajímavější a přitom používané poměrně málo. Tohle je to, co si myslím, že to provede s naší prací, s tím, co dělám. Jak jsem říkal, že dochází k odkouzlení psaného textu, tak to se bude týkat žurnalistiky velice hodně.

Já jsem novinář, přiznám se poctivě, který nerad píše, mě to nebaví. Mě baví všechny jiné aspekty. té práce, ale to psaní samotné ne.

Vždycky jsem měl podezření, že je to v podstatě mechanická a nezajímavá činnost. A že nějaký stroj to může převzít. Takže já se ohromně těším na to, že to z velké části...

části ten stroj převezme a že pro nás lidi pořád zbyde dost práce, důležité práce, která se bude muset udělat, aby ty výsledky k něčemu byly. Vedle toho bude spousta levných, snadno, pohodlně generovaných médií, které budou v zásadě úplně automatické. Asi ne úplně žádoucí výsledek, ale popravdě řečeno internet je dneska zaplaven tolika pitomostmi, že jestli se utopíte na dvou metrech hloubky nebo na dvou stech, ono je to fuchs.

Když neumíte plavat, stejně se utopíte. Takže ta hloubka se zvýší, těch blbin. No a to je asi všechno, co jsem vám chtěl říct. Takže máte-li otázky, připomínky, protesty a cokoliv tomu podobného, tak do toho.

Je teď prostor na vaše dotazy. Děkuji za přednášku, nebo děkujeme za přednášku. Vidím, že zastáváte stejný názor jako Josef Šlerka, to znamená pro jistotu, i když to nemá vědomí, tak pro jistotu poprosit a poděkovat umělé inteligenci, protože člověk nikdy neví.

Ale co byste řekl, že je vlastně ta největší, to největší nebezpečí? Byly tady nějaký strašáci a tak dále, ale co je doopravdy takový, jako co by jsme neměli přehlídnout, nebo co by se nemělo přehlídnout? Pfff, největší. Ono se to špatně porovnává samozřejmě. Já osobně si myslím, že pořád největší problém, a v tom se třeba nezhodneme s tím Josefem Šlarkou, ten to vidí jinak.

Já si myslím, že největší problém, který s tím souvisí, je ten sociální. Budeme tady najednou... mít spoustu lidí, kteří budou špatně přeškolitelní na jinou práci, kteří byli zvyklí celý život něco dělat a byli nepochybně užiteční. Společnost je asi... bohatá na to, aby neumíraly hlady.

Ale jak dát jim nějaký smysl života a fungování, to je podstatně složitější otázka. A těch lidí budou opravdu mraky, podle mě. Jestli ne... Bylo.

Bylo, ale jak si, když jsme na matfizu, tak bych řekl, že jde o velikost první derivace v daném bodě. A... Jo, jde o to, že se to mění pořád a pořád zhruba stejným směrem, to je pravda.

Ale jde o to, jak moc rychle se to mění. Kolik se toho děje najednou. Společnost jako systém má nějakou absorpční schopnost. A dokud se nepřekročí, tak je všechno v pořádku, to je přirozený proces. Když se překročí, tak se můžou dít nečekané věci.

Ale... Mám pocit, že tohle není úplně typické, obávat se právě téhle věci. Já jsem trošku zkoumal před časem historii průmyslové revoluce, která dneska vypadá jako celkem přímočará záležitost. Přestali žít na těch vesnicích, odstěhovali se do měst, z pasáčků ovcí se stali řidiči londýnského metra a všechno bezvadný.

Ale bezvadný to začalo být až tak po 30 letech. Těch 30 let bylo velice turbulentní přechod na... období. Takže si myslím, že nás zase čeká nějaké přechodné období.

A tahle doba je dost střelená a nervózní sama o sobě. A žije nás na světě 8 miliard, což je dost asi blízko jeho... kapacitě.

Moc velký vlnky bychom dělat nejspíš neměli. Takže tohle dělá starost mě. Hodně lidem dělá starost třeba to, že se z Evropy stane technologický skanzen, který bude opravdu ve vleku Ameriky a Číny. Jakoby teda už nebyl.

Ale že to povede k našemu hospodářskému úpadku a zaostalosti. Já si myslím, že ne, ale Jestli něčemu fakt moc nerozumím, tak je to ekonomie, takže nerad bych se do tohohle pouštěl. To jsou pocity. Je hodně lidí, kteří mají strach třeba z té kybernetické kriminality, která se tímhletím způsobem samozřejmě strašně usnadňuje a zával. lidí dezinformacemi.

Nevím, co k tomu říct, bez pochyby to nastane, vznikne, ale podle mě to nebude velká změna proti současnému stavu. Ale můžu se drasticky mýlit. Ono říkat cokoliv o budoucnosti, to víte, no. Niels Bohr říkal, že předvídat budoucnosti, předvídat...

Počkej, prosím tě, nám je kropce. Jo, Niels Bohr říkal spoustu vynikajících věcí. Víte, jak to říkal s tou podkolou? Děkuji.

A myslíte, já tomu sice nevěřím... ale funguje to prý i tehdy, když tomu nevěříte. Přesně to.

To tady s dovolením odsitu je u Pavla Cejnera. Ale jestli můžu, já teď jako přihodím svoje zkušenosti. Dneska jsem v shodu okolností, protože dělám v jednom z největších starových hauzů tady a my implementujeme vlastně řešení. který je jediný GitHub Copilot a používáme tyhle na GPT-4 založené komerční modely, které asi nejsou úplně běžné, pokud si to člověk nezaplatí, nebo nedělá v takovém velkém software house.

Ale asi bych tady zvednul tři věci, které tam znějí jako pragmatické pravidla pro použití toho rychloste rozvíjajícího nástroje, které teď je na dispozici. První věc. Zvažujte vždycky, které data, specifikace, datové struktury, cokoliv, které k tomu modelu podhodíte.

protože vy zodpovídáte za bezpečnost. Jedna věc, která tady nějakým způsobem zazněla, určitě je důležitá z hlediska nějakých predikcí. Nevíme, co ten model dělá, jinými slovy. Druhá věc je, pokud nejste schopni zvalidovat, co vám to vyplivne, tak to nepoužívejte maximálně jako hračku, protože vy jste vždycky zodpovědní za ten výstup. Tohle jsou jako tři pragmatické přístupy, které teď v tuhle chvíli v software industry, který používá tyhle nástroje vlastně asi na té cutting-edge úrovni.

o kterých se dá vlávit, k tomu jsme nějakým způsobem došli. A musím říct, že třeba když jsem dneska podhodil jenom takový jako cvičný úkol pod tý štverce nějakému četbotu, který je upravený pro ten softwareový vývoj, tak jsem mu podhodil jednoduchou věc ve Fortranu a pokud je člověk specifický a on je ten inteligentní a kouká se na tohle jako na automatizační nástroj, tak to dává s přesnováním tou iterací dobrý výsledek, ale vždycky ta inteligence je na straně toho uživatele. To, co nám říkají z hlediska vedení toho tribeu, toho celkový vývoje, tak je takový, my vás nechceme vyhazovat jako programery nebo lidi, kteří za to zodpovídáme, ale chceme, abyste zvýšili svoji efektivitu zhruba o 30%.

To je nějaký cíl a ten horizont je zhruba... Vidíme na rok, dejme tomu, to se plánuje, že jo, to se plánují budžety, a perspektiva je na dva až tři roky. To je to, na co se jako v tuhle chvíli cílí.

Za ostávání Evropy oproti USA a Číně nadhodím, že je to výrazně složitější situace. A je to takové jako, myslím, tady stroufnu tvrdit, že je to dojmologie do znační míry, která zůvisí s tím, že my v Evropě nejsme schopni to, co vymyslíme, dotlačit do té komerce. Moje zkušenost je taková, že kolem sebe mám inteligentní lidi, kteří třeba používají výsledky měření tady na ústavu ČVUT, který se zabývá moderníma obrávěcíma metodama, mají obrovský korpus dát.

Objednali si člověka, který dělá v oboru machine learningu 15 let, je doktorant, je extrémně zkušený, dělal v Číně, dělal na velkých projektech, aby jim pomohl k nějakým patrnům rekognici. Problem je, že z tíhletý práce na evropské úrovni na společení migrantů... nemusí vzniknout ta implementace, ta komercionalizace.

Ale není pravda, že bychom tady zaostávali v myšlenkách nebo v tom dívoji samotným. Naprosto souhlasím, to je zjednodušení, ale konec konců nakonec si rozhodující, co dokážete předat. Tak. Další věc, která jsme řešili.

A ten kolega, o kterém tady mluvím, ten portugalský doktorant, říkal, koupněte se na to. A podepíše se určitě pod tady to hodnotení, je to nešťastný název. To, co jsou ty...

...nebo obecně ten machine learningový multivrstvej model, to je statistika na steroidech. Veškerý význam, veškerá hodnota, která tam je, je daná prostě selekcí těch dát. A tu inteligenci tam zase vnáší ten člověk, který selektuje ty data. A pokud jim nerozumí, tak jako ty kluci tady odsud z toho, co máte, musíte mi pomoct. s tím datum porozumět a pak teprve vám jsem schopnej tu síť natrénovat.

Stejně tak ty proteíny, to je skvělej příklad. Ale bez týhletý znalosti, bez porozumění kontextu, ten model prostě vyplne cokoliv. A jak já to rozliším, v jakém způsobem toho testuju?

Jasně, máte např. pravdu, je to tak. Děkuji, ta přednáška byla vynikající.

Já se chci zeptat, jsme na půdě univerzity a moje manželka učí na škole, teda na střední škole a teďka se ptám, jak teda ta umělá intelektuální... projí ve školství, protože to už začalo i Googlem, kde ty děti už řeknou, já se nemusím učit, já si všechno vygooglim, takže je to možná i degradace. takové té aktivnější duševní práce a tady jste mluvil o tom, že si nechávají dělat úkoly, manželka teda už to taky využívá, že přesně jak ty nápady, že třeba mu dá, ona teda učí IT, takže třeba ČEP GDPT normálně udělá i příklad na cvičení v Excelu na nějakou funkci a nemusí to vymýšlet, to je geniální.

Ale zase se ptám z té druhé strany, ze strany těch žáků, jestli to pro ně nebude jako ta věc, proč se já mám učit něco, když mám něco, co to ví a když to nevím, tak se ho zeptám. Děkuju. Tak částečnou odpověď vlastně na to jsme slyšeli teď před chvilkou. Je to bezvadná pomůcka, pokud vyrozumíte, co dělá a umíte interpretovat správně jak vstupy, tak výstupy. Bez toho se zřejmě neobejdeme.

Já si myslím, že školy, chtě nechtě, musí akceptovat existenci umělé inteligence a ne zavírat před tím dveře. Už jenom proto, že kdyby... Jednak to nedokážou je zavřít.

A kdyby to dokázali, tak je to špatně, protože tím sníží šance svých absolventů na trhu práce. Tam se bude očekávat, že s tím budou umět zacházet. A zrovna ve školství vymyslet, jak tvůrčím...

způsobem to používat, podle mě není moc těžký. Je spousta jiných oblastí, kde to je komplikovanější. Ale v tom školství, kde vlastně velká část toho, co děláte, spočívá v takovém tom intelektuálním pískovišti, že si zkoušíte, co se tam může stát a nemůže, tam to otvírá spíš obrovské možnosti, než by je to komplikovalo. Ať to klidně píše za žáky eseje, ale ať ty žáci potom dovedou. obhájit a vysvětlit, co v tom eseji je napsáno, anebo třeba vysvětlit, proč to tu slohovou práci o Napoleona by napsalo s těmi konkrétními chybami.

Tam se otvírá strašná spousta možností. Mně osobně by to bavilo učit s těmito pomůckami a tímto stylem. A jako jasně, školství je částečně konzervativní a má k tomu dobrý důvody, musím říct. Protože jednou z jeho úloh je koneckonců zachovávat nějakou kontinuitu kultury a to se nezachová, když budeme takhle skákat sem tam.

Ale myslím si... že to školy a učitelé zvládnou. Tohle fakt nevidím jako velký problém.

Ještě poslední věc k tomu řeknu. Nevím, jak je to teď třeba na Karlově univerzitě, ale Masaryková univerzita má velice dobrý guidelines, vodítka, pro to, jakým způsobem používat umělou inteligenci, zvláště to má rozepsaný pro učitelé, pro studenty. Je to stručný, není tam nic zbytečného.

a je to velice rozumný. Tak já, zavolejme, něco řeknu k tomu ještě. Já zaprvé si myslím, že potřeba se dívat na tu inteligenci jakoukoliv, ať už umělou nebo neumělou.

Pardon, malinko víc na mikrofon. Jo, na mikrofon. Jo, ale zřejmě to funguje. Tak pardon, že se musíme dívat na tu inteligenci jako na společníka, jako že to je sparring partner, to je prostě někdo, s kým máme víc dialog. Teď k tomu konkrétnější poznámky.

Titulky vytvořil JohnyX. My jsme v nějaký situaci, teď jsme na vysoké škole a tak dál, ale asi všichni víte, co to je Krips. To znamená práce s genovým materiálem.

A je velká snaha v Číně vlastně vydělit populaci na tu, ne která má zdravější nohy, ale která má lepší hlavu. Jednoho krásného dne se může stát, že zatímco my nesmíme dělat pokusy na lidech, což je možná správně Evropa, Amerika, proto je v Číně dělají fakticky většinou podle návodu, který dostali u podvinut, ale to je jenom poznámka. potřebu.

Důležitý je, že Čína možná třeba časem si vypěstuje určitý sociologický, nebo část prostě obyvatelstva, ať už velkou, no malou, dva lidi, anebo miliardu, prostě, kteří budou mít rychlý myšlení, budou mít obrovský možnosti v mozku, paměti a daleko lepší práci s informacema. Ten, když bychom si chtěli udělat v obráze, kam asi, aspoň bych to trochu ilustroval, kam by to, jako jak ten ten skok je velikej, tak všichni, co trošku se díváte na filmy nebo máte děti, tak víte, že je velkej skok mezi těma dětma, který třeba umějí hrát divadlo a jiný, který na to nemají prostě buňky. A podobně to je s inteligencí.

Jako i když vysoký školy se snaží a tak dál, tak přesto je tam podle mě velká bariéra, kterou ale lze překonat, což může vejít ku prospěchu jako celého lidstva, ale to paradigma se úplně změní podle mě a nebude že je tam problém až tak dál v umělý inteligenci, ale v tom, že s ní jenom část lidí, což máme na mysli, zachází a možná, nedej bože, to bude část třeba, která přichází z Číny. Ale budeme-li mít nějakou komunikaci někdy s nějakou extraplanetární civilizací, ale možná, že ano, že to může být zítra. To je jako velice... O tom nemá nikdo informace, i když...

Tak... Tu bude muset dělat ta skupina lidstva, která tu komunikaci s umělou inteligencí zvládá. Tam to bude prostě hlubiná podmínka.

Samozřejmě oni nepřelítí zítra, ano, ale z druhé strany výměna nějaké informací může začít klidně zítra. Ty schopnosti a možnosti do jistý míry máme. Takže jenom chci říct a teď ještě jenom takovou poznámku.

Je určitá bariéra, která pro umělou inteligenci bude těžko překonatelná a může se vytvořit. může i v současnosti hrát a hraje velikou roli při rozhodovacích procesech, které zdále věcou logické a prostě spíše to prostě jako založené na té logice a na tom ráciu. Co by to mohlo být?

Co nemá ta inteligence, co možná nedožene nikdy a my budeme jako lidi mít vždycky při určitou možná trochu výhodu. Jo. tam, kam nikdy nemůže. Do somatiky. Nikdy je velký slovo.

Ona nemá tělo. A vy se možná rozhodujete nejenom podle toho, co vás naučili ve škole, ale možná taky podle svý somatiky, podle podvědomých možností svýho toho. A to nemusí být špatný rozhodování.

To je vlastně průzkum světa. Jiným způsobem. Nejenom racionálně. A to ta umělá inteligence, která pravděpodobně bude na tom křemíku a železe a tak dále. Ale nemusí to být stále.

Ale je to jistá zajímavá bariéra, která tam možná 100 let, 200 let bude. A pak možná budou, jak kdyžsi byly o tom už filmy nebo něco, romány kyborgové, které budou vlastně, a někdo se o to už snaží z části, teda biologicky, jako vlastně ta umělá inteligence se vtělí do něčeho, nebo naopak prolnese. Tak nic, to jenom tak jako pár poznámek k tomu. Ale nicméně ta Čína je hrozivá, protože prostě u ní máme jeden předpoklad.

který v Evropě a v Americe vlastně neřešíme. My si myslíme, že věda vždycky vede k dobru a má víc dobu, ale bohužel vidíte, že ne, že vlastně ty elektronické systémy jsou nasazeny ve válce a rozhodně státní systém jako Čína nebude váhat. Nebude, nestane se Francii nebo náma. Ale to je prostě nicméně, ta situace už tady vlastně je, ono to tak úplně není, že bude někdy až uměla inteligence.

Ona už převzala řízení raket a řízení války, možná, jenom my si to prostě nejsme z toho štontu vědomit a myslíme si, že prostě pořád jsme v jako v jistém stavu, řekněme, který byl na začátku 21. století. Bohužel. Já si ještě můžu jeden dotaz.

Je asi celkem jistý, že ta umělá inteligence nemá žádný význam. Vědomí, nebo že to vlastně není pravá inteligence, že to je prostě tlačítko a další slovo. Jestli nás...

vlastně zkušenost nebo analýza těch výsledků nebo práce s tou umělou inteligencí přivedla trošku blíž k pochopení, co to teda ta inteligence vlastně doopravdy je. Jestli líp chápeme vědomí nebo jestli nás to nějak posunulo v tom, že jsme blíž tady jako v rozřešení tady té otázky. Jo, je to dobrá otázka. Já si myslím, že prvzatím nás to posunulo blíž k poznání, že nevíme, co to vědomí je.

že tady existuje, řekněme, funkční alternativa uvažování ve velice podobném smyslu, v jakém letadlo napodobuje let ptáka na úplně odlišném principu. Takže jsme si uvědomili, že vlastně moc nevíme, co toto vědomí je. Dneska jsou seriózní neurovědci, kteří zastávají názor, že vědomí neexistuje jako takové, že to je umná iluze, která se... která se vyvinula evolučně, protože je pro nás užitečná, umožňuje nám lépe fungovat, ale že de facto nic, čemu by se dalo říkat vědomí, nemáme. Máme jenom iluzi, stejně jako ještě víc neurovědců věří tomu, že svobodná vůle je iluzí.

Tak s tím pocitem vědomí, čili vlastní subjektivity, existence toho vlastního já, kterou zřejmě všichni velice silně vnímáme. tak to může být takový evoluční trik. Zkrátka dobře, daleko víc jsme si ujasnili, že o tomhle víme stravačku, řekl bych já.

Jestli budu k tomu, bych v původku mluvil na ten větší seminář, na co by byla dát, jako mezi lidmi z MAPFISu, filozofami a neurovědcími, nějakým z účinných, profesorům Komárek a všichni odborníky na Některé lepší, který tam říkala, nejvíc máme nic aspoň... přístavu o funčení, o fungování musíků, o funčení propojích a tak. A nevíme nic o mysli a ho ruším, nevíme vůbec nic. No, tímhle nemálo o mysli jako nějakých výčinů konceptu, ale o ruši jako o tý nevíme vůbec nic.

Jenom bych to rád dělal, já mohl dát i konec, co tady Asci říká od začátku toho recyklu Tomáš Marčal jako fyzik. Takže věda je velmi úspěšná, může to být. To je dobrá formulace.

A tak jako je spousta lidí v neurovědě nebo právě v informatice velmi ovlivněná tou popkulturou, konec konců tady se bavíme o sci-fi v celém tom cyklu, co vnímáte jako zajímavý přínos? Nebo je to v podstatě recasting už existujících motivů, kdy ta so-called umělá inteligence je používaná jako to projekční plátno, na který tyhle staré obavy a naděje promítáme tím víc, tím mnohem. výmavovým fungování. Jestli tomu dobře rozumím, vy se ptáte na to, jestli vidím nějaký přínos v těch strašidelných kultech.

Opře. Je to nějak takhle. No, ani moc ne. Ani moc ne, abych pravdu řekl.

Já to vnímám nějak tak, jak jste to řekl vy. Je to asi nevyhnutelný vedlejší důsledek příchodu tak silného fenoménu, jako je ta generativní umělání. inteligence. Koneckonců ty kulty jsou starší než současné jazykové modely, protože ty kulty vlastně anticipovaly, že něco podobného se stane.

Ono se to dalo předvídat. Kdo sleduje vývoj v této oblasti, tak věděl možná 15 let, že to k tomu směřuje, to není nic zázračného si tohle uvědomit, ale to, že najednou je tady čet GPT a BART a BING je pro ně silným potvrzením. těch předpovědí.

A jako je to svým způsobem zábavný sledovat. Jo, je to určitě vynikající téma na mnoho dizertačních prací ze sociální antropologie. Ale jinak si myslím, že k tomu samotnému vývoji... Ať už uměla inteligence, anebo čehokoliv jiného užitečného, to příliš nepřispívá. Ale to je opravdu hodnotící soud, to je velmi osobní názor.

To říkám tady před malým publikem a než bych to napsal do noviny, tak bych si to důkladně rozmyslel, udělal bych si rešerši a asi bych usoudil, že o tom psát nechci. Ale zeptal jste se. odpovídám.

Teď je dotaz tady. Jestli se můžu zeptat, tak ty dnešní modele jako GPT jsou hodně omezený v tom smyslu, že jste tam uměli nějaké restrikce, že vám třeba neřekne všechno, co chcete. A jak se na to díváte? Protože tady by bylo řečeno, že čas často to bývá tak, že GDPT něco řekne, ale ta interpretace je z úplností toho člověka. Tak jestli je správně, že je to od kompeny prostě open AI, že ona se rozhodne, co bude a nebude povoleno.

Co ten model nemůže vygenerovat. No tohle má víc rovin, ta otázka. První rovina je ta, na jakých datech se trénovala. Jo, čili to, co říká a neříká, to je do určité míry sice všelijak zprostředkovaně splínování.

prohýbaně, ale je to odrazem toho, o čem si povídají lidé a jak si o tom povídají, co je na internetu. To je první rovina. Prvou je potřeba vzít v úvahu. Na něčem se to učilo.

Druhá rovina je ta, že provozovatelé jsou vlastně z komerční společnosti, které sledují zisk, úspěch, vydělat na tom peníze a za tím účelem se konformně přizpůsobují společenským normám. Protože kdyby to nedělali, tak na ten zisk nebo na další dodatečná investice budou mít trošku menší vyhlídky, nebo si to alespoň představují, že budou mít. Jestli je to pravda nebo ne, to je složitější otázka. Takže za tímhletím účelem do těch modelů se vkládají dodatečná omezení, která ani nejsou často součástí těch modelů, ale je to dodatečná transformace jejich výstupu, že třeba některá slova se tam neobjevují anebo některé otázky jsou natvrdo předprogramované tak, že se na ně nebude odpovídat.

To je vědomé, řekněme politické, rozhodnutí provozovatele. Můžete mít provozovatele, který se rozhodne pro něco dočista jiného a bude to fungovat dočista jinak. Existuje zábavná ukázka, který se tuším jmenuje GPT nácek nebo něco na ten způsob. Ta odpovídá v nejlepším stylu Josefa Goebbelsa na všechno.

Technicky. je tohle to všechno realizovatelné. To není problém technologie jako takové, to je čistě rozhodnutí těch, kdo mají vlastnická tráva a ruku na peněžence.

Já mám jenom stručný dotaz, jak byla ta tabulka té užitečnosti a využívání, tak možná jsem to přehledal, ale nenašel jsem tam jazykový překlady. Jo, jazykový překlady jste tam nenašel, protože jsem je pokládal za notolik triviální. že ani se tam nemusí uvádět.

A hlavně protože volní vlastně nepřišli s touhle vlnou, s touhle vlnou velkých jazykových modelů, je to starší. Takové věci jako Google. Google Translate a DeepL nejsou založeny na úplně stejné technologii jako generativní umělá inteligence. Jsou tam sice společné prvky a část toho vývoje je vysledovatelná stejná. Celá ta struktura transformačních neuranových sítí byla vyvinutá během vývoje Google Translate, ale je to trošku odlišné a je to staré.

a používat přímo jazykové modely typu chat GPT na jazykový překlad není úplně dobrý nápad, protože oni jsou přehraně tvůrčí. Dají se na to použít, dá se jim říct, tady máš kus textu anglicky a přiláž mi ho do češtiny, ale když to hodíte do toho obyčejného Google Translate, překlad bude kvalitnější. Jsou to prostě dvanáctry určené k něčemu jinému.

Jasně, ten dotaz vyplynul hlavně z toho, že já jsem občas spolupracuji s mým profesorem Hill, a ne přímo teda on, ale jeho syn ho zkusil zainteresovat do toho, využít to k nějakému překladu. A pan profesor se říkal, to určitě bude nepoužitelný. A on to zkusil, já nevím bohužel přesně který model zrovna.

A byl šokovaný, protože řekl, že by možná opravil jedno, dvě slůvka, ale jinak ten překlad byl vynikající. Takže... Tak to jde samozřejmě o to, to je anekdotická reference, nikoli důkaz. Kromě toho musíme započítat, že pan profesor Hilsky je velice laskavý člověk.

Ale opravdu velice laskavý. Takže to bych od toho odečetl trošku. Já bych připol technický děté, neznamenuju.

Když jsem před asi třema lety v pápu viděl tenhle kousek... nějakého React nebo Javascript kódu, který vygenerovala, byla to GPT 225, tak tehdy to byl Průlov a kolegové z Apple Stingů, se kterými jsem šel na pivot, tak říkali, hele tohle je super, teď budeme generovat ten kód jako auta. automaticky.

To, co tady asi úplně nezaznělo a předpokládá asi to každej ví, já jenom to chci potrhnout, že ta architektura není triviální volba a že nezdaleka každá architektura těch neuronovek vede k škálování. Schopnost učení těch architektů není stejná a jenom některý z nich dovedou lineárně škálovat. Ta GPTčko právě byla jedna z těch mála architektů, který to dokázali. To ještě k tomu mapování toho postavového prostoru, jak to udělal Tomáš tehdy.

A k tomu ještě dodejme, Mluvíme jednu důležitou věc, že tohle všechno je v podstatě inženýrská, nikoli vědecká práce. Jinými slovy, postupovalo se do značné míry metodou pokusu a omilu. A dobrá, my vlastně máme fungující neuranové sítě typu transformátor, ale nemáme dobrou teorii, která by vysvětlovala jejich fungování.

Což taky, jako když tohleto napíšete do novým, tak vyvoláte paniku. oni vyrobili něco, o čem nevědí, jak to funguje. Kdyby věděli o polovině veškerého inženýrství lidi, jakým způsobem funguje, počínaje klenutým mocním obloukem, tak by možná změnili trošičku pohled.

Ale ta důvěra v to, že inženýrství a vědecká teorie je to též, je značná. A to je taky jeden z zajímavých oblastí. objevu ve funkci vědeckého redaktora, že si lidi tohle jaksi stotožňují a neuvědomují si, že každá z těch disciplín řeší něco úplně jiného a jinými metodami a s jinými prioritami, že inženýrům jde o to, aby to fungovalo, ale ne nutně, aby rozuměli, proč to funguje. Naprosto přesný souhlas a způsob myšlení jiný.

Mám právě dotaz, jestli právě ten vývoj umělé inteligence nepřispěl i k pochopení, jak vůbec funguje. Tady to, že lidský mozek, protože je to, že tam jsme si ukazovali, že ty váhy je 100 miliard váh a my máme 100 miliard neuronů, jestli to pomůže i neuro... Nebo novým vědcům pochopit, jak funguje mozek.

Prozatím nepřispěl, je možná, že přispěl. No to právě se ptám, jestli si myslíte, že by to mohlo pomoct, aby jsme pochopili, já vím, že už se tomu věnuje asi hodně lidí, ale pochopit, jak funguje mozek, teda jasný, že třeba epilepsie, nebo tyhle to víme, ale vůbec třeba i vědomí, o kterým jsme se zmínili, není jednoduchá věc. Děkuji. Nemám na to kvalifikovanou odpověď. jenom říct, že bych si přál, aby to tak bylo, ale to je všechno.

Já bych měl jenom ještě možná takový triviální dotaz, mě nikdy jsem vlastně, jak když se říká, že vlastně to není dobré na ověřování faktů, tak to je jenom ta otázka, že to není připojený na internet, což se dá asi dost jako triviální. triviálně zařídit, takže si myslím, že možná to právě už brzo tak fungovat i bude, ne? Nebo jako se vněšem mílí?

Ne tak úplně triviálně. Ono to vypadá, že to je triviální. Dáme tomu...

přístup do Google a bude nám to v tom Google vyhledávat a doslova zopakovat odpovědi z toho Google. Pokud to má ale být jazykový model, tak jak funguje, tak musíme především dávat pozor na to, co se vlastně ptá, protože to bude generovaný text. Musíme dávat pozor na to, jak interpretuje ten výstup. A když tam přejdeme na tu úplnou doslovnost, tak vlastně máme jenom nějaký uživatelský rozhraní k tomu, dotazu Google. Tam je velký problém, jak vyřešit tu rovnováhu mezi užitečností té generativní umělé inteligence, čili že dělá nějaký souhrny, že to neopakuje slovo od slova.

Na to, aby nám něco slovo od slova vytáhlo z Wikipedie, na to nepotřebujeme žádnou umělou inteligenci a na to, aby nám to interpretoval ten obsah Wikipedie a řekněme deseti dalších seriózních zdrojů do srozumitelné stručné koncízní podoby, to je těžké. že jako V zásadě máte pravdu, jenom bych dával velký pozor na to slovo triviální. Pavle, jestli myslím, že to je zase čestová věc, bavili jsme se o tom, že tenhle měsíc GitHub, který integruje to řešení s úplnej AI, se čtvrtkou, tak doplnil ve svým vývoji útětu úplně nová věc, možnost integrace.

vlastní repo kódu, to znamená máte obrovský blok kódu, který vyvíjíte v rámci organizace, integrovat to s tím jazykovým modelem. První, na co by člověka napadlo, je OK, tak oni vezmou ten kód, který je nějakým způsobem odhleděný a naučí na to ten model. Ani náhodou ne. Vytvoří se výrobka, Vypoří se databáze modelů a patternů, který v tom najde a na základě toho se připraví prompty do toho jazykovýho modelu. Protože natrénovat ten model není vůbec triviální a dá se hrozně snadno přeúčit nebo rozhasit.

A jako najít tu rovnováhu v tom strašně mnohadimenzionálním stavovém prostoru není jednoduchý. A vždycky je to provizorní a to, co tady vidíme, jsou nějaké jako mezivýsledky. Což mě by mohlo chodem připomínat, že právě ten kolega, který dělal AI pro strojaře, říkal, že...

opravdu vypuštění a chatu GPT byl vnímaný v rámci komunity machine learningu jako jak to říct, přešlap. Jakože to bylo něco, co není v souhladu s nepsanýma pravidlama. Všechny to překvapilo. Nikdo, kdo ten vývoj sledoval, tak nečekal, že to pustějí ven v tuhle chvíli.

A doteď vlastně moc nerozumíme strategii, proč to udělali. Ale to je zase úplně jiná a dlouhá pohádka. Možná ještě jedna technická, já se tady uvolnám se.

Jedna z věcí, která je, a proč jsem tady trošku zase zastával v Evropě, některý z velmi moderních věcí, které se teď dělají v tom základním výsledku, jsou věci, kterým se říká PINN. Physics Inspired Neural Networks. Je to úplně jako cutting edge záležitost a v podstatě pro lidi z fyziky a z matematiky je to pochopitelné.

Dejte do té diskriminační funkce, do té zpětní vazby v tom, v tom učení, tak dejte tu fyziku. Pro ten systém, který učíte, třeba ty kompenzátory těchto obrábecího stroje nebo jadrně fyzikální systémy. Tím zeliminujete efektivně ten stavový prostor, do kterého se trefuje a bude se trefovat s větší přesností.

A tohle je třeba věc, kterou my jsme viděli, to jsou články, které jsou půl roku staré, které jsme zkoušeli implementovat v TensorFlow a které dělají lidi z King's College, které dělají lidi z Bruselské univerzity, kterých se dělají v Německu. Takže ten výzkum se tady opravdu... Jde dopředu otázka, pro mě je veliká, a to je přesně to, o čem jste mluvil, otázka, jak rychle to dokážeme komercionalizovat, jak rychle to dokáže ta Evropa dostat do těch praktických aplikací. Jestli už není žádný dotaz, tak já myslím, že můžeme znovu poděkovat za skvělou přednášku. Já velice děkuji za pozvání, bylo to příjemné.

Myslím, že i diskuze byla velmi zajímavá. Toto je poslední přednáška tohoto cyklu v tomto semestru a v následujícím semestru bude vždycky v těchto čtvrtečních termínech ten známý cyklus Fyzika jako dobrodružství poznání. Takže jaksi na tomto cyklu se zase sejdeme za rok.