Pondělí 22. července 2024
ikona hodiny22. 1. 2021 07:13

Dát ruku z volantu by byla chyba

Miluje výuku, ale má na ni málo času. S týmem vědců v rámci akademické i byznysové sféry pracuje na vývoji umělé inteligence i řešeních pro oblast kybernetické bezpečnosti. A v rozhovoru se dotýká i takových témat, jako jsou demokracie či regulace technologií. Profesor ČVUT a technický ředitel společnosti Avast Michal Pěchouček.

Petr Karban Petr Karban autor

Novinář, marketingový expert. Dlouhodobě se orientuje na ekonomická a společenská témata, podnikání, personalistiku, komunikaci, reklamu a marketing. V komunikační agentuře COT group působí jako Creative & Content Director a šéfredaktor několik titulů včetně publicistického portálu KomoraPlus.

Foto: Jakub Hněvkovský Michal Pěchouček ČVUT Foto: Jakub Hněvkovský

Než se začneme bavit o umělé inteligenci, věnujme se chvíli inteligenci jako takové. Odborných názorů je celá řada, zabýval jste se tím pojmem někdy vy sám? Co je její podstatou v lidském rozměru?

Měl jsem vždycky respekt k lidem, kteří měli vysokou inteligenci, ale nikdy jsem ji v tomto smyslu nestudoval. Pro vědeckou práci, pro úspěch v byznysu, pro vzdělávání, zkrátka pro to, abyste něco zajímavého dokázal udělat, je totiž inteligence toliko dílčí ingredience. Inteligence, pokora, talent, práce, velkorysost… tohle když smícháte dohromady, tak z toho teprve padají výsledky. A co je důležité, pro oblast umělé inteligence mne lidská inteligence nijak neinspiruje. Procesy, kterými člověk uvažuje, jsou natolik zajímavé, složité a enigmatické, že počítačoví vědci je napodobí pouze do určité míry. Spíše se snažíme najít jiné zákonitosti, kterými dokážeme realizovat podobné uvažování jako člověk, ale nikoliv na stejném vnitřním principu, spíše s podobnými výsledky. Když chcete, aby se stroj naučil rozpoznávat fotografii, je úplně jedno, jak vidím fotografii já a jaké u toho mám pocity, stroj se to učí úplně jiným způsobem. Podobnost s lidskou inteligencí je zajímavá pouze ve smyslu benchmarku, máme stejné aspirační cíle. Ale je jen velmi málo oblastí, kde se vývoj umělé inteligence zastaví ve chvíli, kdy se srovná s člověkem. To je jen krátký okamžik. Vědci v oblasti umělé inteligence, ať chtějí, nebo nechtějí, se vlastně zabývají konceptem superinteligence. Cílem není člověka napodobit, cílem je ho překonat. Nikoliv jako celek, ale vždycky v určité specifické, především kognitivní oblasti. Když už jsem zmínil rozpoznávání fotek, počítač je schopen jich rozpoznat víc, rychleji, přesněji…

Existují nějaké znaky či parametry, když už lze mluvit o umělé inteligenci? Nebo mají pravdu ti, co říkají, že ve skutečnosti žádná není, protože stejně vše jsou jen algoritmy, strojové učení, hloubková analýza, tedy schopnosti naprogramované člověkem?

Umělá inteligence jako vědní disciplína zkoumá možnosti, jak se dá kognitivní proces naprogramovat, aby probíhal lépe, rychleji, přesněji, škálovatelněji. Velká část vědců zastává názor, že umělá inteligence je pouze to, co je založeno na jedné řadě algoritmů, a to jsou algoritmy na principu strojového učení. Já tvrdím – věnuji se té problematice pětadvacet let – že je to zúžený pohled. Umělá inteligence je široká škála algoritmů. Před dvaceti, možná třiceti lety, překonal člověka algoritmus pro hru v dámu. Nepoužil přitom žádné strojové učení, byl založen na jiných principech. Je to algoritmus umělé inteligence? Je, překonal člověka v určité intelektuální činnosti. Dnešní algoritmy pro hru v šachy jsou kombinací mnoha přístupů, strojového učení, neuronových sítí, teorie her, prohledávání stavového prostoru, hloubkové analýzy, optimalizace… Krásným příkladem užití takových algoritmů je dnes poker, u kterého se využívá ještě simulace, kdy si algoritmus přehrává partie, z nichž se učí nějaké heuristiky a ty využívá pro nastavení neuronových sítí. Je to prostě hybridní přístup. Takže já hluboce nesouhlasím s tím, že umělá inteligence je strojové učení, to bychom daleko nedošli.

Má to celé nějaké meze? Zůstane umělé inteligenci zapovězena například kreativita, jak se dnes většinou domníváme?

Umělá inteligence má meze. My je ale neznáme, nevíme, kde jsou. Někteří lidé tvrdí, že nelze naprogramovat algoritmus, který bude schopen kognitivního chování v celé té šíři, v níž je toho schopen člověk. Je to ovšem pouhá domněnka. Pravdou je, že umělá inteligence dnes je vždy vysoce specializovaná. Obecnost je to, co člověk umí a zvládá skvěle, propojit všechny schopnosti v jeden celek, pamatovat si věci v rovině abstrakce, porovnávat, vyvozovat závěry, řešit problémy intuitivně. Neumí jednotlivosti tak dokonale jako algoritmus, ale v té obecné rovině je lepší. Zatím. Už jsou tu vědci, kteří programují algoritmy, hrající go a šachy zároveň. To je velmi těžká úloha. Pokud jde o kreativitu, je nutno si říct, jak se na ni díváme. Existují algoritmy, které kreativitě pomáhají. Tančící dům Franka Gehryho a Vlada Miluniče byl navržen s pomocí umělé inteligence. Ta také dnes často pomáhá právě designérům či architektům, nejčastěji nástroji, které umožňují vidět myšlenky, tedy vizualizovat představy. Umělá inteligence tudíž kreativitě pomáhá. Jestli dokáže napsat knihu?

K tomu jsem mířil. Napsat knihu, vymyslet slogan…

Umělá inteligence dokáže napsat zprávy, běžně se dnes využívá pro psaní burzovních či sportovních zpráv. Dokáže napsat velmi dobrý dějový popis scény z videa, to všechno se dá. Pokud bychom se bavili o tom, jestli dokáže vymyslet zajímavou, originální dějovou zápletku, to je za mě asi ten limit, kam se těžko dostaneme. Jinými slovy, asi bude v tomto ohledu vždy rozlišitelné, co napsal člověk a co stroj. V obecné rovině bych asi řekl, že není cílem, aby umělá inteligence člověka nahradila, ale aby mu pomáhala optimalizovat. Najít fotky nejrychleji, naplánovat nejrychlejší nebo nejkratší cestu, umět naplánovat prodej, či nákup. Člověk je tu pořád proto, aby definoval potřebnost funkce, ono proč. Tam vidím eticky zásadní otázku, jestli definici funkce si ponechá skutečně provždy člověk, nebo jestli ji bude dělat stroj.

Který názor zastáváte?

Já chci, aby to dělal člověk, ale myslím, že se může stát, že to začne dělat stroj. Příklad může být překvapivě jednoduchý. Umělá inteligence potřebuje ohromné množství energie, všechny transakce blockchainu, které se ročně dějí, spotřebují tolik energie, jako je spotřeba České republiky. Umím si představit, že algoritmy budou v budoucnosti soutěžit o energii třeba s auty. A pokud budou mít schopnost optimalizovat spotřebu, například v domácnosti, a nastane situace, že budou potřebovat energii pro sebe, tak vám vypnou nabíjení auta nebo ledničku. Blbý. To je okamžik, který může být nebezpečný, souboj o zdroje.

prof. Dr. Michal Pěchouček, Msc.

Vystudoval University of Edinburgh a získal doktorát v oboru umělé inteligence na Fakultě elektrotechnické ČVUT v Praze. Působil také na University of Southern California, University of Edinburgh, na State University of New York v Binghamtonu a na University of Calgary. Od září 2019 je technickým ředitelem společnosti Avast a vede hlavní technologickou sekci firmy, tedy výzkum a vývoj, práci antivirových laboratoří Avast Threat Labs i týmy zabývající se velkými daty a inovacemi. Je zodpovědný za výzkum v oblasti umělé inteligence, strojového učení a kybernetické bezpečnosti.

Před nástupem do Avastu působil více než 20 let jako profesor na Fakultě elektrotechnické ČVUT v Praze, kde vedl Katedru počítačů a v roce 2000 založil Centrum umělé inteligence. Je také spoluzakladatelem výzkumně zaměřeného studijního programu Otevřená informatika.

Je autorem více než 400 impaktovaných publikací a přispěl mnoha inovativními aplikacemi k AI výzkumu v oblasti informatiky. Zejména z jeho iniciativy vznikl ještě před jeho příchodem do Avastu společný projekt s FEL ČVUT pod názvem Avast Chair of Cybersecurity. V roce 2019 pomohl založit společnou kyberbezpečnostní laboratoř Avastu a FEL ČVUT. Stále přednáší na ČVUT a vede Centrum umělé inteligence.

Kromě působení v akademické sféře se podílel na vzniku několika technologických start-upů, jako je kyberbezpečnostní firma Cognitive Security (kterou v roce 2013 koupilo CISCO), společnost AgentFly Technologies, která se zaměřuje na ovládání autonomní letecké dopravy, a BlindSpot Solutions, která vyvíjí umělou inteligenci pro využití v průmyslu (v roce 2017 ji koupila Adastra Group). Vedl R&D centrum pro umělou inteligenci a kyberbezpečnost v CISCO Systems, působil jako stratég v týmu Security CTO a byl také strategickým partnerem společnosti Evolution Equity Partners, venture kapitálové firmy zaměřující se na kybernetickou bezpečnost. Založil iniciativu prg.ai, jejímž cílem je proměnit Prahu ve špičkové vědecko-výzkumné centrum umělé inteligence.

Michal Pěchouček je ženatý a má tři děti. Ve volném čase rád chodí po horách a běhá maratony.

Já vždy chápal umělou inteligenci jako spíše kolaborativní entitu, ale to, co popisujete, asi není úplné sci-fi. Vždyť už dnes mají algoritmy na určité úrovni jistou rozhodovací pravomoc…

Není. Hospodaření s energií v běžném životě doznává značných změn, a to jsme teprve na začátku. Bezesporu celý systém bude řídit umělá inteligence, která bude vše optimalizovat, nabíjet auta, kdy je to nejvýhodnější, prodávat energii do sítě, kdy je jí nadbytek… Jak já, jako člověk, zjistím, jestli ten algoritmus neoptimalizuje tak, aby sám pro sebe měl vždy energie dostatek? A nejde jen o jednu domácnost, technicky to bezesporu bude fungovat v nějakých clusterech a vůbec není vyloučeno, že takový algoritmus – protože to více vyhovuje jeho optimalizačním prioritám – nevysaje vedlejší vesnici a nezpůsobí tam blackout. Pokud totiž jakákoliv umělá inteligence bude mít nastaveno, že má běžet v režimu 24/7, je to pro ni ta nejvyšší priorita.

Jak s tím zacházet? Existují modely, jak taková rizika eliminovat? Auto doma je banalita, ale umělá inteligence má uplatnění už dnes v byznysu. To také může zkolabovat výroba nebo nemocnice…

Já věřím, že regulace umělé inteligence dává smysl. Už dnes se o tom v mnoha směrech vedou debaty, zacházení s daty, výpočetní výkon, velkým oříškem je třeba vysvětlitelnost…

Myslíte to, že dává výsledky, kterým člověk nerozumí a nezbývá, než věřit?

Ano, protože ona pracuje jinak než člověk. Proto se dnes chce, aby umělá inteligence dokázala výsledky, které dává, také vysvětlit. Regulace na vysvětlitelnost je třeba velké téma ve zdravotnictví. Takže já si umím představit, že se bude nějak regulovat způsob řízení umělé inteligence. V určitých okamžicích prostě člověk nesmí dát ruku z volantu. V některých momentech to totiž asi bude vadit. Typicky, v autě jsme dnes schopni svěřit umělé inteligenci takřka vše, v medicíně to tak asi nebude. A přitom právě v medicíně může umělá inteligence dosahovat třeba v diagnostice významně lepších, rychlejších a přesnějších výsledků než člověk. Ale i současná situace naznačuje možná rizika. Zbavit lidstvo určité, například infekční nemoci, vlastně představuje dva základní problémy, každý z nich má své paradigma. Jestliže umělá inteligence bude mít jako cílový úkol vyřešit tu situaci co nejrychleji a nejlevněji, tudíž optimálně, může to také v jejím pojetí znamenat nechat podlehnout té nemoci co nejrychleji co nejvíce lidí a zajistit tak co nejrychleji potřebnou kolektivní imunitu. Navíc existuje teoretická možnost, že dokáže spočítat, že tímto způsobem bude v součtu i méně obětí. Asi to není cesta, kterou bychom chtěli jít. Tohle jsou rozhodnutí, která náležejí člověku.

Takový rozhodovací mechanismus ale také lze naprogramovat do algoritmů…

Lze, ale pouze teoreticky. Problém totiž není v programování, je v lidské společnosti. Tyto problémy jsou totiž předmětem nekonečných debat, kdy proti sobě stojí dva soubory hodnot, vzájemně neslučitelné. Lidstvo to řeší demokratickými volbami. Svěřit to umělé inteligenci by tak de facto znamenalo konec demokracie. Volební systémy jsou všechny špatné, všechny obsahují řadu nesmyslných parametrů a vždy někdo na něco doplácí. Není problém chtít po umělé inteligenci volební mechanismus dokonale optimalizovat. Ale je představitelné, že by vyhodnotila volby jako neefektivní a zbytečné. Klidně by mohla přijít s řešením, že bude číst moji energii ze sociálních sítí a podle toho rozhodne. Umím si představit, že s tímto přístupem, pod záminkou zefektivnění voleb, o volby vlastně přijdeme.

Máme morální vyspělost s umělou inteligencí vůbec bezpečně zacházet?

Možná by se chtělo říct, že ne, ale na pozadí debat, které probíhají třeba na úrovni vedení Evropské unie, jsem přesvědčen, že máme, že jsme schopni chránit svoje principiální hodnoty. Nejsem o tom přesvědčen například ve Spojených státech, kde vládne tradičně byznysový liberalismus, díky čemuž rizika existují v mnohem větší míře. Dva roky trvalo, než Facebook začal mazat absolutní nesmysly. Jak je to vůbec možné?

A nemá otázka znít jinak? Jak je možné, že vůbec někdo něco maže? Jak je možné, že se někdo nebo něco rozhodne, že jsem napsal nesmysl a smaže ho? Pod pláštěm korektnosti snímáme z lidí individuální odpovědnost a rozhodujeme za ně. Není už to první krok do tmy?

To souvisí s určitou sofistikovaností a intelektuální vyspělostí společnosti. Čím výše jsme, tím více jsme ochotni přemýšlet, vyhledávat zdroje, ověřovat si informace. Problém je, že my jako celek na té úrovni nejsme. Co je mi platné, když já vím, že informace o tom, že pití vitriolu ničí koronavirus, je fake? Moji svobodu ohrožuje i to, že nezanedbatelné procento lidí věří zjevným nepravdám. To je skutečný problém.

Není to celé jeden z důsledků krize hodnot a chování elit?

Je to selhání elit, ale není to argument, který by to ospravedlnil. K takovým výkyvům docházelo i dříve, ale myslím, že nikdy v tomto měřítku. I proto je otázka regulace umělé inteligence zásadní.

S umělou inteligencí souvisí i celá široká oblast kyberbezpečnosti, které se také věnujete. Co vidíte jako největší problém?

Nedostatek odborníků. Vývoj je tak rychlý a těch útočníků a aktérů s negativními zájmy je tolik, že vyrábět, vzdělávat, vychovávat a motivovat špičkové odborníky v dostatečném množství, je ohromný problém. V jiných oblastech rostoucí poptávka zvedá zájem, tady to neplatí.

Před časem jste řekl, že umělá inteligence zlevnila a zpřístupnila škodlivé nástroje. Nešlo tomu zabránit?

Kriminální svět je intelektuálně flexibilnější. Útočníci prostě dokázali využít nebo použít umělou inteligenci lépe a rychleji než obránci. Ti trpěli tradiční skepsí, že co vymyslí člověk, je lepší než to, co vymyslí umělá inteligence a trvale odmítali brát v potaz výsledky strojového učení. Zatímco útočníci na to vsadili. Dnes se umělá inteligence začíná využívat i pro obranu.

Dá se vyjádřit míra rizika? Všude nastupují technologie… Riziko stoupá nebo ho umíme eliminovat?

Stoupá.

A je odpovědné, svěřovat takový prostor technologiím, když jejich zranitelnost roste? Vezměme třeba právě zdravotnictví a e-health…

Dvě odpovědi. Mám otce dlouhá léta vážného diabetika, a díky technologiím si zachoval kvalitu života. Dříve si odebíral krev do zkumavky a píchal si inzulín, dnes má všechno začipované. Zastal bych se jednoznačně inovací a technologií. Druhý argument je, že umělá inteligence právě v medicíně odbourá tu drahou lidskou práci, často navíc zbytečnou. Nebude potřeba se vás dvacetkrát za život ptát, jaké nemoci prodělala maminka a jakou jste měl před týdnem teplotu. Bude existovat váš behaviorální model a tam bude vše. Ten bude možno porovnávat se statisíci a miliony jiných modelů a medicína dostane úplně jiný rozměr. A přitom to bude mnohem levnější, protože odpadne značná část nákladů.

Bude to levnější, přestože ty technologie jsou a budou nesmírně drahé?

Jsou drahé, ale jsou levnější než to, co nahrazují. Proto jsou tak úspěšné. To je základní finta.

A ta bezpečnost?

Té se musíme učit. Příkladem je práce z domova. Pandemie ji přinesla v mnohem větší míře a dramaticky vzrostl počet kybernetických útoků. Ale to přece není důvod pro to, abychom práci z domova odmítli, vždyť do jisté míry za současné situace drží civilizaci funkční. Jen se musíme naučit jinak chovat.

A je reálné, že zabezpečení koncových uživatelů bude na úrovni toho byznysového?

Největší ohrožení je člověk. Doma si chce užít svou svobodu, dělá riskantnější, toxičtější věci. Třeba i gambluje, chodí na pornostránky, kupuje věci na divných serverech v Číně… Jeho ochrana je komplikovanější. Naučit umělou inteligenci detekovat phishingové útoky, je poměrně těžká disciplína. Mnohem efektivnější je vzdělání. Účinnou cestou ke snížení kybernetických rizik je prostě výchova a vzdělání, aby měl člověk správné návyky. 

Česko má ambiciózní plán The Country for the Future. Jak jsme na tom s reálnými možnostmi v oblasti umělé inteligence a kyberbezpečnosti? Máme na to hrát významnější roli?

Žádné zásadní informace a data k tomu vládnímu programu nemám, proto bych se k němu vyjadřovat nechtěl. Pokud jde o to, v čem můžeme hrát první housle, umělá inteligence to nebude, tam to budou USA, Čína…  To ale neznamená, že bychom na tuto oblast měli rezignovat. Určitě potřebujeme držet směr, rozvíjet kompetence. Navíc je tu poměrně široká oblast, kde na špici být můžeme, organická biochemie třeba, farmacie, nanotechnologie. A kybernetická bezpečnost. Osobně si myslím, že příležitostí je i mobilita, jsme automobilová země a měli bychom být schopni vymyslet nové věci.

Co chybí k tomu, aby se z Můžeme a Mělibychombýtschopni  stalo Jsme?

Úplně jiné podnikatelské prostředí, takové, kde lze realizovat úspěch. Prostředí, kde akademický sektor, veřejný sektor a byznysová sféra dokáží sofistikovaně komunikovat. To se padesát let daří v USA, kde vláda technologie a inovace cíleně podporuje, kde jsou skvělé vysoké školy a výkonná ekonomika. Tam mohou existovat taková spojenectví, jako s agenturou DARPA, která pro tamní Ministerstvo obrany zastřešuje vývoj nových vojenských technologií. Řada vynálezů, včetně internetu a autonomního automobilu, se zrodila právě v tomto prostředí. Nutnou podmínkou je kapitál, který je někdo ochoten investovat s rizikem, že z deseti projektů vyjde jeden. A konečně je to prostředí společenské. V České republice se neodpouští úspěch, ani neúspěch. Když jste úspěšný, tak jste něco ukradl nebo někoho uplatil, když jste neúspěšný, tak jste blb a matlal. Pokud nezměníme svůj pohled na úspěch a neúspěch, mnoho se toho nezmění…

Články autora Petr Karban

Nejnovější články

Expertní pohled
Bude povolování staveb rychlejší, jednodušší a srozumitelnější?

Tento údaj vychází z referenčního projektu logistické haly, který...

Povolení na umístění a základní parametry stavby budou jednodušší. Všechna...

Od 1. července 2024 přechází ČR z místní na centrální celostátní podatelnu....

Zrychlí se tedy proces povolování staveb? Ano. Bude...

Aktuality
Vláda musí prevenci věnovat větší pozornost

Co vás vedlo k tomu, že jste se rozhodla...

Co je třeba změnit? Zaměstnavatelé by měli dobré...

Bude tedy součástí dialogu se státní správou i toto...

Máte v plánu i nové projekty? Především se domnívám, že...

Trendy
Vznikla CNAIP – Česká národní AI platforma

Většina zakládajících členů CNAIP se intenzivně věnuje rozvoji ekosystému umělé...

Česká národní AI platforma chce také šířit ve...

Více než polovina firem v Česku zatím umělou inteligenci...

Nejnovější Nezařazené

Nezařazené
Využití umělé inteligence ve vaší firmě

Dnes se podíváme na to, jak můžete ve...

Možnosti využití generativní AI ve firmách jsou široké,...

Psaní newsletterů: Automatizace tvorby obsahu pro pravidelné zpravodaje...

Je důležité si uvědomit, že generativní AI má...

Na trhu je několik nástrojů generativní AI, které...

Copilot od Microsoftu je nástroj navržený jako pomocník...

Gemini od Google je nástroj, který kombinuje textovou...

Generativní AI vám šetří čas a zvyšuje produktivitu....

Nezařazené
Hospodářská komora upozorňuje na změny v dohodách o provedení práce

Už od července ale budou muset zaměstnavatelé u...

Od takových pracovněprávních vztahů mohou navíc začít firmy...

Nezařazené
Proč ECB nebude spěchat se sazbami dolů?

Popravdě řečeno, pro trhy nejde o žádné překvapení....

Takto přísná měnová politika ale není bez rizika....