Autor je odborník na umělou inteligenci s víc než 20 lety zkušeností, a to jak v akademickém, tak v komerčním sektoru. Obor AI vystudoval, včetně Ph.D., na Západočeské univerzitě v Plzni. Později vedl AI centrum O2, kde pracoval sedm let jako ředitel a chief data scientist. Nyní působí jako nezávislý AI konzultant a spoluzakladatel AI startupu Elin.ai.Reaktor, ne bombu.
Pařížský summit o AI a jeho hodnocení
Pařížský summit o AI je promarněnou příležitostí. Skončený summit o umělé inteligenci v Paříži byl vítězstvím estetiky nad obsahem, plamenných proslovů nad skutečnou akcí a francouzských národních zájmů nad možností zprostředkovat strategické partnerství mezi EU a USA.
Albánská kvazi-ministryně není agent, tím je v tomto případě člověk. Soubor algoritmů nazvaný Diella bude dohlížet na veřejné zakázky. „Může být poctivější než člověk na jejím místě. Cílem každého člověka je maximalizovat dopamin v mozku, zjednodušeně řečeno. To spojuje zlé lidi a psychopaty i altruisty a filantropy. My, co navrhujeme AI, nyní musíme vymyslet, co bude tím dopaminem pro ni. A zároveň zajistit, aby se nestala psychopatickou,“ vysvětluje Romportl.
Rozsah současných problémů a potřeby agenta
Excesy umělé inteligence se zatím daří eliminovat a korigovat zejména proto, že její inteligence je stále nižší než lidská a je také výrazně méně schopná dosahovat cílů. „Během několika jednotek let ale můžeme o tuto výhodu přijít. Kompetenční složka inteligence roste exponenciálně a to trochu nestíhá naše schopnost ji řídit. Je to jako bychom vytvářeli auto se stále silnějším motorem, ale neřešili brzdy,“ připodobňuje.
Potřebujeme agenty. V současnosti už dochází k tomu, že se umělá inteligence učí z toho, co předtím sama vytvořila. „Když modely trénujeme na vygenerovaných obrázcích, dochází k degeneraci. Je to taková incestní strategie. Ale říká se, že nám už na světě došly texty, na kterých bychom mohli předtrénovávat velké jazykové modely,“ vysvětluje Romportl.
„Zároveň to ale nepovažuje za problém - nepotřebujeme nové texty, ale přetvořit stávající jazykové modely v agenty, tedy modely, které mají svůj daný cíl.“ Albánská kvazi-ministryně není agent, tím je v tomto případě člověk. Potřebujeme ty systémy nechat něco dělat a dávat jim zpětnou vazbu. Spousta startupů dnes chrlí množství velmi nedokonalých agentů - někdy je to až úsměvné, jak špatně fungují. Ale je to právě to semínko. Jakmile se uchytí, začne úspěšně a užitečně plnit úkoly,“ věří expert.
Co stroj nenahradí a kde je lidský přínos
Příkladem takové činnosti může být programování. Právě programátoři podle Romportla nástup umělé inteligence v současnosti nejvíce schytávají. Zatímco na počátku roku byla AI stejně výkonná, dnes za 30 minut zvládne tolik, co programátor za 2 až 3 hodiny. A je pravděpodobné, že do konce roku to bude ekvivalent pracovního dne. To vše za zlomek nákladů.
„Musíme si položit otázku, v čem bude člověk lepší za situace, kdy ho stroj předčí v manuální i kognitivní práci. Za mě je odpověď v tom, že je lepším v tom, že je člověkem. Když to řeknu na placato: jsme hypersociální opice. Bytostně potřebujeme, aby kolem nás byli jiní lidé. Takže každý by se měl ve svých činnostech zaměřit na to, co je lidský aspekt. To stroj nikdy nedokáže nabídnout,“ věří filozof.
Regulace, konkurenceschopnost a budoucnost Evropy
Přijde Evropa vedle regulace i s vlastní konkurenceschopnou AI? Z důvodů dovolených nevyjde text aktuálních přímluv na 21. 20. 19. neděle v mezidobí, cyklus A / 9. 8. 18. neděle v mezidobí, cyklus A / … (širší kontext)
Celá problematika by si zasloužila daleko lepší financování. Excesy umělé inteligence se zatím daří eliminovat a korigovat zejména proto, že její inteligence je stále nižší než lidská a je také výrazně méně schopná dosahovat cílů. Pokračující vývoj vyžaduje jasný rámec, ve kterém budou moci firmy i výzkumníci bezpečně experimentovat s agenty a jejich cíli.
Etická a společenská dimenze AI
„Cílem každého člověka je maximalizovat dopamin v mozku, zjednodušeně řečeno. To spojuje zlé lidi a psychopaty i altruisty a filantropy.“ Romportl upozorňuje na potřebu nastavovat dopamineři pro AI tak, aby se nestala psychopatickou. Zároveň zdůrazňuje, že lidé musí tvořit rámce pro komunikaci, zpětnou vazbu a etické limity pro agenty.
„Místní církev se v ní totiž modlí za sebe jen potud, pokud starosti světa a obecné církve jsou také jejími starostmi.“ Podobně by mělo být i v AI: intence by měly být obecné a korespondovat s širším cílem společnosti, nikoli jen lokálními aktuálními prosbami. Přitom může obsah jednotlivých intencí odrážet i význam konkrétního svátku či události, ale neměl by to být moralizující dodatek.
Celkový obraz a praktické implikace pro budoucnost
V novém díle Czechitas podcastu se objevují otázky: „Je hype kolem generativní AI medvědí služba nebo otevření dveří k novým příležitostem? Má smysl se ještě učit programovat? Proč bychom neměli zapomínat na cizí jazyky? A jak do toho zapadají ženy? Jaké jsou jejich superschopnosti?“ Odpovědi nabízejí Honza Romportl a jeho otevřený pohled, který jde daleko za běžné diskuse o AI.
„Inspiruj se otevřenou debatou, která jde daleko za hranice běžných diskuzí o AI.Podcast si můžeš poslechnout taky na Soundcloud nebo na Spotify.“
V závěru lze konstatovat, že rozvoj AI vyžaduje jasné vize, proč a jak by měly agenty fungovat, a současně důraz na lidské kvality, sociální kontakt a odpovědnost při implementaci nových technologií. Lidé by měli zůstat drivem inovací a zároveň hlídacími psy etických a společenských dopadů.
