Vliv umělé inteligence na lidstvo neustále roste. Dokazuje to i první papežský list vydaný v pondělí ve Vatikánu Lvem XIV. Nabízí také způsob, jak proti negativním vlivům umělé inteligence bojovat. Inspiroval se přitom u jednoho z nejúspěšnějších spisovatelů fantasy literatury J. R. R. Smysl dopisu prozrazuje jeho celý název: Encyklika Magnifica Humanitas jeho svatosti papeže Lva XIV. o ochraně člověka v době umělé inteligence.
„Lidstvo, stvořené Bohem ve vší své velkoleposti, stojí dnes před zásadní volbou: buď vystavět novou babylonskou věž, nebo vybudovat město, v němž Bůh a lidé přebývají společně. Každá generace přebírá úkol utvářet svou vlastní epochu, usměrňovat dějiny tak, aby se staly prostorem, kde je chráněna důstojnost každého člověka, prosazována spravedlnost a kde je umožněno bratrství. Umělá inteligence z jeho pohledu hraje zásadní celospolečenskou roli a posiluje nerovnováhu v rozložení sil.
Encyklika upozorňuje na nebezpečné soustředění digitální infrastruktury, dat a výpočetní síly do rukou několika velkých firem. „Nestačí budování morálnější umělé inteligence, pokud o moralitě rozhoduje malá skupina. Umělá inteligence není podle papeže rovnocenná lidskému intelektu, a proto nesmí nahrazovat lidský úsudek tam, kde se rozhoduje o člověku. AI zároveň nesmí být jen nástrojem, který zlevní výrobu a vytlačí lidi z pracovního trhu.
Poslední, pátá kapitola je nejostřejší politickou částí encykliky. Papež v ní píše o „kultuře moci“, která normalizuje válku a zbrojení. Lev XIV. varuje, že technologie může snížit práh pro použití síly, učinit válku neosobnější a proměnit oběti v data. V závěru pak Svatý stolec doporučuje pět obecných nástrojů, které mohou přinést lepší budoucnost: odzbrojení slov, budování spravedlivého míru, přejímání perspektivy obětí, kultivace zdravého realismu místo cynismu, oživení dialogu a podpora multilateralismu.
Hlavní témata encykliky
- Ochrana důstojnosti člověka: AI nesmí nahrazovat lidský úsudek a musí sloužit pro dobro všech.
- Centralita morálky: rozhodovací procesy o lidech vyžadují lidské a morální rámce, nikoli jen algoritmy.
- Rovnováha moci: obezřetnost vůči koncentraci digitálních zdrojů do rukou několika subjektů.
- Ekonomické dopady: zabránění umlčení lidí z pracovního trhu a znehodnocení práce v důsledku levných technologií.
- Politické implikace: kultura moci, normalizace války a snížení humanity prostřednictvím technologií.
- Nástroje pro lepší budoucnost: odzbrojení slov, spravedlivý mír, empatie vůči obětem, zdravý realism a multilateralismus.
Praktické doporučené postupy
Papež navrhuje pět obecně platných nástrojů pro pozitivní změnu: odzbrojení slov, budování spravedlivého míru, přejímání perspektivy obětí, kultivace zdravého realismu a podpora dialogu. Tyto kroky mají vést ke snížení rizik spojených s umělou inteligencí i ke zlepšení mezinárodních vztahů. Zdůrazněna je potřeba multilateralismu a mezinárodní spolupráce při řízení technologií, které mohou ovlivnit celou lidskou společnost.
Encyklika rovněž upozorňuje na nebezpečí zneužití digitální infrastruktury jednou či několika velkými aktéry a vyzývá k transparentnosti, odpovědnosti a zapojení širší veřejnosti do rozhodovacích procesů týkajících se AI. Závěrečná kapitola tak vyznívá jako politický apel na kultivaci etiky v technologickém věku a na aktivní zapojení lidí do utváření společného dobra.
V kontextu dnešních debat o AI encyklika představuje snahu o sjednocení teologických principů s pragmatickými politickými návrhy. Upozorňuje na to, že pokrok musí být vyvážený lidskými hodnotami a potřebou chránit jednotlivce před dehumanizací či diskriminací způsobenou technologií.
Povedou roboti budoucí války? Diskuze o etice autonomních zbraní | David Černý (Zelený drát)
Stručný obsah a koncepce
Hlavní sdělení encykliky je chránit člověka v éře umělé inteligence a zabránit vzniku nerovnováhy, kterou mohou vytvářet soustředěné technologické infrastruktury a ekonomické síly. Zároveň zdůrazňuje potřebu morálních rámců, které umožní AI sloužit lidstvu a ne naopak. Pět nástrojů v závěru má sloužit jako praktický návod pro státy, firmy a občany, jak postupovat v eticky citlivé oblasti technologií.
| Hlavní témata | Rysy a doporučení |
|---|---|
| Důstojnost člověka | Nesmí být ohrožena rozhodnutími bez lidského úsudku |
| Spravedlivý mír | Odzbrojení slov a dialog pro řešení konfliktů |
| Vliv AI na práci | Prevence vytlačování lidí z trhu práce |
| Kultura moci | Vyvarovat se normalizaci války a zneužití technologií |