Před dvěma lety způsobila MSG Entertainment – provozovatel míst jako legendární Madison Square Garden – rozruch použitím umělé inteligence. Propracovaný systém rozpoznávání obličejů byl použit k tomu, aby zamezil vstup advokátům zastupujícím advokátní kanceláře, které vedly soudní spory proti společnosti. Následek? Advokáti neměli povolen vstup na show ani sportovní akce, což rychle vedlo k civilnímu sporu. Advokáti žalovali – samozřejmě. A zatímco někteří diváci této taškařici s úsměvem přikyvovali, jeden z generálních ředitelů suše poznamenal: „Dobře tak.“
Doch co na první pohled vypadá jako drobnost, otevírá dveře jedné z ústředních debat naší doby: Jak ovlivňuje umělá inteligence jemnou rovnováhu mezi individuální svobodou, společenským pokrokem a ekonomickými zájmy? A jsme vlastně ještě aktéry tohoto vývoje – nebo už dávno jen statisty?
Svoboda nebýt svobodný
Reid Hoffman, technologický investor a spoluzakladatel LinkedIn, se těmito otázkami nedávno zabýval ve svém projevu v Londýně. Přitom se odkázal na slavné koncepty filozofa Isaiaha Berlina: „negativní svobodu“ (svobodu od vnějších omezení) a „pozitivní svobodu“ (schopnost jednat autonomně). Obě, jak říká Berlin, jsou často v konfliktu. Demokracie se snaží nalézt kompromisní cestu – s proměnlivým úspěchem.
Hoffman varuje: Zatímco dřívější technologie byly především nástroji, je KI něčím zásadně novým. Rozhoduje, tvoří a hodnotí samostatně – a tím nám může jak dát, tak vzít svobodu. Ve své knize Nexus nazývá Yuval Noah Harari KI dokonce „mimozemskou inteligencí“, která, na rozdíl od atomové bomby, může jednat autonomně. Harari líčí pochmurné scénáře: drony, které samy rozhodují, koho napadnout. Algoritmy, které zabetonovávají sociální nespravedlnost. Neviditelný klecový svět.
Doch Hoffman widerspricht. KI, so seine These, könne nicht nur ein Bedrohungsszenario sein. Sie könnte auch zur ultimativen „Superagentin“ des Menschen werden – wenn wir sie richtig einsetzen.
Super síly pro každodenní život
Představte si, že by umělá inteligence byla vaším osobním asistentem: Pomáhá vám porozumět složitým smlouvám, učí vaše děti matematiku nebo vás činí kompetentnějším pracovníkem. Díky systémům jako ChatGPT by lidé, podle Hoffmana, mohli objevovat své individuální „super schopnosti“ – tvořivost, inovaci a sebeurčení.
Tato pozitivní svoboda, jak ji nazývá Hoffman, umožňuje každému v decentralizované a flexibilní společnosti vytěžit ze sebe to nejlepší. „Nástroje jako ChatGPT jsou jako GPS pro informace,“ vysvětluje. Žádné nucení, ale podpora.
Doch dieser optimistische Blick übersieht eine entscheidende Frage: Kdo rozhoduje, jak budou tyto technologie navrženy? A jak zabráníme tomu, aby se svoboda změnila v kontrolu?
Čína: Temná strana „superagentury“
Kdo chce vidět, jak by to nemělo fungovat, dívá se na Čínu. Tam vláda využívá AI k dohledu nad občany a upevnění autoritářského režimu. Rozpoznávání obličeje a Big Data vytvářejí svět, který experti nazývají „neviditelnou klecí“. Co je pro Hoffmana pozitivní svobodou, se zde stává rétorickým obalem: Kolektivní prospěch slouží pouze malé elitě.
Zpráva Nadace pro informační technologie a inovace varuje, že Čína by mohla brzy předběhnout USA ve vývoji AI – pokud se tak již nestalo. Co potom? Jak demokratické společnosti brání své hodnoty, když autoritářské systémy využívají AI k potlačování svobody?
Neviditelná válka
Debata o AI je více než technická filozofie. Je to boj o hodnoty a moc. Otázka není, zda AI určí naši budoucnost – ale jak. Zůstaneme tvůrci, nebo jen pozorovateli?
Zatímco se demokracie těžce prosazují prostřednictvím kompromisů, Čína dokazuje, jak rychle lze zneužít AI. Ale Hoffmansův optimismus ukazuje: Existuje alternativa. Pokud využijeme AI k posílení lidí a zároveň nastavíme jasná pravidla, může se skutečně stát „superagentkou“ – nástrojem, který podporuje naše individuální svobody a zároveň nás spojuje.
Am Ende ist KI weder Freund noch Feind. Sie ist ein zrcadlo našich rozhodnutí. A otázka zůstává: Co uvidíme?
