Vývoj open-source umělé inteligence (UI) v posledních měsících výrazně nabral na dynamice. Ve světě, kde společnosti jako OpenAI a Google investují miliardy do stále výkonnějších systémů UI, dosáhly otevřené modely pozoruhodného pokroku. Přesto se navzdory zdánlivému úspěchu ukazuje zásadní slabina: Mnoho těchto takzvaných open-source systémů je ve skutečnosti pouze částečně otevřených.

Významným příkladem je Llama od Meta. I když jsou „Weights“ zveřejněny, které určují, jak model reaguje na žádosti, základní tréninková data zůstávají skryta. To umožňuje vývojářům model přizpůsobit, ale chybí transparentnost k tomu, aby bylo možné model vytvořit od začátku.

Hier ist die Übersetzung des Titels ins Tschechische:

"Pro vývojáře má tato omezená otevřenost přesto své výhody. Mohou přizpůsobit kvazi-otevřené modely a trénovat je na vlastních datech, aniž by museli třetím stranám sdělovat citlivé informace. Tato omezení však mají svou cenu. Ayah Bdeir, hlavní poradkyně nadace Mozilla, zdůrazňuje, že pouze skutečně otevřené technologie umožňují komplexní porozumění systémům, které stále více ovlivňují všechny oblasti našeho života. Kromě toho mohou pouze skutečně otevřené systémy zajistit, že inovace a konkurence nebudou uduseny několika málo dominantními společnostmi zabývajícími se KI.

V reakci na to představila Open Source Initiative, která před více než dvaceti lety stanovila definici pro open-source software, téměř finální definici pro open-source umělou inteligenci. Tato definice požaduje nejen zveřejnění „vah“, ale také dostatečné informace o tréninkových datech a základním kódu, aby bylo možné model reprodukovat.

Tento trend již vede k větší segmentaci ve světě umělé inteligence. Mnoho společností přistupuje ke své terminologii opatrněji, aby se vyhnuly právním sporům. Například Mistral označuje svůj model Nemo jako „Open Weights“ a vědomě se vyhýbá pojmu „Open Source“.

Zatímco se částečně otevřené systémy prosazují, vznikají také zcela otevřené modely, jako je Olmo-jazykový model Allen Institute for AI. Zda však budou mít skutečně stejný vliv na svět AI, jako má open-source software na technologický průmysl, zůstává otázkou.

K prolomení bariér pro otevřené modely umělé inteligence by byly potřeba dvě věci.

Zadruhé by zastánci otevřené AI museli předložit přesvědčivější argumenty pro její bezpečnost. Perspektiva zpřístupnění tak mocné, obecné technologie pro každého vyvolává oprávněné obavy. Oren Etzioni, bývalý šéf Allen Institute, však považuje mnoho z těchto obav za přehnané. Tvrdí, že informace zpřístupňované modely AI nejsou podstatně odlišné od toho, co je již dostupné přes Google.

Dokud nebudou potenciální rizika a přínosy otevřeného poskytování technologie umělé inteligence důkladněji prozkoumány, obavy zůstanou.