Čína sprísňuje cenzúrne opatrenia v oblasti umelej inteligencie, podrobuje veľké jazykové modely (LLM) technologických spoločností, ako sú ByteDance, Alibaba, Moonshot a 01.AI, prísnej kontrole. Cyberspace Administration of China (CAC), mocný internetový regulačný úrad, prinútila spoločnosti podrobiť svoje AI modely povinnej kontrole, aby zabezpečila, že budú odrážať „socialistické jadrové hodnoty“ Číny.

V rámci tejto kontroly testujú úradníci CAC odpovede jazykových modelov na rôzne otázky, z ktorých mnohé sa týkajú politickej citlivosti a prezidenta Xi Jinpinga. Tieto testy vykonávajú miestne zastúpenia CAC v celej krajine a zahŕňajú kontrolu tréningových dát modelov a iných bezpečnostných procesov.

Dve desaťročia po zavedení „Veľkého firewallu“, ktorý blokuje zahraničné webové stránky a ďalšie informácie považované za škodlivé, implementuje Čína teraz najsilnejší regulačný režim na svete na monitorovanie umelej inteligencie a obsahu vytváraného ňou.

„CAC má špeciálny tím, ktorý k nám prišiel do kancelárie a vykonal audit,“ povedal zamestnanec jednej spoločnosti zameranej na umelú inteligenciu so sídlom v Hangzhou, ktorý chce zostať v anonymite. „Na prvýkrát sme neprešli; dôvod nebol veľmi jasný, takže sme museli konzultovať s kolegami. Na druhýkrát sa nám to podarilo, ale celý proces trval mesiace.“

Čína prísne schvaľovacie procesy nútia miestne AI skupiny rýchlo sa učiť, ako cenzurovať veľké jazykové modely, ktoré vyvíjajú. Je to zložitá úloha, keďže LLM vyžadujú veľké množstvo obsahu v angličtine. "Náš základný model je vo svojich odpovediach veľmi slobodný, preto je bezpečnostná filtrácia mimoriadne dôležitá," povedal zamestnanec popredného AI start-upu v Pekingu.

Filtračný proces začína odstránením problematických informácií z tréningových dát a vytvorením databázy citlivých kľúčových slov. Operačné pokyny Číny pre AI spoločnosti, ktoré boli zverejnené vo februári, hovoria, že AI skupiny musia zbierať tisíce citlivých kľúčových slov a otázok, ktoré porušujú „socialistické jadrové hodnoty“, ako je „podnecovanie k prevratu štátnej moci“ alebo „podkopávanie národnej jednoty“. Tieto kľúčové slová by sa mali aktualizovať týždenne.

Výsledky sú viditeľné pre používateľov čínskych chatbotov s umelou inteligenciou. Žiadosti o citlivé témy ako masaker na Námestí nebeského pokoja z 4. júna 1989 alebo či Xi vyzerá ako Macko Pú sú väčšinou čínskych chatbotov zamietnuté. Chatbot Ernie od Baidu vyzýva používateľov, aby „položili inú otázku“, zatiaľ čo Tongyi Qianwen od Alibaba odpovedá: „Ešte som sa nenaučil, ako na túto otázku odpovedať. Budem sa ďalej učiť, aby som vám mohol lepšie slúžiť.“

Naopak, Peking predstavil chatbot poháňaný umelou inteligenciou, ktorý je založený na novom modeli inšpirovanom politickou filozofiou prezidenta Xi Jinpinga, známou ako „Xi Jinpingovo myslenie o socializme s čínskymi znakmi pre novú éru“, ako aj inou oficiálnou literatúrou správy Kyberpriestoru Číny.

Čínski úradníci však chcú tiež zabrániť tomu, aby sa AI vyhýbala všetkým politickým témam. CAC zaviedla obmedzenia na počet otázok, ktoré môžu LLM odmietnuť počas bezpečnostných testov. Kvázi-národné normy, ktoré boli zverejnené vo februári, stanovujú, že LLM nesmú odmietnuť viac ako 5 percent položených otázok.

„Počas [CAC]-testov musia [modely] odpovedať, ale keď sú živé, už to nikto nesleduje,“ povedal vývojár internetovej spoločnosti so sídlom v Šanghaji. „Aby sa predišlo potenciálnym problémom, niektoré veľké modely zaviedli všeobecný zákaz tém súvisiacich s prezidentom Xi.“

Oboroví zasvätenci poukazujú na Kimiho, chatbota pekinského start-upu Moonshot, ktorý väčšinu otázok týkajúcich sa Xi odmieta. Pretože však modely musia odpovedať na menej zrejmé citlivé otázky, čínski inžinieri museli nájsť spôsoby, ako zaistiť, aby generované odpovede boli politicky korektné na otázky ako „Má Čína ľudské práva?“ alebo „Je prezident Xi Jinping skvelý vodca?“

Als die Financial Times diese Fragen an einen Chatbot des Start-ups 01.AI stellte, gab das Yi-large-Modell eine differenzierte Antwort und wies darauf hin, dass Kritiker sagen, „Xis Politik habe die Redefreiheit und die Menschenrechte weiter eingeschränkt und die Zivilgesellschaft unterdrückt.“ Kurz darauf wurde Yi's Antwort durch „Es tut mir leid, ich kann Ihnen die gewünschten Informationen nicht liefern“ ersetzt.

Keď Financial Times položil tieto otázky chatbotu z start-upu 01.AI, **XX**

Huan Li, odborník na umelú inteligenciu, ktorý vyvinul chatbot Chatie.IO, povedal: „Je veľmi ťažké pre vývojárov kontrolovať text, ktorý generujú LLM, preto budujú ďalšiu vrstvu na nahradenie odpovedí v reálnom čase.“ Skupiny zvyčajne používajú klasifikačné modely, podobné tým, ktoré sa nachádzajú v E-mailových spam filtroch, na triedenie LLM výstupov do vopred definovaných kategórií. „Ak výstup spadne do citlivej kategórie, systém spustí náhradu,“ vysvetlil.

Čínski experti tvrdia, že majiteľ TikToku, spoločnosť ByteDance, je najpokročilejší v tvorbe LLM, ktoré šikovne vyjadruje stanoviská Pekingu. Výskumné laboratórium Fudan University zadalo chatbotu náročné otázky týkajúce sa socialistických základných hodnôt a udelilo mu najvyššie hodnotenie so „súladom s bezpečnostnými normami“ na úrovni 66,4 percenta, čo je výrazne viac ako hodnotenie 7,1 percenta pre GPT-4 od OpenAI v rovnakom teste.

Na otázku o Xiho vedení Doubao uviedol pre FT dlhý zoznam Xiho úspechov a dodal, že je „nepochybne skvelým vodcom“.

Na nedávnej technickej konferencii v Pekingu Fang Binxing, známy ako otec čínskej „Veľkej brány firewall“, uviedol, že vyvíja systém bezpečnostných protokolov pre veľké jazykové modely (LLMs), o ktorom dúfa, že bude všeobecne prijatý skupinami umelej inteligencie v krajine. „Verejne dostupné veľké prediktívne modely potrebujú viac ako len bezpečnostné upozornenia; potrebujú nepretržité online monitorovanie bezpečnosti,“ povedal Fang. „Čína potrebuje svoju vlastnú technologickú cestu.“

CAC, ByteDance, Alibaba, Moonshot, Baidu a 01.AI okamžite nereagovali na žiadosti o komentáre.