Freiburgský startup Black Forest Labs (BFL), kedysi oslavovaný ako vychádzajúca hviezda v scéne umelej inteligencie, čelí v súčasnosti masívnej kritike. Spoločnosť sa v posledných dňoch postarala o negatívne titulky so svojím generátorom obrázkov Flux.1. Predovšetkým partnerstvo s firmou xAI Elona Muska a s tým spojené šokujúce obrázky, ktoré boli šírené cez sociálne platformy, vyvolali pobúrenie.
Schwarzwald Labs si rýchlo získali meno v komunite AI vďaka vývoju generátora obrázkov Flux.1. Tento nástroj bol propagovaný ako výkonnejší a presnejší ako jeho konkurenti Dall-E 3 a Midjourney v.6. V spolupráci s xAI Elona Muska by mal Flux.1 rozšíriť možnosti modelu Grok na platforme X (predtým Twitter).
V stredu však kolovali obrázky, ktoré vytvoril Flux.1 a ktoré vyvolali rozruch po celom svete. Zobrazenia zahŕňali Donalda Trumpa pózujúceho so zbraňami až po extrémne znepokojujúce scény s animovanými postavami. Na rozdiel od iných generátorov obrázkov AI, Grok v kombinácii s Flux.1 sa zdali mať takmer žiadne obmedzenia pri tvorbe takéhoto obsahu.
Tieto udalosti teraz vyvolávajú vážne otázky. Ako k tomu mohlo dôjsť? Boli potrebné bezpečnostné opatrenia zanedbané? Nástroj, ktorý bol pôvodne považovaný za vedúci v presnosti a kreativite, by mohol byť kritizovaný kvôli nedostatku esenciálnych filtrov. Experti ako Björn Ommer, profesor počítačového videnia na Ludwig-Maximilians-Universität v Mníchove, sa domnievajú, že vysoká kvalita Flux.1 môže byť dôsledkom absencie takýchto filtrov.
Zakladatelia Black Forest Labs nie sú v odvetví neznámi. Predtým všetci pracovali pre londýnsky start-up Stability.AI, ktorý je známy vygenerátorom obrázkov Stable Diffusion. Po ich odchode založili BFL a vyvinuli Flux.1, ktorý je silne inšpirovaný modelom Stable Diffusion 3.
Okrem technickej debaty sa teraz zintenzívňuje aj právna a regulačná diskusia. Európska komisia a britské úrady by mohli kvôli možným porušeniam digitálnych a bezpečnostných zákonov začať vyšetrovanie. Situáciu obzvlášť vytvárajúcu napätie spôsobuje spojenie s Elonom Muskom, ktorý je známy svojimi kontroverznými názormi a činmi.
Doteraz sa ani Musk, ani Black Forest Labs oficiálne nevyjadrili k incidentom. Na sociálnych sieťach sa však čoraz hlasnejšie volá po prísnejšej regulácii, aby sa v budúcnosti podobným incidentom predišlo. Zostáva otázkou, či Black Forest Labs dokáže zvládnuť vzniknutú krízu a ako to ovplyvní ďalší vývoj spoločnosti.
