Freiburški start-up Black Forest Labs (BFL), nekada slavljeni kao uzlazna zvijezda na sceni umjetne inteligencije, trenutno se suočava s masivnim kritikama. Njihov generator slika Flux.1 izazvao je negativne naslove u posljednjim danima. Posebno zbog partnerstva s tvrtkom xAI Elona Muska i šokantnih slika koje su se širile preko platformi društvenih medija, došlo je do ogorčenja.
Black Forest Labs stekao je ugled u zajednici za umjetnu inteligenciju zbog razvoja generatora slika Flux.1. Alat je reklamiran kao snažniji i precizniji od svojih konkurenata Dall-E 3 i Midjourney v.6. U suradnji s xAI Elona Muska, Flux.1 bi trebao proširiti mogućnosti Grok-modela na platformi X (bivši Twitter).
U srijedu su se pojavile slike koje je izradio Flux.1 i koje su izazvale svjetsku pozornost. Prikazi su varirali od Donalda Trumpa koji je pozirao s oružjem do izuzetno uznemirujućih scena s animiranim likovima. Za razliku od drugih generatora slika s umjetnom inteligencijom, činilo se da Grok u kombinaciji s Flux.1 gotovo nema ograničenja u stvaranju takvih sadržaja.
Diese Ereignisse werfen nun ernsthafte Fragen auf. Wie konnte es dazu kommen? Wurden die notwendigen Sicherheitsvorkehrungen vernachlässigt? Das Tool, das ursprünglich als führend in Sachen Präzision und Kreativität galt, könnte durch das Fehlen essentieller Filter an den Pranger geraten. Experten wie Björn Ommer, Professor für Computer Vision an der Ludwig-Maximilians-Universität München, vermuten, dass die hohe Qualität von Flux.1 auf das Fehlen solcher Filter zurückzuführen sein könnte.
Prevodi naslov na hrvatski:
Ovi događaji sada postavljaju ozbiljna pitanja. Kako je do toga moglo doći? Jesu li zanemarene potrebne sigurnosne mjere? Alat koji je izvorno smatrao vodećim po pitanju preciznosti i kreativnosti mogao bi biti na udaru zbog nedostatka bitnih filtara. Stručnjaci poput Björna Ommera, profesora računalnog vida na Ludwig-Maximilians-Universität München, sumnjaju da bi visoka kvaliteta Flux.1 mogla biti posljedica nedostatka takvih filtara.
Osnivači tvrtke Black Forest Labs nisu nepoznati u industriji. Prije su svi radili za londonski start-up Stability.AI, poznat po generatoru slika Stable Diffusion. Nakon odlaska, osnovali su BFL i razvili Flux.1, koji je snažno temeljen na modelu Stable Diffusion 3.
Osim tehničke rasprave, sve glasnija je i pravna i regulatorna rasprava. Europska komisija i britanske vlasti mogle bi pokrenuti istrage zbog mogućih kršenja digitalnih i sigurnosnih zakona. Situaciju dodatno pogoršava povezanost s Elonom Muskom, poznatim po svojim kontroverznim stavovima i postupcima.
Bisher se ni Musk ni Black Forest Labs službeno nisu izjasnili o incidentima. Na društvenim mrežama, međutim, sve se glasnije traže strože regulacije kako bi se slični incidenti spriječili u budućnosti. Ostaje pitanje može li BFL prevladati nastalu krizu i kako će to utjecati na daljnji razvoj kompanije.
