Det Freiburg-baserede start-up Black Forest Labs (BFL), engang hyldet som en lovende stjerne inden for AI-scenen, står i øjeblikket over for massiv kritik. Med sin billedgenerator Flux.1 har virksomheden skabt negativ omtale i de seneste dage. Især partnerskabet med Elon Musks AI-firma xAI og de chokerende billeder, der er blevet spredt via sociale medieplatforme, har skabt forargelse.
Sorte Skov Laboratorier havde hurtigt gjort sig bemærket i KI-fællesskabet med udviklingen af billedgeneratoren Flux.1. Værktøjet blev promoveret som mere kraftfuldt og præcist end sine konkurrenter Dall-E 3 og Midjourney v.6. I samarbejde med Elon Musks xAI skulle Flux.1 udvide mulighederne for Grok-modellen på platformen X (tidligere Twitter).
Den onsdag cirkulerede der dog billeder, som blev lavet af Flux.1 og vakte opsigt verden over. Fremstillingerne strakte sig fra en Donald Trump, der poserer med våben, til ekstremt foruroligende scener med animerede figurer. I modsætning til andre KI-billedgeneratorer så Grok i kombination med Flux.1 ud til at have få begrænsninger i fremstillingen af sådant indhold.
Diese Ereignisse werfen nun ernsthafte Fragen auf. Wie konnte es dazu kommen? Wurden die notwendigen Sicherheitsvorkehrungen vernachlässigt? Das Tool, das ursprünglich als führend in Sachen Präzision und Kreativität galt, könnte durch das Fehlen essentieller Filter an den Pranger geraten. Experten wie Björn Ommer, Professor für Computer Vision an der Ludwig-Maximilians-Universität München, vermuten, dass die hohe Qualität von Flux.1 auf das Fehlen solcher Filter zurückzuführen sein könnte.
Disse hændelser rejser nu alvorlige spørgsmål. Hvordan kunne det ske? Blev de nødvendige sikkerhedsforanstaltninger forsømt? Værktøjet, der oprindeligt blev anset for at være førende inden for præcision og kreativitet, kunne blive udsat for kritik på grund af manglen på essentielle filtre. Eksperter som Björn Ommer, professor i computer vision ved Ludwig-Maximilians-Universität München, formoder, at Flux.1's høje kvalitet kan skyldes fraværet af sådanne filtre.
De grundlæggere af Black Forest Labs er ikke ukendte i branchen. Tidligere arbejdede de alle for det London-baserede startup Stability.AI, som er kendt for billedgeneratoren Stable Diffusion. Efter deres udtræden grundlagde de BFL og udviklede Flux.1, som er stærkt inspireret af modellen Stable Diffusion 3.
Ud over den tekniske debat bliver nu også den juridiske og regulatoriske diskussion højere. EU-Kommissionen og britiske myndigheder kunne indlede efterforskninger på grund af mulige overtrædelser af digitale og sikkerhedsrelaterede love. Situationen bliver særligt alvorlig på grund af forbindelsen til Elon Musk, der er kendt for sine kontroversielle synspunkter og handlinger.
Hverken Musk eller Black Forest Labs har indtil videre officielt kommenteret hændelserne. På de sociale medier bliver der dog stadig højere kaldt på strammere reguleringer for at forhindre lignende hændelser i fremtiden. Spørgsmålet er fortsat, om BFL kan håndtere den opståede krise, og hvordan dette vil påvirke virksomhedens fremtidige udvikling.
