Freiburgilainen start-up-yritys Black Forest Labs (BFL), jota aiemmin juhlittiin nousevana tähtenä tekoälypiireissä, on tällä hetkellä massiivisen kritiikin kohteena. Yrityksen kuvageneraattori Flux.1 on aiheuttanut viime päivinä negatiivisia otsikoita. Erityisesti yhteistyö Elon Muskin tekoälyyrityksen xAI:n kanssa ja siihen liitetyt shokeeraavat kuvat, joita on levitetty sosiaalisen median alustoilla, ovat aiheuttaneet suuttumusta.

Schwarzwald Labs oli kehittänyt Flux.1-kuvageneraattorin ja noussut nopeasti tunnetuksi tekoäly-yhteisössä. Työkalua mainostettiin tehokkaampana ja tarkempana kuin kilpailijansa Dall-E 3 ja Midjourney v.6. Yhteistyössä Elon Muskin xAI:n kanssa Flux.1:n oli tarkoitus laajentaa Grok-mallin mahdollisuuksia X-alustalla (entinen Twitter).

Keskiviikkona kuitenkin levisi Flux.1:n luomia kuvia, jotka herättivät maailmalla kohua. Kuvissa nähtiin aseiden kanssa poseeraava Donald Trump sekä äärimmäisen häiritseviä kohtauksia animoiduilla hahmoilla. Toisin kuin muut tekoälypohjaiset kuvageneraattorit, Grok yhdessä Flux.1:n kanssa näytti olevan lähes rajoittamaton tällaisten sisältöjen luomisessa.

Nämä tapahtumat herättävät nyt vakavia kysymyksiä. Kuinka näin pääsi käymään? Ovatko tarvittavat turvallisuustoimenpiteet laiminlyöty? Työkalu, jota alun perin pidettiin tarkkuuden ja luovuuden johtavana, voi joutua häpeään olennaisten suodattimien puutteen vuoksi. Asiantuntijat, kuten Münchenin Ludwig-Maximilians-Universitätin tietokonenäkökulman professori Björn Ommer, epäilevät, että Flux.1:n korkea laatu saattaa johtua tällaisten suodattimien puuttumisesta.

Die Gründer von Black Forest Labs sind keine Unbekannten in der Branche. Zuvor arbeiteten sie alle für das Londoner Start-up Stability.AI, das für den Bildgenerator Stable Diffusion bekannt ist. Nach ihrem Austritt gründeten sie BFL und entwickelten Flux.1, das stark an das Modell Stable Diffusion 3 angelehnt ist.

Black Forest Labsin perustajat eivät ole tuntemattomia alalla. Aiemmin he työskentelivät kaikki lontoolaisessa startup-yrityksessä Stability.AI:ssa, joka tunnetaan kuvageneraattori Stable Diffusionista. Erottuaan perustivat he BFL:n ja kehittivät Flux.1:n, joka perustuu vahvasti Stable Diffusion 3 -malliin.

Teknisen keskustelun lisäksi yhä voimakkaammin käydään myös oikeudellista ja sääntelyyn liittyvää keskustelua. Euroopan komissio ja brittiläiset viranomaiset saattavat aloittaa tutkinnan mahdollisista rikkomuksista digitaali- ja turvallisuuslakeja vastaan. Tilannetta tekee erityisen räjähdysherkäksi yhteys Elon Muskiin, joka on tunnettu kiistanalaisista näkemyksistään ja toimistaan.

Tähän mennessä Musk eikä Black Forest Labs ole virallisesti kommentoineet tapahtumia. Sen sijaan sosiaalisessa mediassa vaaditaan yhä äänekkäämmin tiukempia säädöksiä tulevien tapausten estämiseksi. Kysymys kuuluukin, pystyykö BFL selviytymään muodostuneesta kriisistä ja miten tämä vaikuttaa yhtiön tulevaan kehitykseen.