A freiburgi startup, a Black Forest Labs (BFL), amelyet egykor a mesterséges intelligencia szcénájának feltörekvő csillagaként ünnepeltek, jelenleg súlyos kritikák kereszttüzében áll. Flux.1 névre keresztelt képgenerátora az elmúlt napokban negatív sajtóvisszhangot kapott. Különösen az Elon Musk AI-cégével, az xAI-val kötött partnerség és az ehhez kapcsolódó, közösségi média platformokon terjedő sokkoló képek váltottak ki felháborodást.

A Black Forest Labs gyorsan hírnevet szerzett a képgenerátor Flux.1 kifejlesztésével az MI-közösségben. Az eszközt teljesítményesebbnek és pontosabbnak hirdették, mint versenytársai, a Dall-E 3 és a Midjourney v.6. Az Elon Musk xAI-jával együttműködve a Flux.1 célja az volt, hogy kibővítse a Grok modell lehetőségeit az X platformon (korábbi Twitter).

A következő de már szerdán készült képek, amelyeket a Flux.1 hozott létre, világszerte felkeltették a figyelmet. A bemutatott képek között volt egy fegyverekkel pózoló Donald Trump is, valamint rendkívül megdöbbentő animált jelenetek. Más mesterséges intelligencia képgenerátorokkal ellentétben a Grok és a Flux.1 kombinációja szinte semmilyen korlátozást nem mutatott az ilyen tartalmak létrehozásában.

Diese Ereignisse werfen nun ernsthafte Fragen auf. Wie konnte es dazu kommen? Wurden die notwendigen Sicherheitsvorkehrungen vernachlässigt? Das Tool, das ursprünglich als führend in Sachen Präzision und Kreativität galt, könnte durch das Fehlen essentieller Filter an den Pranger geraten. Experten wie Björn Ommer, Professor für Computer Vision an der Ludwig-Maximilians-Universität München, vermuten, dass die hohe Qualität von Flux.1 auf das Fehlen solcher Filter zurückzuführen sein könnte.

Ezek az események most komoly kérdéseket vetnek fel. Hogyan történhetett ez meg? Elhanyagolták a szükséges biztonsági óvintézkedéseket? Az eszköz, amely eredetileg a pontosság és a kreativitás élvonalában volt, az alapvető szűrők hiánya miatt támadások kereszttüzébe kerülhet. A szakértők, mint Björn Ommer, a Münchenti Ludwig-Maximilians Egyetem számítógépes látás professzora, úgy vélik, hogy a Flux.1 magas minősége ezeknek a szűrőknek a hiányára vezethető vissza.

A Black Forest Labs alapítói nem ismeretlenek az iparágban. Korábban mindannyian a londoni Stability.AI start-upnál dolgoztak, amely a képgenerátor Stable Diffusion-ról ismert. Kilépésük után megalapították a BFL-t és kifejlesztették a Flux.1-et, amely erősen a Stable Diffusion 3 modellre támaszkodik.

A technikai vita mellett most már a jogi és szabályozási vita is hangosabbá válik. Az Európai Bizottság és a brit hatóságok digitális és biztonsági törvények esetleges megsértése miatt nyomozást indíthatnak. A helyzet különösen kényessé válik Elon Muskkal való összefüggés miatt, aki ismert ellentmondásos nézeteiről és tetteiről.

Eddig sem Musk, sem a Black Forest Labs hivatalosan nem nyilatkozott az incidensekről. A közösségi médiában azonban egyre hangosabban követelik a szigorúbb szabályozásokat, hogy a jövőben hasonló incidenseket megelőzhessenek. Továbbra is kérdéses, hogy a BFL képes lesz-e kezelni a kialakult válságot, és hogy ez hogyan fog hatni a vállalat további fejlődésére.