Freiburski start-up Black Forest Labs (BFL), niegdyś uważany za wschodzącą gwiazdę w świecie sztucznej inteligencji, stoi obecnie w obliczu masowej krytyki. Za sprawą swojego generatora obrazów Flux.1 firma w ostatnich dniach dostarczała negatywnych wiadomości. W szczególności partnerstwo z firmą sztucznej inteligencji Elona Muska, xAI, oraz szokujące obrazy, które rozprzestrzeniały się na platformach mediów społecznościowych, wywołały oburzenie.

Black Forest Labs szybko zyskało sobie dobrą reputację w społeczności sztucznej inteligencji dzięki opracowaniu generatora obrazów Flux.1. Narzędzie było reklamowane jako bardziej wydajne i dokładne niż jego konkurenci Dall-E 3 i Midjourney v.6. We współpracy z xAI Elona Muska, Flux.1 miał rozszerzyć możliwości modelu Grok na platformie X (dawniej Twitter).

W środę krążyły jednak obrazy stworzone przez Flux.1, które wzbudziły sensację na całym świecie. Przedstawienia obejmowały pozującego z bronią Donalda Trumpa oraz ekstremalnie niepokojące sceny z animowanymi postaciami. W przeciwieństwie do innych generatorów obrazów wspomaganych sztuczną inteligencją, Grok w połączeniu z Flux.1 wydawał się mieć niewiele ograniczeń w tworzeniu takich treści.

Diese Ereignisse werfen nun ernsthafte Fragen auf. Wie konnte es dazu kommen? Wurden die notwendigen Sicherheitsvorkehrungen vernachlässigt? Das Tool, das ursprünglich als führend in Sachen Präzision und Kreativität galt, könnte durch das Fehlen essentieller Filter an den Pranger geraten. Experten wie Björn Ommer, Professor für Computer Vision an der Ludwig-Maximilians-Universität München, vermuten, dass die hohe Qualität von Flux.1 auf das Fehlen solcher Filter zurückzuführen sein könnte.

Te wydarzenia rodzą teraz poważne pytania. Jak mogło do tego dojść? Czy zaniedbano niezbędne środki bezpieczeństwa? Narzędzie, które początkowo było uważane za wiodące w dziedzinie precyzji i kreatywności, może być napiętnowane z powodu braku istotnych filtrów. Eksperci, tacy jak Björn Ommer, profesor wizji komputerowej na Uniwersytecie Ludwiga Maximiliana w Monachium, przypuszczają, że wysoka jakość Flux.1 może wynikać z braku takich filtrów.

Założyciele Black Forest Labs nie są nieznani w branży. Wcześniej wszyscy pracowali dla londyńskiego start-upu Stability.AI, znanego z generatora obrazów Stable Diffusion. Po odejściu założyli BFL i opracowali Flux.1, który jest mocno oparty na modelu Stable Diffusion 3.

Oprócz debaty technicznej coraz głośniej toczy się również dyskusja prawna i regulacyjna. Komisja Europejska i brytyjskie organy mogą wszcząć dochodzenia z powodu możliwych naruszeń przepisów cyfrowych i dotyczących bezpieczeństwa. Sytuacja staje się szczególnie napięta ze względu na związek z Elonem Muskiem, znanym ze swoich kontrowersyjnych poglądów i działań.

Ani Musk, ani Black Forest Labs nie wydali jeszcze oficjalnego oświadczenia w sprawie incydentów. Jednak w mediach społecznościowych coraz głośniej nawołuje się do zaostrzenia regulacji, aby zapobiec podobnym sytuacjom w przyszłości. Pozostaje pytanie, czy BFL poradzi sobie z zaistniałym kryzysem i jaki będzie to miało wpływ na dalszy rozwój firmy.