Det Freiburg-baserade start-up-företaget Black Forest Labs (BFL), som en gång hyllades som en stigande stjärna inom AI-scenen, står nu under massiv kritik. Med sin bildgenerator Flux.1 har företaget de senaste dagarna orsakat negativa rubriker. Särskilt partnerskapet med Elon Musks AI-företag xAI och de därmed förknippade chockerande bilderna, som spridits via sociala medieplattformar, har väckt upprördhet.
Schwarzwald Labs hat sich durch die Entwicklung des Bildgenerators Flux.1 schnell einen Namen in der KI-Community gemacht. Das Tool wurde als leistungsfähiger und präziser als seine Konkurrenten Dall-E 3 und Midjourney v.6 beworben. In Zusammenarbeit mit Elon Musks xAI sollte Flux.1 die Möglichkeiten des Grok-Modells auf der Plattform X (ehemals Twitter) erweitern.
---
Black Forest Labs gjorde sig snabbt ett namn inom AI-gemenskapen genom att utveckla bildgeneratorn Flux.1. Verktyget marknadsfördes som mer kraftfullt och exakt än sina konkurrenter Dall-E 3 och Midjourney v.6. I samarbete med Elon Musks xAI skulle Flux.1 utöka kapaciteterna hos Grok-modellen på plattformen X (tidigare Twitter).
**På onsdagen cirkulerade dock bilder som skapats av Flux.1 och väckte uppseende världen över. Avbildningarna sträckte sig från en vapenposerande Donald Trump till extremt störande scener med animerade figurer. Till skillnad från andra AI-bildgeneratorer verkade Grok i kombination med Flux.1 knappt ha några begränsningar vid skapandet av sådant innehåll.**
Dessa händelser väcker nu allvarliga frågor. Hur kunde det hända? Blev nödvändiga säkerhetsåtgärder försummade? Verktyget som ursprungligen ansågs ledande när det gäller precision och kreativitet skulle kunna hamna i rampljuset på grund av avsaknaden av väsentliga filter. Experter som Björn Ommer, professor i datorsyn vid Ludwig-Maximilians-Universität München, misstänker att den höga kvaliteten på Flux.1 kan bero på avsaknaden av sådana filter.
De grundare av Black Forest Labs är inga okända i branschen. Tidigare arbetade de alla för Londons start-up Stability.AI, som är känd för bildgeneratorn Stable Diffusion. Efter att de lämnade företaget grundade de BFL och utvecklade Flux.1, som starkt påminner om modellen Stable Diffusion 3.
Utöver den tekniska debatten blir nu även den juridiska och regulatoriska diskussionen högre. Europeiska kommissionen och brittiska myndigheter kan komma att inleda utredningar på grund av möjliga överträdelser av digitala och säkerhetsrelevanta lagar. Situationens särskilda spänning beror på kopplingen till Elon Musk, som är känd för sina kontroversiella åsikter och handlingar.
Här finns det ingen officiell kommentar än från vare sig Musk eller Black Forest Labs angående incidenterna. Men på sociala medier hörs allt fler röster som kräver striktare regleringar för att förhindra liknande händelser i framtiden. Frågan kvarstår om BFL kan hantera den uppkomna krisen och hur detta kommer att påverka företagets framtida utveckling.
