Freiburgi idufirma Black Forest Labs (BFL), keda kunagi peeti tõusvaks täheks tehisintellekti valdkonnas, on praegu tugeva kriitika all. Oma pildigeneraatori Flux.1-ga on ettevõte viimastel päevadel tekitanud negatiivseid pealkirju. Eelkõige on pahameeletormi põhjustanud partnerlus Elon Muski tehisintellektifirmaga xAI ja sellega seotud šokeerivad pildid, mis on levitatud sotsiaalmeedia platvormidel.

Black Forest Labs tegi end kiiresti tuntuks KI-kogukonnas pildigeneraatori Flux.1 arendamisega. Tööriista reklaamiti kui võimsamat ja täpsemat oma konkurentidest Dall-E 3 ja Midjourney v.6. Koostöös Elon Muski xAI-ga pidi Flux.1 laiendama Grok-mudeli võimalusi platvormil X (endine Twitter).

Siiski levisid kolmapäeval pildid, mille lõi Flux.1 ja mis tekitasid kogu maailmas palju tähelepanu. Kujutised ulatusid relvadega poseerivast Donald Trumpist kuni äärmiselt häirivate stseenideni animeeritud tegelastega. Erinevalt teistest KI-pildigeneraatoritest tundus Grok koos Flux.1-ga sellise sisu loomisel peaaegu piiranguteta.

Need tõsised küsimused tõstatavad tõsiseid küsimusi. Kuidas see juhtuda sai? Kas vajalikud turvameetmed jäeti tähelepanuta? Algselt täpsuse ja loovuse liidrina peetud tööriist võib oluliste filtrite puudumise tõttu sattuda kriitika alla. Eksperdid, nagu näiteks Professor Björn Ommer Müncheni Ludwig-Maximilians-Ülikooli arvutinägemise õppetoolist, kahtlustavad, et Flux.1 kõrge kvaliteet võib tuleneda just selliste filtrite puudumisest.

Black Forest Labsi asutajad ei ole tööstuses tundmatud. Varem töötasid nad kõik Londoni idufirmas Stability.AI, mis on tuntud pildigeneraatori Stable Diffusion poolest. Pärast nende lahkumist asutasid nad BFL-i ja arendasid välja Flux.1, mis sarnaneb suuresti mudeliga Stable Diffusion 3.

Lisaks tehnilisele arutelule muutub nüüd valjemaks ka õiguslik ja regulatiivne arutelu. Euroopa Komisjon ja Suurbritannia võimud võivad algatada uurimisi võimalike digitaalsete ja turvasätete seaduste rikkumiste tõttu. Eriti pingeliseks muudab olukorra seotus Elon Muskiga, kes on tuntud oma vastuoluliste vaadete ja tegude poolest.

Tulnud on üha valjemad nõudmised rangema regulatsiooni järele, et vältida tulevikus sarnaseid vahejuhtumeid. Musk ega Black Forest Labs ei ole seni ametlikku avaldust teinud. Tekib küsimus, kas BFL suudab kriisist üle saada ja kuidas see ettevõtte edasist arengut mõjutab.