Фрайбургският стартъп Black Forest Labs (BFL), някога възхваляван като изгряваща звезда в сцената на изкуствения интелект, в момента е под масивна критика. Със своя генератор на изображения Flux.1 компанията всъщност предизвика негативни заглавия през последните дни. Особено партньорството с фирмата на Илон Мъск за изкуствен интелект xAI и свързаните с него шокиращи изображения, разпространени в социалните мрежи, предизвикаха възмущение.

ЧЕРНА ГОРА ЛАБС СИ СПЕЧЕЛИ ДОБРО ИМЕ В ОБЩНОСТТА НА ИЗКУСТВЕНИЯ ИНТЕЛЕКТ ЧРЕЗ РАЗРАБОТВАНЕТО НА ГЕНЕРАТОРА НА ИЗОБРАЖЕНИЯ FLUX.1.

Въпреки това, в сряда се разпространиха снимки, създадени от Flux.1, които предизвикаха сензация по целия свят. Изображенията варираха от Доналд Тръмп позиращ с оръжия до изключително тревожни сцени с анимирани фигури. За разлика от други генератори на изображения с изкуствен интелект, изглеждаше, че Grok в комбинация с Flux.1 почти няма ограничения при създаването на такова съдържание.

Тези събития поставят сериозни въпроси. Как се стигна до това? Пренебрегнати ли бяха необходимите мерки за сигурност? Инструментът, който първоначално се считаше за водещ в прецизността и креативността, може би е подложен на критика заради липсата на основни филтри. Експерти като Бьорн Оммер, професор по компютърно виждане в Мюнхенския университет "Лудвиг-Максимилиан", предполагат, че високото качество на Flux.1 може да се дължи на липсата на такива филтри.

Основателите на Black Forest Labs не са непознати в бранша. Преди това всички те са работили за лондонския стартъп Stability.AI, известен с генератора на изображения Stable Diffusion. След напускането си те основават BFL и разработват Flux.1, който силно наподобява модела Stable Diffusion 3.

Освен техническия дебат сега също се засилва и правната и регулаторната дискусия. Европейската комисия и британските власти могат да започнат разследвания заради възможни нарушения на цифровите и свързани със сигурността закони. Ситуацията става особено напрегната заради връзката с Илон Мъск, който е известен със своите противоречиви възгледи и действия.

Досега нито Мъск, нито Black Forest Labs са изразили официални становища относно инцидентите. Въпреки това, в социалните медии все по-силно се изискват по-строги регулации, за да се предотвратят подобни инциденти в бъдеще. Въпросът остава дали BFL ще успее да се справи с възникналата криза и как това ще се отрази на бъдещото развитие на компанията.