Công ty khởi nghiệp Freiburg Black Forest Labs (BFL), từng được ca ngợi như một ngôi sao đang lên trong lĩnh vực AI, hiện đang bị chỉ trích nặng nề. Với công cụ tạo hình ảnh Flux.1, công ty đã gây ra những tiêu đề tiêu cực trong những ngày qua. Đặc biệt là quan hệ đối tác với công ty AI xAI của Elon Musk và những hình ảnh gây sốc được phát tán trên các nền tảng mạng xã hội đã gây ra sự phẫn nộ.
Phòng thí nghiệm Black Forest nhanh chóng tạo được danh tiếng trong cộng đồng AI nhờ phát triển công cụ tạo hình ảnh Flux.1. Công cụ này được quảng bá là mạnh mẽ và chính xác hơn so với các đối thủ của nó là Dall-E 3 và Midjourney v.6. Hợp tác với xAI của Elon Musk, Flux.1 nhằm mở rộng khả năng của mô hình Grok trên nền tảng X (trước đây là Twitter).
Vào thứ Tư, tuy nhiên, đã lan truyền các hình ảnh do Flux.1 tạo ra và gây xôn xao trên toàn thế giới. Các hình ảnh này bao gồm từ Donald Trump tạo dáng với vũ khi đến những cảnh cực kỳ đáng sợ với các nhân vật hoạt hình. Trái ngược với các trình tạo hình bằng AI khác, Grok kết hợp với Flux.1 dường như không có nhiều hạn chế trong việc tạo ra loại nội dung như vậy.
Các sự kiện này đặt ra những câu hỏi nghiêm trọng. Làm thế nào chuyện này có thể xảy ra? Có phải các biện pháp an ninh cần thiết đã bị xem nhẹ? Công cụ, vốn được cho là dẫn đầu về độ chính xác và sáng tạo, có thể bị chỉ trích do thiếu các bộ lọc quan trọng. Các chuyên gia như Björn Ommer, Giáo sư về Tầm nhìn Máy tính tại Đại học Ludwig-Maximilians München, cho rằng chất lượng cao của Flux.1 có thể là do thiếu các bộ lọc như vậy.
Những nhà sáng lập của Black Forest Labs không phải là những người xa lạ trong ngành. Trước đây, họ đã từng làm việc cho công ty start-up Stability.AI ở London, nổi tiếng với công cụ tạo hình ảnh Stable Diffusion. Sau khi rời công ty, họ đã sáng lập BFL và phát triển Flux.1, mô hình có nhiều điểm tương đồng với Stable Diffusion 3.
Bên cạnh cuộc tranh luận kỹ thuật, thảo luận về pháp lý và quy định cũng trở nên sôi động hơn. Ủy ban Châu Âu và các cơ quan Anh có thể tiến hành điều tra vì các vi phạm có thể xảy ra đối với luật kỹ thuật số và an ninh. Tình hình càng trở nên căng thẳng hơn bởi sự liên kết với Elon Musk, người nổi tiếng với những quan điểm và hành động gây tranh cãi.
Cho đến nay, cả Musk lẫn Black Forest Labs vẫn chưa chính thức lên tiếng về các vụ việc. Tuy nhiên, trên mạng xã hội, ngày càng có nhiều tiếng nói đòi hỏi các quy định nghiêm ngặt hơn nhằm ngăn chặn các vụ việc tương tự trong tương lai. Câu hỏi đặt ra là liệu BFL có thể xử lý cuộc khủng hoảng này hay không và điều này sẽ ảnh hưởng như thế nào đến sự phát triển của công ty.
