A evolução da Inteligência Artificial (IA) de código aberto ganhou considerável impulso nos últimos meses. Num ambiente em que empresas como a OpenAI e o Google investem bilhões em sistemas de IA cada vez mais poderosos, os modelos abertos têm feito progressos notáveis. No entanto, apesar do sucesso aparente, revela-se uma fraqueza central: muitos desses chamados sistemas de código aberto são na verdade apenas parcialmente abertos.
Um exemplo proeminente é o Llama da Meta. Embora os "pesos" que determinam como o modelo responde às solicitações sejam divulgados, os dados de treinamento subjacentes permanecem ocultos. Isso permite que os desenvolvedores ajustem o modelo, mas falta a transparência necessária para recriar o modelo do zero.
Für Entwickler hat diese eingeschränkte Offenheit dennoch Vorteile. Sie können quasi-offene Modelle anpassen und auf ihre eigenen Daten trainieren, ohne sensible Informationen an Drittunternehmen weitergeben zu müssen. Doch diese Einschränkungen haben ihren Preis. Ayah Bdeir, eine Senior-Beraterin der Mozilla Foundation, betont, dass nur wirklich offene Technologien ein umfassendes Verständnis der Systeme ermöglichen, die zunehmend alle Bereiche unseres Lebens beeinflussen. Zudem könnten nur wirklich offene Systeme sicherstellen, dass Innovation und Wettbewerb nicht von einigen wenigen dominanten KI-Unternehmen erstickt werden.
Para os desenvolvedores, essa abertura limitada ainda tem vantagens. Eles podem ajustar modelos quasi-abertos e treiná-los em seus próprios dados, sem precisar compartilhar informações sensíveis com empresas terceiras. No entanto, essas restrições têm seu preço. Ayah Bdeir, uma Consultora Sênior da Mozilla Foundation, destaca que apenas tecnologias verdadeiramente abertas permitem uma compreensão abrangente dos sistemas que estão cada vez mais influenciando todas as áreas de nossas vidas. Além disso, apenas sistemas verdadeiramente abertos podem garantir que a inovação e a concorrência não sejam sufocadas por algumas poucas empresas dominantes de IA.
Em resposta, a Open Source Initiative, que definiu a definição de software de código aberto há mais de 20 anos, apresentou uma definição quase final para IA de código aberto. Esta definição exige não apenas a publicação dos "pesos", mas também informações suficientes sobre os dados de treinamento e o código subjacente para que o modelo possa ser reproduzido.
Este movimento já está levando a uma segmentação mais acentuada no mundo da IA. Muitas empresas estão sendo mais cautelosas com sua terminologia para evitar disputas legais. Assim, a Mistral chama seu modelo Nemo de “Open Weights” e evita deliberadamente o termo “Open Source”.
Enquanto sistemas parcialmente abertos se estabelecem, também estão surgindo modelos totalmente abertos, como o modelo de linguagem Olmo do Allen Institute for AI. No entanto, se estes realmente terão o mesmo impacto no mundo da IA como o software de código aberto teve na indústria da tecnologia, ainda está por ser visto.
Para uma revolução nos modelos de IA abertos, seriam necessárias duas coisas.
Em segundo lugar, os defensores de uma IA aberta devem apresentar argumentos mais convincentes sobre sua segurança. A perspectiva de tornar uma tecnologia tão poderosa e generalizada acessível a todos levanta preocupações legítimas. Oren Etzioni, ex-diretor do Allen Institute, acredita, no entanto, que muitos desses medos são exagerados. Ele argumenta que as informações disponibilizadas por modelos de IA não são substancialmente diferentes daquelas já disponíveis no Google.
Até que os potenciais riscos e benefícios da disponibilização aberta da tecnologia de IA sejam investigados mais a fundo, as preocupações irão permanecer.
