A Meta Platforms (anteriormente conhecida como Facebook) anunciou que irá alertar os usuários sobre vídeos e arquivos de áudio avançados de Inteligência Artificial que parecem surpreendentemente reais.

Se os usuários falharem nisso, enfrentarão consequências, conforme enfatizou o Diretor de Políticas da Meta, Nick Clegg, em uma publicação no blog na terça-feira. A empresa planeja usar avisos para marcar tais conteúdos em seus serviços.

Esta medida é necessária, pois ainda não é comum integrar marcas d'água invisíveis em softwares de IA para vídeos e gravações de áudio, explicou Clegg. No entanto, ele admitiu que existem meios e maneiras de remover essas marcas d'água.

Meta trabalha para tornar isso mais difícil. A ideia é integrar as marcas d'água diretamente na criação dos arquivos, o que as tornaria impossíveis de serem desativadas. A empresa também está desenvolvendo tecnologias para reconhecer automaticamente conteúdos gerados por IA.

Recentemente, chamadas automatizadas nos EUA causaram alvoroço ao imitarem uma voz surpreendentemente realista do presidente Joe Biden. As chamadas instavam as pessoas a não participarem nas primárias do Partido Democrata no estado de New Hampshire.

Este incidente alimentou preocupações de que nos próximos meses possam ser feitas tentativas de influenciar o resultado da eleição presidencial em novembro com o uso de falsificações altamente realistas feitas por IA.

Como parte de uma aliança industrial, a Meta deseja estabelecer tecnologias que servirão para marcar de forma clara arquivos gerados por IA. A empresa tem como objetivo sinalizar imagens produzidas por IA em seus aplicativos Facebook, Instagram e Threads em todos os idiomas suportados.

Além disso, a Meta também oferece seu próprio software de IA capaz de criar imagens a partir de instruções textuais. Esses arquivos contêm tanto marcações visíveis quanto marcas d'água invisíveis.

As ações da Meta Platforms caíram temporariamente em 0,79% para 455,76 dólares na NASDAQ.