Google apresenta ferramente para detectar uso de IA em conteúdos - 1ª parte

Todos temos assistido a um significativo aumento de vídeos e fotos alterados via inteligência artificial, na grande maioria dos casos, destinados a fins lúdicos, sendo facilmente detectáveis as alterações, mas também tem crescido o número de alterações destinadas a outros fins, concretamente a manipular a opinião pública, induzindo-a em erro.

Como resposta, o Google apresentou, recentemente, uma ferramenta "online" destinada a detectar se uma imagem foi gerada ou manipulada através da sua plataforma dee inteligência artificial, numa acção destinada a prevenir a manipulação e a difusão de informações falsas, onde este tipo de tecnologia tem vindo a estar mais presente.

Esta ferramente é extremamente simples de utilizar, bastando carregar a imagem ou vídeo e colocar a questão, com o Gemini a procurar a marca de água invisível SynthID nos vários conteúdos visuais e auditivos, descriminando onde a detecção foi feita, incluindo os momentos em em que tal acontece, como um intervalo temporal.

É de notar que a detecção não resulta de uma análise de conteúdos, mas da detecção de uma marca presente após a intervenção do Gemini, pelo que o recurso a ferramentas de inteligência artificial que não incluam esta marca não será detectado, pelo que podemos ter falsos negativos, que passam indetectados, não obstante terem sido introduzidas alterações via inteligência artificial.