Startupi
Google introduz marcação de imagens geradas por IA nas buscas a partir deste ano
O Google anunciou que começará a sinalizar imagens criadas por lucidez sintético (IA) em seus resultados de procura ainda em 2024. A medida faz segmento de uma iniciativa mais ampla para fornecer mais transparência ao teor do dedo, ajudando usuários a identificar se são imagens geradas por IA ou por humanos.
O Google utilizará metadados específicos para rotular as imagens e as plataformas que geram teor visualmente sintético também poderão juntar essas marcas diretamente.
Novo marco na transparência do dedo
Com a crescente utilização de lucidez sintético para fabricar imagens realistas, surgiu a urgência de diferenciar imagens sintéticas de fotos autênticas. O Google está implementando esse sistema de marcação para melhorar a experiência dos usuários e evitar a disseminação de desinformação visual.
Isso porque, imagens geradas por IA, que podem ser manipuladas ou falsificadas, vêm sendo usadas em diversos contextos, desde o entretenimento até campanhas de desinformação política. O lançamento do Google, portanto, deve mitigar os impactos negativos dessas práticas, oferecendo aos usuários mais informações sobre a origem e autenticidade do teor visual.
Uma vez que funcionará a sinalização
O sistema do Google usará metadados incorporados nas imagens para identificar quais foram criadas ou modificadas por IA. As ferramentas responsáveis por gerar esses arquivos também poderão incluir essa informação, facilitando o rastreamento. Aliás, a bigtech está colaborando com empresas do setor para definir padrões comuns que permitam a identificação mais eficiente desses conteúdos.
Quando uma imagem gerada por IA nascer nos resultados de procura, o usuário verá uma notificação indicando que se trata de teor sintético. Essa marcação pode nascer tanto em imagens criadas diretamente por ferramentas de IA quanto em fotografias manipuladas por essas tecnologias.
Combate à desinformação visual
A disseminação de imagens falsas e manipuladas é um dos principais desafios enfrentados por plataformas digitais e redes sociais. A manipulação de fotos e vídeos pode enganar o público, distorcendo fatos e gerando desinformação.
O Google já tomou medidas para combater esses problemas com iniciativas uma vez que o “Fact Check”, lançado em 2023, e agora expande seus esforços ao mourejar com o teor visual.
Ao introduzir a marcação de imagens geradas por IA, o Google pretende fabricar um ecossistema de buscas mais confiável, onde os usuários podem ter mais crédito nas informações que consomem. A empresa acredita que essa medida ajudará a prevenir fraudes e reforçará a autenticidade das informações disponíveis na internet.
Repercussões para criadores e usuários
A introdução dessas etiquetas também impactará criadores de teor e desenvolvedores que usam IA para gerar imagens.
A medida incentiva a transparência no uso de IA, mas também pode levantar preocupações sobre a perda de anonimato ou neutralidade ao publicar teor. No entanto, o Google enfatiza que essa abordagem não visa restringir o uso da IA, mas sim dar ao usuário mais controle e contexto sobre o que está vendo.
Aliás, empresas que utilizam lucidez sintético para fabricar imagens realistas em setores uma vez que marketing, design e entretenimento deverão se ajustar às novas regras de transparência. Essa transição pode afetar uma vez que campanhas publicitárias e outros materiais visuais são percebidos, já que os consumidores estarão cientes de que o teor foi gerado por uma máquina.
Ajuda de outras empresas
O Google também está desenvolvendo parcerias com outras companhias de tecnologia e organismos internacionais para fabricar padrões abertos que permitam a detecção global e unificada de teor visual gerado por IA. A empresa prevê que essa mudança será um marco importante para prometer que os usuários estejam cientes da natureza do teor com que interagem.
Espera-se que, à medida que a tecnologia de IA avança, os desafios relacionados à desinformação também aumentem. O Google acredita que a transparência é um passo importante para enfrentar esses desafios e planeja continuar investindo em ferramentas que promovam a crédito nas informações online.
Aproveite e junte-se ao nosso meio no WhatsApp para receber conteúdos exclusivos em primeira mão. Clique cá para participar. Startupi | Jornalismo para quem lidera inovação!
O post Google introduz marcação de imagens geradas por IA nas buscas a partir deste ano aparece primeiro em Startupi e foi escrito por Tiago Souza
