Preocupações aumentam à medida que vídeos gerados por IA espalham ódio e racismo online: 'Não há regras de segurança'
A princípio parece ser um videoclipe peculiar gerado por inteligência artificial para fazer as pessoas rirem.
Nele, um Pé Grande peludo usando um chapéu de cowboy e um colete estampado com a bandeira americana está sentado ao volante de uma caminhonete.
"Hoje vamos à parada LGBT", diz a criatura simiesca, rindo. "Vocês vão adorar."
As coisas então tomam um rumo violento e perturbador quando o Pé Grande atravessa uma multidão de pessoas gritando, algumas delas segurando bandeiras do arco-íris.
O clipe postado em junho na página AmericanBigfoot no TikTok atraiu mais de 360.000 visualizações e centenas de comentários, a maioria deles aplaudindo o vídeo.
Nos últimos meses, conteúdo semelhante gerado por IA inundou plataformas de mídia social, promovendo abertamente a violência e espalhando ódio contra membros LGBTQ+, judeus, muçulmanos e outros grupos minoritários.
A história continua abaixo do anúncio
Embora a origem da maioria desses vídeos não seja clara, sua disseminação nas redes sociais está gerando indignação e preocupação entre especialistas e defensores, que dizem que as regulamentações canadenses não conseguem acompanhar o ritmo do conteúdo odioso gerado pela IA, nem abordar adequadamente os riscos que ele representa para a segurança pública.
Primeiro-ministro de Saskatchewan irá rastrear criadores de 'deepfakes' de IA dele e de Carney
A Egale Canada, uma organização de defesa LGBTQ+, diz que a comunidade está preocupada com o aumento de conteúdo de desinformação transfóbico e homofóbico nas mídias sociais.
"Essas ferramentas de IA estão sendo transformadas em armas para desumanizar e desacreditar pessoas trans e de gênero diverso, e as leis de segurança digital existentes não estão conseguindo lidar com a escala e a velocidade dessa nova ameaça", disse a diretora executiva Helen Kennedy em um comunicado.
A rápida evolução da tecnologia deu aos criminosos uma ferramenta poderosa para espalhar desinformação e ódio, com indivíduos transgêneros sendo alvos desproporcionais, disse Kennedy.
A história continua abaixo do anúncio
A comunidade LGBTQ+ não é o único alvo, disse Evan Balgord, diretor executivo da Rede Canadense Anti-Ódio. Conteúdo islamofóbico, antissemita e antissul-asiático produzido com ferramentas de IA generativa também circula amplamente nas redes sociais, afirmou ele.
“Quando eles criam um ambiente onde há muita celebração da violência contra esses grupos, isso torna mais provável que a violência contra esses grupos aconteça pessoalmente ou nas ruas”, alertou Balgord em uma entrevista por telefone.
Estudo descobre que o ChatGPT respondeu de maneiras perigosas mais da metade das vezes aos usuários que buscavam conselhos
As leis de segurança digital do Canadá já estavam atrasadas e os avanços na IA tornaram as coisas ainda mais complicadas, disse ele.
Receba as principais notícias do dia, além de manchetes políticas, econômicas e de atualidades, entregues na sua caixa de entrada uma vez por dia.
A história continua abaixo do anúncio
Projetos de lei que visavam abordar conteúdo online prejudicial e estabelecer uma estrutura regulatória de IA foram rejeitados quando o Parlamento foi suspenso em janeiro, disse Andrea Slane, professora de estudos jurídicos na Ontario Tech University, que fez uma extensa pesquisa sobre segurança online.
Slane disse que o governo precisa reavaliar a legislação sobre danos online e reintroduzir o projeto de lei "com urgência".
“Acho que o Canadá está em uma situação em que eles realmente precisam se mudar”, disse ela.
O Ministro da Justiça, Sean Fraser, disse à The Canadian Press em junho que o governo federal analisará a Lei de Danos Online de uma forma "nova", mas ainda não decidiu se a reescreverá ou simplesmente a reintroduzirá. Entre outras coisas, o projeto de lei visava responsabilizar as plataformas de mídia social pela redução da exposição a conteúdo prejudicial.
Um porta-voz do recém-criado Ministério de Inteligência Artificial e Inovação Digital disse que o governo está levando a sério a questão do conteúdo de ódio gerado por IA, especialmente quando tem como alvo grupos minoritários vulneráveis.
Técnico de futebol feminino de Alberta é acusado de fazer pornografia infantil com IA
Sofia Ouslis disse que as leis existentes fornecem "proteções importantes", mas admitiu que elas não tinham como objetivo abordar a ameaça da IA generativa quando foram projetadas.
A história continua abaixo do anúncio
“Há uma necessidade real de entender como as ferramentas de IA estão sendo usadas e mal utilizadas — e como podemos fortalecer as proteções”, disse ela em um comunicado. “Esse trabalho está em andamento.”
O trabalho envolve a revisão das estruturas existentes, o monitoramento de decisões judiciais "e a escuta atenta de especialistas jurídicos e tecnológicos", disse Ouslis. Ela acrescentou que o governo do primeiro-ministro Mark Carney também se comprometeu a criminalizar a distribuição de deepfakes sexuais não consensuais.
“Neste espaço em rápida evolução, acreditamos que é melhor acertar na regulamentação do que agir rápido demais e errar”, disse ela, observando que Ottawa busca aprender com a União Europeia e o Reino Unido.
Slane disse que a União Europeia está à frente dos outros na regulamentação da IA e na garantia da segurança digital, mas, apesar de estar na "vanguarda", há um sentimento de que mais precisa ser feito.
Especialistas dizem que regulamentar o conteúdo distribuído por gigantes de mídia social é particularmente difícil porque essas empresas não são canadenses.
'Banho de sangue de colarinho branco': a IA destruirá os empregos de escritório de nível básico?
Outro fator complicador é o atual clima político ao sul da fronteira, onde as empresas de tecnologia dos EUA estão enfrentando regulamentações e restrições reduzidas, o que as torna "mais poderosas e se sentindo menos responsáveis", disse Slane.
A história continua abaixo do anúncio
Embora a IA generativa já exista há alguns anos, houve um "avanço" nos últimos meses que tornou mais fácil produzir vídeos de boa qualidade usando ferramentas que estão disponíveis principalmente de graça ou a um preço muito baixo, disse Peter Lewis, presidente de pesquisa do Canadá em inteligência artificial confiável.
“Devo dizer que é realmente acessível a quase qualquer pessoa com um pouco de conhecimento técnico e acesso às ferramentas certas agora”, disse ele.
Lewis, que também é professor assistente na Ontario Tech University, disse que grandes modelos de linguagem como o ChatGPT implementaram salvaguardas em um esforço para filtrar conteúdo prejudicial ou ilegal.
Mas é preciso fazer mais no espaço do vídeo para criar essas proteções, disse ele.
“Você e eu poderíamos assistir ao vídeo e provavelmente ficar horrorizados”, disse ele, acrescentando que “não está necessariamente claro se o sistema de IA tem a capacidade de refletir sobre o que ele criou”.
Vídeo viral de parapente chinês provavelmente foi adulterado com imagens de IA
Lewis disse que, embora não seja um especialista jurídico, acredita que as leis existentes podem ser usadas para combater a glorificação online do ódio e da violência nos vídeos do AmericanBigfoot.
A história continua abaixo do anúncio
Mas ele acrescentou que o rápido desenvolvimento da IA generativa e a ampla disponibilidade de novas ferramentas "exigem novas soluções tecnológicas" e colaboração entre governos, consumidores, defensores, plataformas sociais e desenvolvedores de aplicativos de IA para resolver o problema.
“Se essas coisas estão sendo publicadas... precisamos de mecanismos de sinalização realmente robustos e responsivos para podermos tirar essas coisas da internet o mais rápido possível”, disse ele.
Lewis disse que usar ferramentas de IA para detectar e sinalizar esses vídeos ajuda, mas não resolverá o problema.
Primeiro-ministro de Saskatchewan irá rastrear criadores de 'deepfakes' de IA dele e de Carney
Estudo descobre que o ChatGPT respondeu de maneiras perigosas mais da metade das vezes aos usuários que buscavam conselhos
