O Departamento de Estado está alertando diplomatas dos EUA sobre tentativas de se passar pelo Secretário de Estado Marco Rubio e possivelmente outras autoridades usando tecnologia impulsionada por inteligência artificial, de acordo com dois altos funcionários e um telegrama enviado na semana passada a todas as embaixadas e consulados.
O alerta veio depois que o departamento descobriu que um impostor se passando por Rubio tentou entrar em contato com pelo menos três ministros das Relações Exteriores, um senador dos EUA e um governador, de acordo com o telegrama de 3 de julho, que foi relatado primeiramente pelo The Washington Post.
Os destinatários das mensagens fraudulentas, enviadas por SMS, Signal e correio de voz, não foram identificados no telegrama, cuja cópia foi compartilhada com a Associated Press.
“O Departamento de Estado está ciente deste incidente e está investigando o assunto”, afirmou. “O departamento leva a sério sua responsabilidade de proteger suas informações e toma medidas contínuas para aprimorar sua postura de segurança cibernética a fim de prevenir incidentes futuros.”
A empresa se recusou a fazer mais comentários devido a “razões de segurança” e à investigação em andamento.
Este é o caso mais recente de uma figura de alto escalão do governo Trump sendo alvo de um imitador, com um incidente semelhante revelado em maio envolvendo a chefe de gabinete do presidente Donald Trump, Susie Wiles . O uso indevido de IA para enganar as pessoas provavelmente aumentará à medida que a tecnologia for aprimorada e se tornar mais amplamente disponível, e o FBI alertou na primavera passada sobre “atores mal-intencionados” que se faziam passar por altos funcionários do governo dos EUA em uma campanha de mensagens de texto e voz.
As fraudes envolvendo Rubio não tiveram sucesso e foram “pouco sofisticadas”, disse uma das autoridades. No entanto, a segunda autoridade afirmou que o departamento considerou “prudente” aconselhar todos os funcionários e governos estrangeiros, especialmente com o aumento dos esforços de agentes estrangeiros para comprometer a segurança da informação.
As autoridades não estavam autorizadas a discutir o assunto publicamente e falaram sob condição de anonimato.
“Não há nenhuma ameaça cibernética direta ao departamento com esta campanha, mas informações compartilhadas com terceiros podem ser expostas se indivíduos visados forem comprometidos”, disse o telegrama.
O FBI alertou em um anúncio de serviço público sobre uma campanha “maliciosa” que depende de mensagens de texto e mensagens de voz geradas por IA que pretendem vir de um alto funcionário dos EUA e que visam enganar outros funcionários do governo, bem como associados e contatos da vítima.
Esta não é a primeira vez que Rubio é personificado em um deepfake. Nesta primavera, alguém criou um vídeo falso dele dizendo que queria cortar o acesso da Ucrânia ao serviço de internet Starlink de Elon Musk . O governo ucraniano posteriormente refutou a falsa alegação .
Várias soluções potenciais foram apresentadas nos últimos anos para o crescente uso indevido da IA para fins enganosos, incluindo penalidades criminais e maior educação midiática. Preocupações com deepfakes também levaram a uma enxurrada de novos aplicativos e sistemas de IA projetados para identificar falsificações que poderiam facilmente enganar um ser humano.
As empresas de tecnologia que trabalham nesses sistemas agora competem com aquelas que usam IA para enganar, de acordo com Siwei Lyu, professor e cientista da computação da Universidade de Buffalo. Ele disse ter observado um aumento no número de deepfakes retratando celebridades, políticos e líderes empresariais à medida que a tecnologia avança.
Há poucos anos, as falsificações continham falhas fáceis de detectar — vozes desumanas ou erros como dedos extras — mas agora a IA é tão boa que é muito mais difícil para um humano detectar, dando aos criadores de deepfakes uma vantagem.
“O nível de realismo e qualidade está aumentando”, disse Lyu. “É uma corrida armamentista, e agora os geradores estão levando vantagem.”
A farsa de Rubio surgiu depois que mensagens de texto e ligações telefônicas foram enviadas a autoridades eleitas, executivos empresariais e outras figuras proeminentes de alguém que parecia ter obtido acesso aos contatos do celular pessoal de Wiles, informou o The Wall Street Journal em maio.
Alguns dos que receberam ligações ouviram uma voz parecida com a de Wiles, que pode ter sido gerada por IA, segundo o jornal. As mensagens e ligações não vinham do número de Wiles, segundo a reportagem. O governo estava investigando.
