Numa ação corajosa contra práticas fraudulentas, a Comissão Federal de Comunicações (FCC) dos EUA tomou uma decisão crucial: as chamadas automáticas que utilizam vozes geradas por inteligência artificial (IA) são agora oficialmente ilegais. Esta medida surge na sequência de um incidente particularmente marcante em que um robocall, imitando a voz do Presidente Joe Biden, tentou dissuadir os eleitores nas primárias democratas de New Hampshire.
A decisão da FCC não é apenas um passo significativo na luta contra o uso indevido da tecnologia de IA em comunicações indesejadas, mas também reflecte as preocupações crescentes sobre a capacidade destas tecnologias para imitar vozes de forma convincente, chegando mesmo a enganar as pessoas, fazendo-as acreditar que estão a falar com alguém em quem confiam.
“Os agentes maliciosos estão a utilizar vozes geradas por IA em chamadas automáticas não solicitadas para extorquir dinheiro a familiares vulneráveis, imitar celebridades e desinformar os eleitores. Estamos a avisar os burlões que estão por detrás destas chamadas automáticas”, afirmou Jessica Rosenworcel, presidente da FCC.
Impacto jurídico e ferramentas para combater as chamadas automáticas de IA
A nova regra dá aos procuradores gerais do estado ferramentas adicionais para perseguir as entidades por trás dessas chamadas, marcando um antes e um depois nos esforços regulatórios para proteger os consumidores e a integridade dos processos eleitorais. Anteriormente, os procuradores podiam lidar com as consequências de uma chamada automática indesejada gerada por IA, mas a recente ação da FCC torna o ato de utilizar IA para gerar uma voz nestas chamadas ilegal por si só.
Esta alteração regulamentar é motivada por casos recentes de manipulação e fraude eleitoral, como o incidente acima mencionado da chamada automática falsa de Biden, que foi atribuída a uma empresa sediada no Texas. Este caso sublinha a urgência de adaptar as leis e os regulamentos à evolução das tecnologias de IA, que apresentam novas ameaças aos esquemas de supressão de eleitores e de fraude.
A decisão da FCC envia uma mensagem clara: a utilização da clonagem de voz e de outras aplicações de IA nas chamadas está a evoluir, mas a sua utilização já foi demonstrada de formas que podem prejudicar exclusivamente os consumidores e as pessoas cujas vozes são clonadas. A clonagem de voz pode convencer um autor de chamada de que uma pessoa de confiança, ou alguém de quem se gosta, quer ou precisa que ele tome uma ação que de outra forma não tomaria.
Estas medidas estabelecem um precedente importante para a futura regulamentação das comunicações automatizadas. Ao fornecer definições legais claras e ferramentas de aplicação, a FCC espera dissuadir a utilização negativa da IA nas chamadas automáticas e garantir a proteção total dos consumidores.
O que está a Europa a fazer?
Enquanto a FCC nos EUA toma medidas específicas contra as chamadas automáticas com voz de IA, a União Europeia está a avançar com um amplo quadro regulamentar para a inteligência artificial. Com um recente acordo provisório, a UE estabelece regras que poderão influenciar uma série de aplicações de IA, incluindo potencialmente as chamadas automáticas. Esta abordagem abrangente reflecte o esforço europeu para liderar a regulamentação ética e segura das tecnologias emergentes.