En un movimiento audaz contra las prácticas fraudulentas, la Comisión Federal de Comunicaciones (FCC) de Estados Unidos ha tomado una decisión crucial: las llamadas automáticas (robocalls) que utilizan voces generadas por inteligencia artificial (IA) son ahora oficialmente ilegales. Esta medida se produce tras un incidente particularmente llamativo en el que una robocall, imitando la voz del presidente Joe Biden, intentó disuadir a los votantes en las primarias demócratas de New Hampshire.
La decisión de la FCC no solo es un paso significativo en la lucha contra el uso indebido de la tecnología de IA en las comunicaciones no deseadas sino que también refleja la creciente preocupación por la capacidad de estas tecnologías para imitar voces de manera convincente, llegando a engañar a las personas para que crean que están hablando con alguien de confianza.
«Los actores maliciosos están utilizando voces generadas por IA en robocalls no solicitadas para extorsionar a miembros vulnerables de la familia, imitar a celebridades y desinformar a los votantes. Estamos poniendo en aviso a los estafadores detrás de estas robocalls», declaró Jessica Rosenworcel, presidenta de la FCC.
Impacto y herramientas legales para combatir las robocalls de IA
La nueva regla otorga a los fiscales generales estatales herramientas adicionales para perseguir a las entidades detrás de estas llamadas, marcando un antes y un después en los esfuerzos regulatorios para proteger a los consumidores y la integridad de los procesos electorales. Anteriormente, los fiscales podían abordar las consecuencias de una robocall generada por IA no deseada, pero la acción reciente de la FCC hace que el acto de utilizar IA para generar una voz en estas llamadas sea en sí mismo ilegal.
Este cambio normativo se ve impulsado por casos recientes de manipulación electoral y fraudes, como el incidente mencionado de la robocall falsa de Biden, que fue rastreada hasta una empresa con sede en Texas. Este caso subraya la urgencia de adaptar las leyes y regulaciones a la evolución de las tecnologías de IA, que presentan nuevas amenazas para la supresión de votantes y esquemas de fraude.
La decisión de la FCC envía un mensaje claro: el uso de voz clonada y otras aplicaciones de IA en llamadas está evolucionando, pero ya se ha demostrado su uso de maneras que pueden dañar de manera única a los consumidores y a aquellos cuya voz es clonada. La clonación de voz puede convencer a una persona llamada de que una persona de confianza, o alguien a quien le importa, desea o necesita que tome alguna acción que de otro modo no tomaría.
Estas medidas establecen un precedente importante para el futuro de la regulación de las comunicaciones automatizadas. Al proporcionar definiciones legales claras y herramientas de aplicación, la FCC espera disuadir el uso negativo de la IA en robocalls y asegurar que los consumidores estén plenamente protegidos.
¿Qué está haciendo Europa?
Mientras la FCC en Estados Unidos toma medidas específicas contra las robocalls con voz de IA, la Unión Europea avanza en un amplio marco regulador de la inteligencia artificial. Con un reciente acuerdo provisional, la UE establece normas que podrían influir en una variedad de aplicaciones de IA, incluyendo potencialmente las robocalls. Este enfoque integral refleja el esfuerzo europeo por liderar en la regulación ética y segura de las tecnologías emergentes.