En un caso que ha captado la atención de las autoridades, un antiguo ejecutivo de una empresa de tecnología enfrenta graves acusaciones por haber defraudado tanto a inversores como a clientes, al afirmar que su producto estrella era una solución basada en IA, cuando en realidad era operado por trabajadores humanos en el extranjero.
Paul Roberts, quien ocupaba el cargo de CEO y presidente de Kubient, es el protagonista de esta polémica. La compañía había promocionado su herramienta KAI (Kubient Artificial Intelligence) como un sistema altamente avanzado diseñado para detectar y prevenir fraudes en la publicidad digital, una propuesta que supuestamente la colocaba por encima de sus competidores y la hacía atractiva para los inversionistas.
Una fachada que se desmorona
Sin embargo, las acusaciones del fiscal del distrito sur de Nueva York y la SEC revelan que la realidad era muy distinta. En lugar de contar con sofisticados algoritmos, gran parte del trabajo que se atribuía a KAI era realizado manualmente por subcontratistas ubicados en el extranjero. Esta estrategia de ocultamiento permitió a Kubient presentar una imagen de innovación tecnológica que en verdad no reflejaba su funcionamiento real, engañando a sus clientes y colaboradores.
Pero las acusaciones no se limitan a la tergiversación del producto. Roberts también es señalado por haber implementado un esquema para inflar artificialmente los ingresos de Kubient. La empresa celebró contratos de servicios recíprocos con otra entidad, cada uno por un valor de 1,3 millones de dólares, contabilizando estas cifras como ingresos a pesar de que no se intercambiaron servicios reales, especialmente los relacionados con la detección de fraudes a través de KAI. Estos ingresos ficticios fueron reportados en documentos oficiales, incluyendo la oferta pública inicial de Kubient, que recaudó 12,5 millones de dólares, y una oferta secundaria posterior de 20 millones de dólares. Los fiscales sostienen que tales transacciones no habrían sido viables sin las afirmaciones engañosas sobre KAI.
La situación pone de manifiesto un fenómeno conocido como “AI washing”, donde las empresas exageran o falsean su uso de inteligencia artificial para atraer inversiones. Las autoridades financieras, como la SEC, han advertido que están monitoreando de cerca estas prácticas. Este no es un caso aislado; otro emprendedor, fundador de Joonko Diversity, también se enfrenta a acusaciones por declaraciones engañosas sobre las capacidades de IA de su plataforma de reclutamiento.
Un ecosistema tecnológico que exige transparencia
La problemática con la inteligencia artificial no se limita a engaños en el ámbito comercial. También surgen abusos que utilizan la tecnología de manera malintencionada. Por ejemplo, las estafas que involucran deepfakes, esos videos o audios manipulados de forma extremadamente realista, están en aumento. Un caso reciente implicó a un empleado de finanzas que fue engañado por falsos directivos creados por IA, resultando en una pérdida de más de 25 millones de dólares. Asimismo, el uso de IA generativa para crear identidades falsas o falsificar aplicaciones se está convirtiendo en una gran preocupación, especialmente para posiciones de trabajo remoto, donde algunos utilizan estas herramientas para simular entrevistas o generar respuestas, complicando la detección del fraude.
La desconfianza ha comenzado a crecer entre los inversores y las empresas, quienes ahora son instados a verificar con mayor rigor las capacidades de IA que se les presentan. Este escándalo resalta la necesidad de transparencia y ética en el desarrollo y comercialización de tecnologías relacionadas con la inteligencia artificial. No obstante, es fundamental distinguir entre las prácticas fraudulentas y los avances genuinos en este campo. Muchas empresas están trabajando en agentes de IA eficientes para detectar fraudes, empleando técnicas de aprendizaje automático y análisis de datos en tiempo real. La reciente adquisición de la startup Alterya, que se especializa en la detección de fraudes mediante agentes de IA, por parte de Chainalysis por 150 millones de dólares, es un claro ejemplo del valor que se otorga a las soluciones auténticas y efectivas en este ámbito.