En un cas que ha captat l’atenció de les autoritats, un antic executiu d’una empresa de tecnologia s’enfronta a greus acusacions per haver defraudat tant a inversors com a clients, en afirmar que el seu producte estrella era una solució basada en IA, quan en realitat era operat per treballadors humans a l’estranger.
Paul Roberts, qui ocupava el càrrec de CEO i president de Kubient, és el protagonista d’aquesta polèmica. La companyia havia promocionat la seva eina KAI (Kubient Artificial Intelligence) com un sistema altament avançat dissenyat per detectar i prevenir fraus en la publicitat digital, una proposta que suposadament la col·locava per sobre dels seus competidors i la feia atractiva per als inversors.
Una façana que es desmorona
Tanmateix, les acusacions del fiscal del districte sud de Nova York i la SEC revelen que la realitat era molt diferent. En lloc de comptar amb sofisticats algoritmes, gran part del treball que s’atribueix a KAI era realitzat manualment per subcontractistes ubicats a l’estranger. Aquesta estratègia d’ocultació va permetre a Kubient presentar una imatge d’innovació tecnològica que en veritat no reflectia el seu funcionament real, enganyant els seus clients i col·laboradors.
Però les acusacions no es limiten a la tergiversació del producte. Roberts també és assenyalat per haver implementat un esquema per inflar artificialment els ingressos de Kubient. L’empresa va celebrar contractes de serveis recíprocs amb una altra entitat, cadascun per un valor de 1,3 milions de dòlars, comptabilitzant aquestes xifres com a ingressos malgrat que no es van intercanviar serveis reals, especialment els relacionats amb la detecció de fraus a través de KAI. Aquests ingressos ficticis van ser reportats en documents oficials, incloent l’oferta pública inicial de Kubient, que va recaptar 12,5 milions de dòlars, i una oferta secundària posterior de 20 milions de dòlars. Els fiscals sostenen que tals transaccions no haurien estat viables sense les afirmacions enganyoses sobre KAI.
La situació posa de manifest un fenomen conegut com “AI washing”, on les empreses exageren o falsegen el seu ús d’intel·ligència artificial per atraure inversions. Les autoritats financeres, com la SEC, han advertit que estan monitoritzant de prop aquestes pràctiques. Aquest no és un cas aïllat; un altre emprenedor, fundador de Joonko Diversity, també s’enfronta a acusacions per declaracions enganyoses sobre les capacitats d’IA de la seva plataforma de reclutament.
Un ecosistema tecnològic que exigeix transparència
La problemàtica amb la intel·ligència artificial no es limita a enganys en l’àmbit comercial. També sorgeixen abusos que utilitzen la tecnologia de manera malintencionada. Per exemple, les estafes que impliquen deepfakes, aquests vídeos o àudios manipulats de manera extremadament realista, estan en augment. Un cas recent va implicar un empleat de finances que va ser enganyat per falsos directius creats per IA, resultant en una pèrdua de més de 25 milions de dòlars. Així mateix, l’ús d’IA generativa per crear identitats falses o falsificar sol·licituds s’està convertint en una gran preocupació, especialment per a posicions de treball remot, on alguns utilitzen aquestes eines per simular entrevistes o generar respostes, complicant la detecció del frau.
La desconfiança ha començat a créixer entre els inversors i les empreses, qui ara són instades a verificar amb més rigor les capacitats d’IA que se’ls presenten. Aquest escàndol ressalta la necessitat de transparència i ètica en el desenvolupament i comercialització de tecnologies relacionades amb la intel·ligència artificial. No obstant això, és fonamental distingir entre les pràctiques fraudulentes i els avenços genuïns en aquest camp. Moltes empreses estan treballant en agents d’IA eficients per detectar fraus, emprant tècniques d’aprenentatge automàtic i anàlisi de dades en temps real. L’adquisició recent de la startup Alterya, que es especialitza en la detecció de fraus mitjançant agents d’IA, per part de Chainalysis per 150 milions de dòlars, és un clar exemple del valor que se li atorga a les solucions autèntiques i efectives en aquest àmbit.