El reciente modelo de imagen de OpenAI ha revolucionado la creación de documentos, permitiendo la generación de falsificaciones altamente realistas en cuestión de segundos. Esta nueva herramienta, conocida como GPT-4o, está dejando atrás las técnicas tradicionales de edición de imágenes, abriendo las puertas a la posibilidad de que cualquier persona pueda crear documentos falsos de forma sencilla.
Un usuario de X, bajo el seudónimo de «God of Prompt«, ha compartido ejemplos impactantes que demuestran cómo este modelo puede producir imágenes engañosamente auténticas de cancelaciones de vuelos, transferencias bancarias, diplomas universitarios o recetas médicas.
Desafíos para los sistemas de seguridad
La proliferación de documentos generados por IA presenta un desafío sin precedentes para los mecanismos de verificación actuales. ¿Qué sucede cuando las organizaciones solo realizan comprobaciones superficiales? Este dilema se vuelve crítico en situaciones como solicitudes de compensación, historial de pagos de alquiler o incluso en las primeras fases de selección de personal.
Las agencias y empresas que actualmente implementan controles podrían verse abrumadas por el volumen de posibles falsificaciones.
Aunque los sistemas de detección tengan tasas de éxito consistentes, el aumento de documentos fraudulentos incrementa la probabilidad de que algunos escapen a la detección.
Para mitigar estos riesgos, OpenAI ha integrado características de seguridad en su modelo. Cada imagen generada por GPT-4o incluye metadatos C2PA que las identifican como creadas por inteligencia artificial. Sin embargo, esta protección tiene una trampa: quienes verifiquen estas imágenes necesitan utilizar una herramienta específica para detectar dichos metadatos. Además, es posible que usuarios hábiles encuentren maneras de eliminar estas marcas digitales.
OpenAI también ha desarrollado una herramienta interna para rastrear imágenes generadas por GPT-4o, aunque los detalles sobre su uso y quién tiene acceso a ella siguen siendo poco claros.
En la documentación del sistema GPT-4o, OpenAI expresa su intención de «maximizar la utilidad y la libertad creativa de los usuarios, minimizando al mismo tiempo el daño potencial». La compañía reconoce que la seguridad es un proceso continuo y que sus directrices se adaptan a medida que se recopilan datos de uso en el mundo real.