Recientemente, dos destacados ganadores del Turing Award, Andrew Barto y Richard Sutton, han utilizado su plataforma para alertar sobre los peligros de las actuales innovaciones en inteligencia artificial. Su crítica no se centra en un apocalipsis tecnológico, sino en la falta de evaluaciones rigurosas por parte de algunas empresas antes de introducir sus aplicaciones al público.
Barto, quien es profesor emérito en la Universidad de Massachusetts, y Sutton, con experiencia en la Universidad de Alberta y en DeepMind de Google, han sido galardonados con este prestigioso premio, que incluye una recompensa de un millón de dólares, por sus contribuciones en el ámbito del aprendizaje por refuerzo. Esta técnica permite que los modelos de IA aprendan y se adapten a través de retroalimentación constante, lo que mejora su capacidad de razonamiento y toma de decisiones.
El dilema de la seguridad en la IA
“Lanzar software sin las adecuadas medidas de seguridad es un enfoque técnico fallido”, advirtió Barto, comparando esta situación con construir un puente que la gente debe usar sin pruebas adecuadas.
En su opinión, el desarrollo tecnológico debería minimizar los efectos adversos, algo que falta en las empresas que actualmente están poniendo en el mercado modelos de IA.
Ambos académicos expresaron su inquietud por el ritmo acelerado de la evolución de la IA y la carrera entre empresas por crear modelos cada vez más sofisticados, aunque con una alta propensión a errores. Además, señalan que estas empresas están invirtiendo cantidades nunca vistas en sus proyectos, lo que puede distorsionar sus motivaciones. “El modelo de grandes centros de datos, donde se cobran tarifas por el uso del software, no es el tipo de incentivo que apoyo”, añadió Barto.
La noción de AGI y su controversia
En cuanto a la tan discutida AGI (Inteligencia Artificial General), Sutton rechazó la idea de que sea necesaria una visión grandiosa para crear una inteligencia superior que beneficie a todos. Para él, esta noción es más un fenómeno de marketing. Según sus declaraciones al Financial Times, “la AGI es un término extraño, ya que siempre ha existido la IA y el interés por comprender la inteligencia”. Según Sutton, el verdadero progreso en sistemas que superen la inteligencia humana se logrará a través de una comprensión más profunda del cerebro humano, donde el aprendizaje efectivo se basa en la recompensa en lugar de la ausencia de retroalimentación o la amenaza de castigos.
Reflexiones sobre el futuro de la inteligencia artificial
A pesar de sus críticas, Barto y Sutton mantienen la esperanza de que la IA pueda tener un impacto positivo en el mundo. “Podemos llegar a ser menos egoístas y más conscientes de lo que sucede a nuestro alrededor. Aunque hay muchos problemas en el mundo, la inteligencia no es uno de ellos”, expresó Sutton.
Por otro lado, ambos criticaron las decisiones del presidente Donald Trump de reducir el financiamiento federal para la investigación científica, lo que podría acarrear graves consecuencias para el liderazgo tecnológico de Estados Unidos.