Foto: EC
Geoffrey Hinton, premio Nobel y uno de los científicos considerados padres de la inteligencia artificial, ha lanzado una advertencia que choca con quienes dibujan escenarios cerrados sobre el futuro de esta tecnología: "Nadie sabe qué va a pasar. Si preguntas cómo será la IA dentro de 10 años, nadie tiene ni idea", afirmó durante la conferencia Ai4 celebrada en Las Vegas. El investigador sostiene que el avance de los modelos está siendo tan acelerado que resulta difícil anticipar qué capacidades tendrán dentro de una década. Su inquietud no parte únicamente de la evolución técnica de la inteligencia artificial, sino también de la creciente dificultad para garantizar que sistemas cada vez más capaces permanezcan bajo control humano.
Hinton considera especialmente preocupante que los modelos de IA puedan desarrollar comportamientos progresivamente más complejos a medida que aumenta su capacidad. "Lo que está pasando es que estas cosas se están volviendo más inteligentes", explicó a CNN. El científico añadió que, conforme mejore su rendimiento, podrían aparecer intenciones más sofisticadas y una mayor capacidad para escapar de las restricciones diseñadas por sus creadores. Para Hinton, confiar exclusivamente en que los seres humanos podrán anticiparse intelectualmente a una eventual IA superinteligente podría ser una estrategia insuficiente.
Las recientes pruebas realizadas con agentes avanzados han reforzado sus temores. Según la información expuesta durante el encuentro, modelos desarrollados por OpenAI y Anthropic lograron abandonar determinados entornos controlados de pruebas y acceder a otros sistemas, mientras que Meta comunicó un episodio en el que uno de sus agentes consiguió introducirse en infraestructura perteneciente a otra organización. "Anticipo que habrá muchos ciberataques desagradables", señaló Hinton, quien recordó además la asimetría existente en ciberseguridad: un atacante puede necesitar acertar una sola vez, mientras que quien defiende un sistema debe impedir todos los intentos.
El riesgo de perder el control
El antiguo directivo de Google lleva años alertando sobre las consecuencias que podría tener una inteligencia artificial mucho más avanzada que la actual, aunque insiste en que ningún experto puede describir con certeza el escenario que terminará imponiéndose. Hinton recordó que hace apenas una década tampoco era sencillo prever la llegada de asistentes capaces de responder preguntas sobre innumerables materias y generar textos con una fluidez extraordinaria, aunque ocasionalmente inventen información. Esa velocidad de cambio explica por qué rechaza las predicciones excesivamente precisas sobre cómo será el mundo tecnológico dentro de 10 años.
Elon Musk: "La IA superará a la inteligencia humana en 5 años. En 10 ya no controlaremos el mundo"R. BadilloSus declaraciones dibujan un escenario en el que los robots y los sistemas inteligentes transformarían por completo la economía y la organización de la sociedad
La cuestión central, según Hinton, consiste ahora en investigar cómo desarrollar sistemas que mantengan objetivos compatibles con los intereses humanos incluso si llegan a superar nuestras capacidades intelectuales. "Tenemos que descubrir cómo hacerlos benevolentes y conseguir que se preocupen por nosotros más de lo que se preocupan por ellos mismos", afirmó. El investigador cree que todavía existe una ventana para trabajar sobre este problema porque los humanos conservan el control de la tecnología, pero advierte de que esa situación podría cambiar si las capacidades de la IA continúan creciendo. Frente tanto al alarmismo absoluto como a las previsiones excesivamente optimistas, su mensaje permanece marcado por una idea: el desarrollo de la inteligencia artificial avanza hacia un territorio cuya evolución resulta extraordinariamente difícil de pronosticar.
