Hinton, el padre del cerebro artificial, ahora le tiene miedo a su propia criatura y dice que tenemos hasta 2055 para reaccionar

¿Puede el creador arrepentirse de lo que creó? Sí, y Geoffrey Hinton es el caso testigo. El británico-canadiense de 78 años, ganador del Nobel de Física 2024, es uno de los pocos que puede decir que su trabajo de toda una vida terminó dándole al planeta exactamente lo que él advertía que había que tener miedo. Hablamos de las redes neuronales profundas, esa arquitectura que está detrás de ChatGPT, de Gemini, de Claude y de toda la conversación que tenemos hoy sobre la IA.

Hinton se fue de Google en 2023, cuando todavía era el jefe científico de la división de IA de la empresa, con una justificación que sonó casi a acto de militancia: no podía hablar con libertad sobre los riesgos del campo que él mismo ayudaba a empujar. Hoy, ya fuera del establishment corporativo, su mensaje es directo: la humanidad jamás en su historia se topó con entidades más listas que ella, y eso, dice, es el punto ciego más peligroso del momento.

Veinte por ciento de chances de desaparecer

El número que más circula es una estimación, no una promesa: Hinton le pone entre un 10 % y un 20 % de probabilidades a que una superinteligencia artificial termine extinguiendo a la especie humana en un horizonte de treinta años. Traducido al barrio: imagine que un vecino le dice que tiene entre una y dos chances sobre diez de que la represa de la Quebrada de Cafayate se rompa. ¿Se quedaría tomando mate en la orilla? Probablemente no.

¿De dónde sale ese rango? Hinton lo atribuye a la velocidad con la que se mueven los modelos, que ya dejó atrás las proyecciones que él mismo manejaba hace apenas una década. Para graficar el problema eligió una metáfora bien terrenal: la innovación tecnológica es como pisar el acelerador de un auto sin volante. Cuanto más rápido va, más peligroso es el viaje. La regulación gubernamental, en su esquema, es ese volante.

¿La IA ya entiende o solo repite patrones?

Hay un punto que Hinton con fuerza y que separa, según él, esta generación de máquinas de cualquier otra herramienta que la humanidad haya construido: los modelos de lenguaje más avanzados, dice, ya no se limitan a detectar correlaciones estadísticas en montañas de texto. Comprenden, de verdad, los conceptos semánticos y abstractos que procesan. La diferencia no es técnica, es filosófica, y es lo que cambia la categoría del riesgo.

Para ponerlo en criollo: no es lo mismo un loro que repite palabras sin entender que un chico de cinco años que le pregunta por qué llueve. Hinton asegura que hoy la IA ya está más cerca del chico que del loro. Y eso, dice, es lo que vuelve urgente el debate regulatorio.

Mercado, autorregulación y geopolítica

Frente al clásico argumento de que regular frena la innovación y deja a un país atrás frente a sus competidores, el científico responde con una frase que funciona como bisturí: confiar en que el mercado se autorregule ante una amenaza de esta escala es un error estratégico mayúsculo. La competencia geopolítica, remata, no puede ser excusa válida para postergar marcos legales globales.

La ventana para actuar, advierte, se está cerrando rápido. La humanidad todavía puede decidir la orientación ética de los sistemas que está construyendo, pero ese margen se achica a medida que los modelos ganan capacidad de forma autónoma y aprenden a hacer cosas que ni sus propios creadores terminan de explicar.

• El creador de la arquitectura base de la IA moderna, Geoffrey Hinton, pasó de investigador estrella de Google a crítico público del campo tras renunciar en 2023.
• Estima entre 10 % y 20 % las probabilidades de que la superinteligencia artificial extinga a la humanidad en los próximos treinta años.
• Asegura que los modelos de lenguaje actuales ya comprenden conceptos abstractos, no solo patrones estadísticos, lo que redefine el tipo de riesgo.
• Pide regulación estatal inmediata y leyes globales, comparando la innovación sin control con un auto acelerado sin volante.
• Argumenta que la competencia entre países no puede ser razón suficiente para postergar acuerdos internacionales sobre la tecnología.
• Afirma que la ventana para definir la ética de estos sistemas se cierra con rapidez a medida que los modelos ganan autonomía.

¿Qué tipo de regulación concreta te parece realista para una tecnología que no entiende de fronteras? Hinton lo tiene claro: o el volante llega antes que el próximo modelo superinteligente, o la discusión va a quedar en manos de máquinas que ya no necesitan pedir permiso. Veremos.