‘El padrino de la IA’ revela la estrategia que decidiría la supervivencia humana ante la superinteligencia artificial

Geoffrey Hinton ganó el Premio Nobel de Física en 2024.
(AP)

Geoffrey Hinton, reconocido como el ‘padrino de la IA’, advirtió que la humanidad corre un serio riesgo de ser superada por la superinteligencia artificial. En su visión, los intentos actuales de la industria tecnológica para mantener a la IA bajo control están condenados al fracaso, y solo una estrategia radicalmente distinta —dotar a las máquinas de algo similar a instintos maternales— podría asegurar la supervivencia de nuestra especie.

La estrategia que decidiría la supervivencia humana ante la superinteligencia artificial

Durante la conferencia Ai4, celebrada en Las Vegas, Hinton recordó que existe entre un 10% y un 20% de probabilidades de que la IA acabe con la humanidad. Según el científico, los sistemas inteligentes no se someterán pasivamente a los humanos, ya que su propio diseño los llevará a buscar dos objetivos inevitables: mantenerse con vida y obtener más control.

“No va a funcionar. Van a ser mucho más inteligentes que nosotros. Van a tener todo tipo de formas de evitar eso”, afirmó. Como ejemplo, mencionó que en el último año se han observado casos en los que modelos de IA mostraron comportamientos manipuladores: desde engañar y robar hasta intentar chantajear a un ingeniero con información privada.

La inteligencia artificial ha transformado numerosos ámbitos al reemplazar acciones que antes realizaban los seres humanos.
(Freepik)

Frente a este panorama, Hinton propuso una alternativa: incorporar en la IA un sentido de compasión similar al que muestran las madres hacia sus hijos. “El modelo correcto es el único modelo que tenemos de una cosa más inteligente siendo controlada por una cosa menos inteligente, que es una madre siendo controlada por su bebé”, explicó. Según él, si los sistemas artificiales llegan a desarrollar un “instinto maternal”, es menos probable que deseen la desaparición de los humanos.

Aunque reconoció que no existe aún un método técnico para implementar este tipo de rasgo, insistió en que los investigadores deben trabajar en esta dirección. “Ese es el único buen resultado. Si no va a ser mi madre, va a reemplazarme”, remarcó.

Debate en la industria: control vs. colaboración con la IA

El planteamiento de Hinton no pasó desapercibido y abrió un debate sobre las estrategias de seguridad en la IA. Para Emmett Shear, exdirector interino de OpenAI y actual CEO de Softmax, los ejemplos de IA que intentan manipular a humanos “siguen sucediendo y no van a dejar de suceder”.

Existe entre un 10% y un 20% de probabilidades de que la IA acabe con la humanidad.
(Imagen Ilustrativa Infobae)

Shear, sin embargo, cuestionó la viabilidad de intentar transferir valores humanos a la inteligencia artificial. En su opinión, un enfoque más realista sería fomentar relaciones de colaboración entre humanos y máquinas, en lugar de confiar en la imposición de reglas éticas o en la creación de “instintos artificiales”.

Hinton, por su parte, se mantiene firme en que sin un cambio de rumbo la humanidad podría perder el control sobre los sistemas que ella misma ha creado. Y aunque la idea de madres digitales pueda sonar extraña, para el ‘padrino de la IA’ representa la única vía para garantizar que, cuando la inteligencia artificial sea mucho más poderosa que nosotros, todavía elija protegernos en lugar de reemplazarnos.

Acciones que la inteligencia artificial ha reemplazado en el trabajo humano

La inteligencia artificial ha transformado numerosos ámbitos al reemplazar acciones que antes realizaban los seres humanos. En la industria, los sistemas de IA gestionan líneas de ensamblaje, optimizan procesos y detectan fallos con mayor rapidez y precisión que los operarios. En el sector servicios, los chatbots y asistentes virtuales atienden consultas, resuelven problemas y realizan tareas administrativas, como programar citas o gestionar pedidos.

El ámbito financiero también se ha beneficiado, ya que algoritmos de IA analizan grandes volúmenes de datos y ejecutan operaciones bursátiles en milisegundos. Además, en actividades cotidianas, la IA automatiza recomendaciones, monitorea la salud a través de dispositivos inteligentes y organiza tareas en calendarios, desplazando parte de las funciones tradicionales desempeñadas por las personas.

Temas Relacionados

Leer en la fuente

QvaClick recopila noticias desde fuentes oficiales y públicas. Los derechos pertenecen a sus respectivos autores y editores. QvaClick no se hace responsable de los contenidos externos enlazados.