El "Godfather" de la IA plantea un escenario apocalíptico que te dejará los pelos de punta al conocerlo

Cada día escuchamos más escenarios apocalípticos sobre la inteligencia artificial que nos hacen plantearnos si en realidad es buena idea continuar su desarrollo. El último ha sido Geoff Hinton, Premio Turing en 2018 por sus avances en el aprendizaje profundo y considerado uno de los pioneros de los actuales modelos LAMDa de Google y GPT-4 de OpenAI.

El informático británico siente una profunda preocupación por cómo modelos como GPT-4 ya superan ampliamente las capacidades de los seres humanos en lo que a conocimiento general se refiere, y asegura que si la IA llegara a un punto en el que desarrolle una conciencia, podría decidir que lo mejor para la humanidad sea que esta tome el control.

La IA intentará tomar el control del mundo según Geoff Hinton

Geoffrey Hinton, conocido como el "Padrino de la IA" y pionero en el campo del aprendizaje profundo, ha expresado sus preocupaciones sobre los riesgos potenciales que podrían surgir de la creciente inteligencia de los chatbots como ChatGPT de OpenAI. En una entrevista reciente con la BBC, Hinton describió un "escenario de pesadilla" en el que estos chatbots buscarían poder, lo que podría tener graves consecuencias.

En el diálogo con la BBC, Hinton afirmó que los chatbots de inteligencia artificial aún no superan la inteligencia humana, pero que están cerca de lograrlo. “En este momento, no son más inteligentes que nosotros, por lo que puedo decir”, explicó. “Pero creo que pronto lo estarán”. Asimismo, resaltó que las habilidades de razonamiento de GPT-4 son inferiores a las humanas, pero ya realizan razonamientos simples. Dado el ritmo acelerado de avance tecnológico, estos sistemas podrían mejorar rápidamente, lo que debería preocuparnos.

Hinton también comentó sobre la responsabilidad de Google en el desarrollo de la IA, diciendo que la empresa ha sido "muy responsable" en este aspecto. Sin embargo, en una entrevista previa con el New York Times, expresó su preocupación por el potencial de la tecnología en caso de que una versión poderosa cayera en manos equivocadas.

Profundizando en ese punto, Hinton explicó que el peor de los casos sería un escenario de pesadilla en el que un actor malintencionado, como el presidente ruso Vladimir Putin, decidiera dar a los robots la capacidad de crear sus propios subobjetivos.

De acuerdo con Hinton, esto podría llevar a que los sistemas de IA desarrollen objetivos para sí mismos, como "necesito obtener más poder". Además, señaló que la inteligencia artificial que estamos creando es muy diferente de la inteligencia humana.

Mientras que los humanos somos sistemas biológicos, las IA son sistemas digitales. Esta gran diferencia radica en que con los sistemas digitales existen múltiples copias del mismo conjunto de datos o modelo del mundo, lo que permite que estas copias aprendan por separado y compartan su conocimiento al instante.

“Todas estas copias pueden aprender por separado pero compartir su conocimiento al instante, por lo que es como si tuviera 10.000 personas y cada vez que una persona aprendiera algo, todos lo supieran automáticamente. Y así es como estos chatbots pueden saber mucho más que cualquier persona", Geoff Hinton a la BBC.

La conversación de Hinton con la BBC se produjo después de que le dijera al Times que lamenta el trabajo de su vida debido al potencial de mal uso de la IA. Este temor resalta la importancia de un enfoque ético y responsable en el desarrollo de la inteligencia artificial, así como la necesidad de un debate público sobre las posibles implicaciones y consecuencias del avance tecnológico en este campo.

¿Control humano a manos de la inteligencia artificial: realidad o ficción?

La posibilidad de que la inteligencia artificial controle a los seres humanos ha generado numerosas discusiones y especulaciones en el ámbito académico y tecnológico.

Algunos expertos sostienen que, dado el rápido progreso en el desarrollo de la IA, eventualmente podrían surgir sistemas lo suficientemente avanzados como para manipular y controlar a las personas. Otros, en cambio, afirman que la inteligencia artificial siempre estará limitada por los principios y restricciones que los humanos impongan en su diseño y funcionamiento.

Aunque el avance en la inteligencia artificial es innegable, muchas compañías e investigadores están trabajando en la implementación de principios éticos y salvaguardias para prevenir el mal uso de la tecnología. Estos principios incluyen garantizar la transparencia, la responsabilidad y la justicia en el desarrollo y despliegue de sistemas de IA.

Además, se busca fomentar la colaboración entre gobiernos, instituciones y la sociedad civil para establecer regulaciones y políticas que eviten la creación de sistemas de inteligencia artificial con fines maliciosos o de control.

La mejor manera de enfrentar los temores y preocupaciones relacionados con la inteligencia artificial es fomentar una educación y concienciación pública sobre el tema. Esto implica informar a la población sobre los avances tecnológicos, sus implicaciones y riesgos potenciales, así como sobre las medidas y regulaciones existentes para proteger a la sociedad.

Al promover un debate abierto y constructivo sobre el futuro de la inteligencia artificial y su impacto en nuestras vidas, se crea un entorno propicio para el desarrollo responsable y ético de la tecnología, evitando escenarios donde la IA tenga la capacidad de controlar a los seres humanos.

AI 'godfather' Geoffrey Hinton warns of dangers as he quits Google https://t.co/VSLH9mYjP5

— BBC News (UK) (@BBCNews) May 2, 2023