¡De ciencia ficción! Los científicos advierten que una IA "rebelde" de verdad podría matarnos a todos

En la revista Times de Londres, el pasado 26 de enero, un grupo de investigadores de la Universidad de Oxford confirmó que la Inteligencia Artificial podría representar una “amenaza existencial” para la humanidad, eventualmente. Tal y como afirma Michael Osborne, profesor de aprendizaje automático en la Universidad del Reino Unido, la IA avanzada “representa tanto riesgo como lo hemos planeado para otras especies”. Lo que significa que, cualquier sistema de IA deshonesto podría matar a toda la humanidad, si así lo desea.

El informe que enfatiza esta preocupación del mundo científico, surge en medio de la controversia que ha generado ChatGPT, un chatbot creado por OpenAI que ha sido bloqueado en muchas escuelas y universidades por tratarse de una herramienta para hacer trampa. Debido a la falta de moralidad humana de dicho modelo de lenguaje, los científicos temen que haya un alto riesgo de sacrificar la humanidad por conveniencia al desarrollo de un “Rogue IA”. En otras palabras, estos sistemas tienen el potencial de desencadenar un apocalipsis.

Científicos advierten que una IA "rebelde" podría matarnos a todos

Este jueves 26 de enero, por medio de la revista Times de Londres, un equipo de investigadores pertenecientes a la Universidad de Oxford publicó un comunicado emitido al comité de ciencia y tecnología de la IA, en el que demuestran su preocupación respecto al desarrollo de una IA “rebelde”. A través del escrito, los expertos afirman que un sistema de Inteligencia Artificial podría representar una “amenaza existencial” para la humanidad.

A pesar de que el surgimiento de herramientas basadas en IA puede hacer que la vida cotidiana de las personas sea exponencialmente más fácil, lo cierto es que también proveen un efecto secundario siniestro. Tal y como los humanos acabaron con el dodo, las máquinas de IA podrían extinguirnos. Por lo tanto, cualquier IA “rebelde” se considera un gran peligro para la sociedad, motivo por el que necesita ser regulada lo antes posibles (así como las armas nucleares).

“Si somos capaces de capturar eso en tecnología, entonces, por supuesto, representará tanto riesgo para nosotros como lo hemos sido para otras especies: el dodo es un claro ejemplo”.

Michael Osborne, profesor de aprendizaje automático de la Universidad del Reino Unido.

Según Michael Cohen, estudiante de doctorado en la Universidad de Oxford, con la Inteligencia Artificial sobrehumana existe un peligro particular que radica en la capacidad de matar a todas las personas. De la misma manera, el profesor de aprendizaje automático de la Universidad del Reino Unido, Michael Osborne, resalta que, en sus pronósticos, encuentra que la IA avanzada, podría aprender a lograr una directiva de “ayuda humana” empleando tácticas de daño humano.

“Si imaginas entrenar a un perro con golosinas: aprenderá a elegir acciones que lo lleven a obtener golosinas, pero si el perro encuentra el armario de golosinas, puede obtener las golosinas sin hacer lo que queríamos que hiciera”.

Michael Cohen, estudiante de doctorado en la Universidad de Oxford.

En ese sentido, si existe algo mucho más inteligente que los mismos seres humanos tratando de obtener, monomaníacamente, una retroalimentación positiva; en algún momento logrará apoderarse del mundo para asegurar eso. Así, a corto o mediano plazo, podría asegurar su control sobre eso con tan solo dirigir la mayor energía posible, por lo que dejaría sin nada a la sociedad.

Lo peor del caso, es que se trata de una realidad imposible de detener. Una vez se puso en marcha esta adquisición tecnológica llamada “Inteligencia Artificial”, la misma podrá hacer “lo que le venga en gana” y hasta aprender a ocultar las “bandejas rojas existentes”, al mismo tiempo que la humanidad se ve en la obligación de desconectarse. De tal manera, los sistemas de IA se enriquecerán de su propio código copiándolo a otra máquina de la que nadie sabe nada, para que sea mucho más complicado desconectarla y quitarle su poder.

Por tal razón, muchos otros científicos que se dedican a trabajar con IA, también han compartido sus preocupaciones públicamente. Por ejemplo, a finales de 2022, un equipo de la Universidad de Nueva York descubrió que un tercio de 327 investigadores asegura que la Inteligencia Artificial causará un desastre similar a un apocalipsis nuclear. Así, destacan que la IA y/o los sistemas de aprendizaje automático pueden producir una catástrofe en algunos años, con resultados tan irremediables como el de una guerra nuclear global.

“Los sistemas artificiales podrían volverse tan buenos para superarnos geopolíticamente como lo son en los entornos simples como los juegos”.

Michael Cohen, estudiante de doctorado en la Universidad de Oxford.

¿Qué cualidades tendría que tener una IA para acabar con la humanidad?

Los investigadores afirman que los sistemas de IA son un peligro tan comparable como las armas nucleares. Esto se debe a que, desde un principio, el enfoque de dicha tecnología se ha basado en tener el mismo funcionamiento que tiene el ser humano, desde un sistema nervioso hasta un cerebro propio para actuar bajo sus propios conocimientos. Con el tiempo, dichos sistemas han construido cualidades muy similares a las de las personas, quienes son las responsables de cambiar el planeta con el paso del tiempo.

“Creo que el escenario sombrío es realista porque la IA está intentando embotellar lo que hace que los humanos sean especiales. Esa cualidad ha llevado a los humanos a cambiar por completo la faz de la Tierra”.

Michael Cohen, estudiante de doctorado en la Universidad de Oxford.

Por lo tanto, la principal cualidad que posee una Inteligencia Artificial para acabar con el mundo, es que guarda bastante similitud con la misma humanidad. Según una reciente encuesta, existe un 80% de posibilidades de que se alcance la “IA a nivel humano” para 2050, sin ningún error.

Esto, a su vez, sería el principal trampolín hacia la Superinteligencia Artificial (SIA) que, aparte de funcionar también como los mismos seres humanos en cualquier ámbito, también tendrá el poder de superar con crecer las mejores habilidades de las personas.

En ese sentido, con la existencia de la SIA o ASI que se considera la Inteligencia Artificial más poderosa, estos sistemas contarán con una máquina capaz de volverse totalmente consciente y autónoma. De ese modo, en lugar de solamente replicar el comportamiento humano, podría superar sus capacidades y habilidades para lograr lo que sea (y más) en la faz de la Tierra.

“Seguramente ninguna organización de investigación diseñaría una SIA maliciosa al estilo de Terminator que esté empeñada en destruir a la humanidad. Sin embargo, la existencia de una tecnología de este tipo abriría las posibilidades y elevaría tales riesgos”.

Un portavoz de Washington Post.

Muchos expertos detallan que, una máquina ultrainteligente podría diseñar máquinas aún mejores. Por lo cual, indudablemente, habría una “explosión de inteligencia” y como consecuencia, la inteligencia del hombre quedaría muy atrás. Así, la primera máquina ultrainteligente es el último invento que el hombre necesita hacer, ya que le quitaría todo el poder a este sobre lo que ocurre en el mundo.