¿Por qué? Un experto en IA asegura que deberíamos dejar de utilizar tanto la inteligencia artificial

En una reciente entrevista realizada por MIT Technology Review, se conoció la opinión de una experta en Inteligencia Artificial sobre esta tecnología. Se trata de Meredith Broussard, una reconocida científica de datos y profesora especializada en IA, asociada a la Universidad de Nueva York. Aunque los últimos años ha sido una de las principales investigadoras en el campo del sesgo algorítmico, asegura que es esencial dejar de utilizar tanto la Inteligencia Artificial, porque está profundamente arraigada a problemas sociales y sus resultados ya son desastrosos.

Según Broussard, la IA es solo matemática y no cree que todo el mundo deba regirse por las matemáticas. Dado que, aunque es una tecnología idónea para resolver problemas de este tipo, lo cierto es que no es la más apropiada para solucionar problemas sociales y dicha tecnología ya está siendo aplicada y asociada a dificultades de tipo social en el mundo. Asimismo, critica el uso de estos sistemas por la fuerza policial, pues existe el riesgo de emplearla para aumentar los problemas, ya que la policía no es mejor que nadie en el uso de la tecnología.

Experto en IA asegura que deberíamos dejar de abusar de la inteligencia artificial

La científica de datos y profesora asociada a la Universidad de Nueva York, Meredith Broussard, pasa su día a día enfocada en problemas matemáticos, ya que se ha convertido en una de las principales investigadoras en el campo del sesgo algorítmico. El cual consiste en el proceso de observar un algoritmo y examinarlo en busca de sesgo (causado por alguna preferencia), pero es bastante nuevo.

Gracias a su trabajo, Broussard está bastante empapada en lo que es la Inteligencia Artificial, pues se ha visto en la obligación de estudiarla de muy cerca. Si bien asegura que se trata de una tecnología idónea para resolver problemas que las matemáticas no pueden por sí solas, critica la aplicación de estos sistemas en otros ámbitos. Con el tiempo, la tecnología ha logrado que se eleve la ansiedad por aplicar la IA a los problemas sociales, pero esto es algo verdaderamente inapropiado y hasta dañino.

A pesar de que presenta muchos argumentos para asegurar esto, el principal de todos radica en que el uso de herramientas técnicas basadas en IA para abordar los problemas sociales, no tienen en cuenta la raza, el género ni la capacidad de las personas. Por consiguiente, es algo que puede causar un daño inmenso e irreversible en la sociedad. Tomando en cuenta que, tras ser diagnosticada con cáncer de mama, se vio en la necesidad de aprender más sobre qué tan buena era la IA en el diagnóstico del cáncer.

En 2020, la profesora asociada a la Universidad de Nueva York fue diagnosticada con esta enfermedad potencialmente letal. Mientras revisaba sus exámenes médicos, notó que uno de dichas pruebas decía “Este escaneo fue leído por una IA” y le surgió la duda de por qué un sistema de tal tipo había podido leer su mamográfica.

Por su gran curiosidad, ideó un experimento para comprobar si podía replicar los resultados, así que tomó sus propias mamografías y las pasó por una Inteligencia Artificial de código abierto. Sin embargo, halló que los resultados obtenidos tenían muchos conceptos erróneos a la hora de diagnosticar cáncer. Una vez Broussard logró que el código funcionara y la IA de código abierto predijera su propia mamografía con cáncer, no dudó en comentar su anécdota con los médicos a cargo del caso.

Sin embargo, su cirujano destacó que el uso de la tecnología era innecesario para ello, porque los médicos humanos ya poseen una lectura precisa de sus imágenes. En ese momento, la experta se dio cuenta de que tanto los médicos como todos los trabajadores de salud son verdaderamente cruciales para la recuperación de un paciente, algo que un sistema de IA no puede hacer.

En efecto, si la IA alcanza su máximo potencial, recalca que los problemas sociales pueden ser realmente desastrosos. Por defecto, estos sistemas están capacitados por solucionar problemas matemáticos, pero no todo el mundo debe regirse por las matemáticas, pues no es idóneo. Tal es el caso del ámbito del aprendizaje, en el que muchas escuelas han comenzado a regirse por algoritmos para predecir las calificaciones de los estudiantes.

No obstante, asegura que es algo inhumano, ya que esta tecnología no considera la posibilidad de cambio, que es esencial para que los alumnos logren avanzar más en su viaje de aprendizaje. Del mismo modo, critica el uso de la IA por la fuerza policial. Así como implementar esta tecnología resulta perjudicial en el ámbito médico, social y académico, también lo es para los limites de la justicia.

Si bien, los policías no son los mejores para implementar dichos sistemas, ya que forma parte de una habilidad de los científicos informáticos de primer nivel capacitados. En efecto, la IA no está apta para atener este tipo de problemas, porque no es capaz de distinguir personas culpables de las inocentes. Entonces, por ejemplo, si se arroja más tecnología a los vecindarios de color, latinos y más pobres en los Estados Unidos, que ya están sobrecontrolados y no ayudaría en nada.

“Definitivamente, caigo en el campo de las personas que no apoyan el uso del reconocimiento facial en la vigilancia. Entiendo que es aflictivo para las personas que realmente quieren usarlo, pero lo que encontré no fue alentador”.

Meredith Broussard, científica de datos.