Tranquilo, OpenAI recapacitó y ha desactivado su herramienta para detectar textos hechos con ChatGPT

En un sorprendente giro de los acontecimientos, OpenAI, la potencia en inteligencia artificial, ha retirado su herramienta de detección de textos generados por IA debido a su baja precisión.

En enero OpenAI presentó con gran entusiasmo su Clasificador de IA, una herramienta destinada a identificar si un contenido había sido creado utilizando herramientas de IA generativa, como su popular ChatGPT. Sin embargo, la calidad de la herramienta no ha sido la esperada.

OpenAI desconecta su AI Classifier silenciosamente

Después de medio año de uso, la empresa decidió desconectar silenciosamente el AI Classifier, ya que no cumplió con las expectativas en cuanto a la tasa de precisión. La explicación fue añadida discretamente en una nota adjunta al blog original que anunciaba la herramienta, sin un anuncio formal.

OpenAI admitió que el clasificador tenía importantes limitaciones. No era totalmente confiable y fallaba en textos con menos de 1,000 caracteres. Además, erróneamente etiquetaba textos escritos por humanos como generados por IA. Estas deficiencias plantean problemas significativos, especialmente en entornos educativos.

OpenAI launched their own classifier for AI-generated text.

- Only works on 1000+ chars
- Can be used by students to prevent detection
- Unreliable on code, non-English
- Labels human text as AI 9% of the time

Sadly, classifies AI text as AI only 26% of the time!

1/3

— Deedy (@debarghya_das) January 31, 2023

Desde el lanzamiento de ChatGPT en noviembre, educadores en todo el mundo han manifestado preocupación por el uso de este chatbot por parte de los estudiantes para escribir ensayos y trabajos académicos. La facilidad con la que los estudiantes podían obtener contenido generado por IA para sus tareas escolares había planteado serias cuestiones sobre la originalidad y ética en el mundo académico.

La introducción del Clasificador de IA por parte de OpenAI parecía una solución prometedora para abordar estos problemas. Se suponía que los profesores y maestros podrían usar la herramienta para detectar si un texto presentado por los estudiantes era genuino o si había sido generado por IA. Sin embargo, la baja precisión de la herramienta ha dejado a los educadores desilusionados y sin una solución confiable para el problema.

Las repercusiones negativas para los usuarios de ChatGPT son evidentes. Con el AI Classifier fuera de servicio, los estudiantes podrían volver a utilizar el chatbot para obtener trabajos académicos generados por IA sin ser detectados. Esto podría conducir a una disminución de la originalidad en el trabajo estudiantil, el aumento del plagio y la falta de esfuerzo en el aprendizaje.

Además, los usuarios en general podrían sentirse desconfiados de confiar en herramientas de detección futuras que OpenAI pudiera desarrollar, ya que el fracaso del Clasificador de IA ha planteado interrogantes sobre la fiabilidad de sus productos.

OpenAI se compromete en mejorar su fallida herramienta

La retirada del AI Classifier también destaca los desafíos en el desarrollo de herramientas de detección de IA precisas. La IA generativa avanza rápidamente, y nuevas herramientas que utilizan esta tecnología emergen casi a diario. La lucha por mantenerse al día con la evolución de la IA y garantizar que las herramientas de detección sean efectivas es un desafío constante para las empresas como OpenAI.

OpenAI ha reconocido las limitaciones de su herramienta y ha expresado su compromiso de investigar técnicas más efectivas para detectar textos generados por IA. La empresa ha prometido desarrollar e implementar mecanismos que permitan a los usuarios comprender si el contenido de audio o visual ha sido creado por IA.

Aunque el Clasificador de IA no ha sido un éxito, OpenAI está aprendiendo de esta experiencia y busca seguir mejorando su tecnología. Mientras tanto, los educadores y usuarios de ChatGPT deberán ser más cautelosos con la originalidad del contenido generado por IA y buscar otras formas de detectar el uso indebido de estas herramientas en el aula y en otros contextos.