В изненадващ обрат на събитията, OpenAI, локомотивът в областта на изкуствения интелект, премахна своя инструмент за разпознаване на текст, генериран от изкуствен интелект поради ниската му точност.
През януари OpenAI ентусиазирано представи своята Класификатор с изкуствен интелектинструмент, предназначен да да се определи дали съдържанието е създадено с помощта на инструменти за генеративен изкуствен интелект, като например популярния им ChatGPT. Качеството на инструмента обаче не оправда очакванията.
OpenAI тихо изключва своя AI класификатор
След шест месеца употреба, Компанията реши тихо да изключи AI класификаторазащото не отговори на очакванията относно степента му на точност. Обяснението беше добавено тихомълком в бележка, приложена към оригиналната публикация в блога, обявяваща инструмента, без официално съобщение.
OpenAI призна, че класификаторът има значителни ограничения. Не беше напълно надежден и се провали при текстове с по-малко от 1,000 знака.Освен това, неправилно е определил написаните от човек текстове като генерирани от изкуствен интелект. Тези недостатъци създават значителни проблеми, особено в образователната среда.
OpenAI пуснаха собствен класификатор за генериран от изкуствен интелект текст.
– Работи само с над 1000 знака
– Може да се използва от ученици, за да се предотврати откриването
– Ненадежден код, не е на английски
– Етикетира човешки текст като изкуствен интелект в 9% от случаитеЗа съжаление, класифицира AI текста като AI само в 26% от случаите!
1/3
—Дийди (@debarghya_das) Януари 31, 2023
След стартирането на ChatGPT през ноември, преподаватели по целия свят изразиха загриженост относно използването на този чатбот от студенти за писане на есета и академични доклади. Лекотата, с която студентите могат да получат генерирано от изкуствен интелект съдържание За училищните си задачи той повдигна сериозни въпроси относно оригиналността и етиката в академичния свят.
Въвеждането на AI класификатора от OpenAI изглеждаше като обещаващо решение за справяне с тези проблеми. Учителите трябваше да могат да използват инструмента, за да открият дали текстът, подаден от учениците, е истински или е генериран от изкуствен интелект. Въпреки това, Ниската точност на инструмента разочарова преподавателите и ги оставя без надеждно решение на проблема..
Негативните последици за потребителите на ChatGPT са очевидни. С офлайн класификатора с изкуствен интелект, студентите отново могат да използват чатбота, за да получават генерирана от изкуствен интелект академична работа, без да бъдат открити.Това може да доведе до намаляване на оригиналността в студентските работи, увеличаване на плагиатството и липса на усилия в ученето.
Освен това, потребителите като цяло може да се чувстват предпазливи да се доверяват на бъдещи инструменти за откриване, които OpenAI може да разработи, тъй като провалът на AI Classifier повдигна въпроси относно надеждността на неговите продукти.
OpenAI се ангажира да подобри своя инструмент с недостатъци
Оттеглянето на Класификатор с изкуствен интелект Той също така подчертава предизвикателствата при разработването на точни инструменти за откриване с изкуствен интелект. Генеративният изкуствен интелект се развива бързо и нови инструменти, използващи тази технология, се появяват почти ежедневно. Борбата да се следи развитието на изкуствения интелект и да се гарантира ефективността на инструментите за откриване Това е постоянно предизвикателство за компании като OpenAI.
OpenAI призна ограниченията на своя инструмент и изрази ангажимента си да проучи по-ефективни техники за откриване на генериран от изкуствен интелект текст. Компанията обеща да разработи и внедри механизми които позволяват на потребителите да разберат дали аудио или визуално съдържание е създадено от изкуствен интелект.
Въпреки че AI Classifier не е бил успешен, OpenAI се учи от този опит и се стреми да продължи да усъвършенства технологията си. Междувременно, Преподавателите и потребителите на ChatGPT трябва да бъдат по-предпазливи относно оригиналността на генерираното от изкуствен интелект съдържание. и да се търсят други начини за откриване на злоупотребата с тези инструменти в класната стая и в други контексти.
