Неотдавнашно проучване, проведено от изследователи от университета в Индиана, показва откриха около 1,140 акаунта, управлявани от ботове с изкуствен интелект в социалната мрежа X, известна преди като Twitter.
Тези акаунти, наречени ботнет мрежа "Фокс8", те използват авангардна технология като ChatGPT за създаване на фалшиво съдържание и крадат истински профилни снимки, за да се представят за истински потребители.
Проучване установява, че ботове с изкуствен интелект крадат селфита, за да създават фалшиви профили в X
Според проучването, публикувано в New York PostЦелта на тези ботове е да подведат потребителите да инвестират в измамни криптовалути. Дори се подозира, че ботовете Те стигнаха дотам, че да крадат портфейли с криптовалута.Тези акаунти често използват хаштагове, свързани с криптовалути, като #bitcoin и #crypto, и взаимодействат с реални човешки акаунти, които публикуват новини по тази тема.
„С появата и наличността на безплатни API-та с изкуствен интелект, като ChatGPT, искахме да видим дали тези инструменти вече се използват за заблуда на хората. И се оказа, че е така, за съжаление, но не е изненадващо.“
Информация от „Ню Йорк Поуст“.
Освен че популяризират фалшиви криптовалути, ботовете на Fox8 разпространяват и дезинформация по различни теми като избори и обществено здраве. Те заливат платформата с множество генерирани от изкуствен интелект публикации. увеличаване на вероятността реални потребители да видят вашите измамни публикации и кликвайте върху вредни връзки.
За да изглеждат по-човешки, тези ботове не само използват снимки, откраднати от други профили, но и взаимодействат помежду си и имат определен брой последователи и приятели. Проучването подчертава, че достоверността на тези разкази се е подобрила. поради напредъка в езиковите модели като ChatGPT.
Въпреки че не бяха разкрити конкретни сведения, изследователите откриха някои случайно чрез туитове, които издаваха изкуствения им произход. Анализът показва, че значителен брой акаунти, използващи определени фрази, вероятно са били ботове. което генерира съдържание с помощта на изкуствен интелект.
Изследователите заключиха, че Това може да е само началото.тъй като по-сложните ботове биха могли да останат незабелязани от настоящите методи за откриване. Те поискаха по-добри мерки и регулации. за да се противодейства на този проблем.
След публикуването на изследването, X премахна 1,140 акаунта, идентифицирани като ботовеИзследователите обаче отбелязаха, че платформата не е реагирала на техните открития. Когато беше потърсена за коментар, X изпрати автоматичен отговор, обещавайки по-нататъшна комуникация.
Нарастващото използване на ботове в социалните медии
Използването на ботове и фалшиви акаунти, генерирани от изкуствен интелект, не е характерно само за платформа X. Всъщност, това се е превърнало в широко разпространен проблем. в основните социални медийни платформи по целия свят.
Скорошни изследвания, като например проучване от Държавния университет на Ню Йорк в БингхамтънТе предполагат, че около 15% от активните акаунти в Twitter може да са ботовеТази цифра може да бъде дори по-висока в други мрежи като Facebook, Instagram и YouTube.
Ботовете се използват за различни цели, от изкуствено завишаване на броя на последователите и харесванията, до разпространение на спам, фалшиви новини и политическа пропаганда. Автоматизираните акаунти са доказали своята ефективност при манипулирането на тенденции. и онлайн публични дискусии.
Платформи като Facebook и Twitter твърдят, че предприемат стъпки за откриване и премахване на фалшиви акаунти. Въпреки това, тъй като изкуственият интелект става все по-усъвършенстван, Ботовете също правят това, което ги прави все по-трудни за идентифициране..
Неотдавнашно проучване на социалната мрежа X подчертава необходимостта компаниите за социални медии и правителствата да работят заедно за регулиране и наблюдение на използването на ботове. за да се защитят обикновените потребители от измами и дезинформацияМеждувременно потребителите трябва да останат бдителни и да не вярват на всичко, което четат онлайн.
