ভুয়া খবর: অপতথ্য ছড়ানোর জন্য ব্যবহৃত ডিপফেক প্রযুক্তি… আমরা কীভাবে নিজেদের রক্ষা করতে পারি?

এটি কল্পনা করুন: আপনি একটি সংবাদ ভিডিওতে ক্লিক করে দেখলেন, ‘মার্কিন যুক্তরাষ্ট্রের রাষ্ট্রপতি’ অন্য দেশের একজন নেতার সঙ্গে এক সংবাদ সম্মেলনে অংশ নিচ্ছেন। কথোপকথনটি বাস্তব… সংবাদ সম্মেলনটিও বাস্তব… এবং আপনি তা এক বন্ধুর সাথে শেয়ার করলেন। সেও তা অন্য বন্ধুদের সাথে শেয়ার করল, এবং শীঘ্রই সবাই তা দেখে ফেলল। কেবল পরে আপনি জানতে পারলেন যে... রাষ্ট্রপতির মাথা অন্য একজনের শরীরের উপর বসানো হয়েছিল।আর এর কোনোটিই আসলে ঘটেনি।

এটা কি অবিশ্বাস্য মনে হচ্ছে? যদি আপনি ইউটিউব ব্যবহারকারী «-এর একটি নির্দিষ্ট ভাইরাল ভিডিও দেখে থাকেন, তাহলে আর অবিশ্বাস্য মনে হবে না।Ctrl শিফট মুখ(আপনি নিবন্ধটির শেষে এই ভিডিওটি দেখতে পারেন)। ২০১৯ সালের আগস্ট থেকে তিনি এর চেয়েও বেশি অর্জন করেছেন। ১২.৭ মিলিয়ন ভিউ এবং ১৬,০০০ এর বেশি মন্তব্য এই নিবন্ধটি লেখার তারিখ অনুযায়ী।

সেই ভিডিওতে, আমেরিকান কৌতুক অভিনেতা বিল Hader তিনি টম ক্রুজ এবং সেথ রোগেনের সাথে তার সাক্ষাতের একটি গল্প বলেন। দক্ষ অনুকরণকারী হ্যাডার যখন ক্রুজ এবং রোগেনের সেরা অনুকরণটি করেন, ওই অভিনেতাদের মুখগুলো একে অপরের সাথে নিখুঁতভাবে মিশে গেছে। এবং ভয়ংকরভাবে তার নিজের সাথে। ডিপ ফেক প্রযুক্তি এটি হ্যাডারের ধারণাগুলোকে আরও সুস্পষ্ট করে তোলে, কিন্তু একই সাথে এটিও তুলে ধরে যে ভিডিও কন্টেন্ট বিকৃত করা কতটা সহজ—এবং সম্ভাব্য বিপজ্জনক।

কিন্তু… ডিপফেক বলতে কী বোঝায়?

হ্যাডারের ভিডিওটি বিশেষজ্ঞদের দ্বারা তৈরি একটি ডিপফেক, যা ২০১৪ সালে উদ্ভাবিত একটি প্রযুক্তি। ইয়ান গুডফেলোএকজন পিএইচডি শিক্ষার্থী যিনি এখন কাজ করেন আপেলবেশিরভাগ ডিপফেক প্রযুক্তি ভিত্তি করে তৈরি হয় জেনারেটিভ অ্যাডভার্সারিয়াল নিউরাল নেটওয়ার্ক (GANs).

GANs অনুমতি দেয় অ্যালগরিদম ডেটা ক্লাসিফিকেশনের বাইরে গিয়ে ছবি তৈরি করা। এটি তখন ঘটে যখন দুটি GAN একটি ছবিকে 'বাস্তব' বলে একে অপরকে ধোঁকা দেওয়ার চেষ্টা করে। শুধুমাত্র একটি ছবি দিয়ে, একটি অভিজ্ঞ GAN সেই ব্যক্তির একটি ভিডিও ক্লিপ তৈরি করতে পারে। ২০১৯ সালে, স্যামসাং কৃত্রিম বুদ্ধিমত্তা কেন্দ্র তিনি একটি গবেষণা পত্র প্রকাশ করেছেন, যেখানে এই পদ্ধতির পেছনের বিজ্ঞান তুলে ধরা হয়েছে।

গুরুত্বপূর্ণ বিষয় হলো, সিস্টেমটি জেনারেটর এবং ডিসক্রিমিনেটর উভয়ের প্যারামিটারই ব্যক্তি-নির্দিষ্ট উপায়ে ইনিশিয়ালাইজ করতে সক্ষম, ফলে লক্ষ লক্ষ প্যারামিটার সূক্ষ্মভাবে সমন্বয় করার প্রয়োজন থাকা সত্ত্বেও, মাত্র কয়েকটি ছবির ওপর ভিত্তি করে প্রশিক্ষণ দ্রুত সম্পন্ন করা যায়।

আমরা দেখিয়েছি যে এই পদ্ধতিটি নতুন মানুষ এবং এমনকি প্রতিকৃতি থেকেও অত্যন্ত বাস্তবসম্মত ও নিজস্ব প্রয়োজন অনুযায়ী কথা বলা মুখের মডেল শিখতে সক্ষম।

নথিটির পেছনের গবেষকরা একথা বলেছেন।

আপাতত, এটি শুধুমাত্র ‘টকিং হেড’ ভিডিওর ক্ষেত্রেই প্রযোজ্য। কিন্তু যখন ৪৭% ব্যবহারকারী অনলাইন ভিডিও কন্টেন্টের মাধ্যমে তাদের খবর পান…কী হবে যখন GAN-রা মানুষকে নাচাতে, হাততালি দিতে বা কোনোভাবে প্রভাবিত করতে পারবে?

ভুয়া খবর কেন বিপজ্জনক?

যদি আমরা এই সত্যটি ভুলে যাই যে ৩০টিরও বেশি দেশ সক্রিয়ভাবে জড়িত যেকোনো সময় সাইবার যুদ্ধ, সুতরাং, ডিপফেক নিয়ে সবচেয়ে বড় উদ্বেগের কারণ হতে পারে ত্রুটিপূর্ণভাবে ডিজাইন করা ওয়েবসাইট এবং অ্যাপের মতো বিষয়গুলো। ডিপনিউডসযেখানে একটি পর্নোগ্রাফিক ভিডিওর বিষয়বস্তুর ওপর তারকাদের এবং সাধারণ নারীদের মুখ বসিয়ে দেওয়া যেত।

Deepnudes-এর প্রতিষ্ঠাতা শেষ পর্যন্ত ওয়েবসাইটটির উদ্বোধন বাতিল করে দেন, এই ভয়ে যে "মানুষের দ্বারা এর অপব্যবহারের সম্ভাবনা অনেক বেশি।" আচ্ছা, নকল পর্নোগ্রাফিক কন্টেন্ট দিয়ে মানুষ আর কী-ই বা করতে পারত?

একেবারে প্রাথমিক স্তরে, ডিপফেক হলো সত্যের ছদ্মবেশে থাকা মিথ্যা।

যদি আমরা সেগুলোকে সত্য বা প্রমাণ হিসেবে গ্রহণ করি, তাহলে আমরা সহজেই ভ্রান্ত সিদ্ধান্তে উপনীত হতে পারি, যার পরিণতি মারাত্মক হতে পারে।

অ্যান্ড্রিয়া হিকারসন, সাউথ ক্যারোলাইনা বিশ্ববিদ্যালয়ের স্কুল অফ জার্নালিজম অ্যান্ড মাস কমিউনিকেশনের পরিচালক।

ডিপফেক ঘিরে ভয়ের একটি বড় অংশই সঙ্গত কারণে রাজনীতির সঙ্গে সম্পর্কিত। আন্দ্রেয়া হিকারসন বলেছেন: «যদি কোনো ডিপফেক ভিডিওতে কোনো রাজনৈতিক নেতাকে সহিংসতা বা আতঙ্ক ছড়াতে দেখা যায়, তাহলে কী হবে? হুমকিটি যদি তাৎক্ষণিক হয়, তাহলে কি অন্যান্য দেশ ব্যবস্থা নিতে বাধ্য হতে পারে?»

একটি উচ্চ-ঝুঁকিপূর্ণ ব্যবহার হলো যেকোনো দেশের নির্বাচনকালীন সময়ে 'ভুয়া খবর' তৈরি করা, এবং এর সাথে যুক্ত হয়েছে সাইবার হামলা ও সাইবার যুদ্ধের অব্যাহত হুমকিআমাদের কিছু "ভয়ঙ্কর" পরিস্থিতি গুরুত্ব সহকারে বিবেচনা করতে হবে:

• যেকোনো দেশের ভোটারদের একঘরে করতে, বিচ্ছিন্ন করতে এবং আরও বিভক্ত করতে নির্বাচনকালীন সময়ে ডিপ ফেক ব্যবহার করা হবে।
• ডিপফেক শুধু ভোটদানের আচরণকেই নয়, বরং কোটি কোটি মানুষের ভোগের পছন্দকেও পরিবর্তন ও প্রভাবিত করতে ব্যবহৃত হবে।
• ডিপফেক ব্যবহার করা হবে বর্শা ফিশিং এবং অন্যান্য আক্রমণ কৌশলে সাইবার নিরাপত্তা আরও কার্যকরভাবে শিকারদের লক্ষ্যবস্তু করার জন্য পরিচিত।

এর মানে হলো, ডিপ ফেক কোম্পানি, ব্যক্তি এবং সরকারকে আরও বেশি ঝুঁকির মধ্যে ফেলে।

সমস্যাটা অগত্যা GAN প্রযুক্তি নয়।

সমস্যাটি হলো, বর্তমানে অসাধু শক্তিগুলোর হাতে অপ্রতিরোধ্য সুবিধা রয়েছে এবং এই ক্রমবর্ধমান হুমকি মোকাবেলার কোনো সমাধান নেই। তবে, এই হুমকি মোকাবিলার জন্য এআই কমিউনিটির মধ্যে বেশ কিছু সমাধান এবং নতুন ধারণা উঠে আসছে। তা সত্ত্বেও, এই সমাধানে সর্বাগ্রে মানুষের সম্পৃক্ততা থাকতে হবে।

বেন ল্যাম, এআই কোম্পানি হাইপারজায়ান্ট ইন্ডাস্ট্রিজের সিইও।

এক নতুন বিপদ: ডিপফেক আর্থিক কেলেঙ্কারি

আপনার কি আপনার প্রথম স্বয়ংক্রিয় কলটির কথা মনে আছে? সম্ভবত না, কারণ কয়েক বছর আগেও স্বয়ংক্রিয় ফোন কলগুলো বেশ বিশ্বাসযোগ্য ছিল, যখন আমাদের বেশিরভাগই বুঝতাম না ওগুলো আসলে কী। সৌভাগ্যবশত, সেই প্রতারণামূলক কল হ্রাস পাচ্ছে: জানা গেছে যে, সাম্প্রতিক বছরগুলোতে রোবোকল সংক্রান্ত অভিযোগ ৬০ শতাংশেরও বেশি কমে গেছে।

তবে, অডিও ভুয়া খবরে ডিপফেক প্রযুক্তি প্রয়োগ করা হলে তা সহজেই এই প্রতারণামূলক কৌশলকে আরও শক্তিশালী করতে পারে। ভার্জিনিয়ার আলেকজান্দ্রিয়া-ভিত্তিক সাইবার নিরাপত্তা সংস্থা নিসোস-এর মতে, হ্যাকার ব্যবহার করা হচ্ছে স্বয়ংক্রিয় শিক্ষা মানুষের কণ্ঠস্বর নকল করতে। একটি নথিভুক্ত ঘটনায়, হ্যাকাররা একটি প্রযুক্তি সংস্থাকে প্রতারণা করার চেষ্টায় ডিপফেক কৃত্রিম অডিও ব্যবহার করেছিল।

এটি একটি ভয়েসমেইল বার্তা হিসেবে এসেছিল, যা দেখে মনে হচ্ছিল সেটি প্রযুক্তি সংস্থাটির সিইও-র। বার্তাটিতে তিনি একজন কর্মীকে একটি "জরুরি ব্যবসায়িক চুক্তি চূড়ান্ত করার জন্য" তাকে ফোন করতে বলেন।

"প্রাপক তাৎক্ষণিকভাবে এটিকে সন্দেহজনক মনে করেন এবং নম্বরটিতে যোগাযোগ না করে, বরং তাদের আইনি বিভাগে পাঠিয়ে দেন, যার ফলে আক্রমণটি ব্যর্থ হয়," নিসোস ২০২০ সালের জুলাই মাসের একটি প্রযুক্তিগত নথিতে উল্লেখ করেছে।

ভুয়া খবর মোকাবেলায় বর্তমানে কী করা হচ্ছে?

সাম্প্রতিক বছরগুলোতে, মার্কিন প্রতিনিধি পরিষদের গোয়েন্দা কমিটি একটি চিঠি পাঠিয়েছে টুইটার, ফেসবুক এবং গুগল আসন্ন নির্বাচনে সোশ্যাল মিডিয়া সাইটগুলো কীভাবে ডিপফেক মোকাবেলা করার পরিকল্পনা করছে, তা জানতে চাওয়া হচ্ছে। মূলত সাবেক প্রেসিডেন্ট ডোনাল্ড ট্রাম্প হাউস স্পিকার ন্যান্সি পেলোসির একটি ডিপফেক ভিডিও টুইট করার পরেই এই তদন্ত শুরু হয়।

2020- তে, ডিপফেক নিষিদ্ধ করার দিকে ফেসবুক একটি ইতিবাচক পদক্ষেপ নিয়েছে।একটি ব্লগ পোস্টে জানুয়ারী জন্য 6ফেসবুকের গ্লোবাল পলিসি ম্যানেজমেন্টের ভাইস প্রেসিডেন্ট মনিকা বেকার্ট লিখেছেন যে, কোম্পানিটি "প্রতারণামূলক ও কারসাজিপূর্ণ মিডিয়া নির্মূল করতে" নতুন করে প্রচেষ্টা চালাচ্ছে।

ফেসবুক তার প্ল্যাটফর্ম থেকে ডিপফেক চিহ্নিত ও অপসারণ করার জন্য একটি সুনির্দিষ্ট, দ্বিমুখী পদ্ধতি গ্রহণ করছে। একটি ছবি অপসারণ করার জন্য, ব্লগ পোস্ট অনুসারে, এটিকে অবশ্যই নিম্নলিখিত মানদণ্ডগুলো পূরণ করতে হবে:

• ভিডিওটিকে (স্পষ্টতা বা গুণমানের সামঞ্জস্যের বাইরে গিয়ে) এমনভাবে সম্পাদনা বা সংশ্লেষণ করা হয়েছে যা একজন সাধারণ মানুষের কাছে স্পষ্ট নয় এবং যা দেখে কেউ ভাবতে পারে যে ভিডিওতে থাকা ব্যক্তিটি এমন কিছু কথা বলেছেন যা তিনি আসলে বলেননি।
• এটি এর ফল কৃত্রিম বুদ্ধিমত্তা অথবা মেশিন লার্নিং, যা কোনো ভিডিওর ওপর কন্টেন্ট একত্রিত করে, প্রতিস্থাপন করে বা স্থাপন করে, ফলে সেটিকে বাস্তবসম্মত দেখায়।

যাইহোক, ব্যঙ্গ ও প্যারোডি ভিডিওগুলো নিরাপদ থাকেএই নিয়মটি সেইসব ভিডিওর ক্ষেত্রেও প্রযোজ্য, যেগুলো শুধুমাত্র শব্দ বাদ দিতে বা শব্দের ক্রম পরিবর্তন করতে সম্পাদনা করা হয়েছে। এর মানে হলো, বিকৃত মিডিয়াও নজর এড়িয়ে যেতে পারে। বিশেষ করে, টিকটক এবং টুইটারেরও একই ধরনের নীতি রয়েছে।

এদিকে, সরকারি প্রতিষ্ঠানগুলো যেমন DARPA সংক্রান্ত এবং কার্নেগি মেলন, ইউনিভার্সিটি অফ ওয়াশিংটন, স্ট্যানফোর্ড ইউনিভার্সিটি এবং ম্যাক্স প্ল্যাঙ্ক ইনস্টিটিউট ফর ইনফরমেটিক্সের মতো বিশ্ববিদ্যালয়ের গবেষকরাও ডিপফেক প্রযুক্তি নিয়ে পরীক্ষা-নিরীক্ষা করছেন। ডিজনিও এটা করছে।এই সংস্থাগুলো GAN প্রযুক্তি কীভাবে ব্যবহার করা যায়, তা নিয়ে যেমন গবেষণা করছে, তেমনি এর মোকাবিলা করার উপায় নিয়েও ভাবছে।

অ্যালগরিদমকে ডিপফেক এবং আসল ভিডিও সরবরাহ করার মাধ্যমে, তারা আশা করছেন যে কম্পিউটারকে এটি শনাক্ত করতে সাহায্য করা যাবে যে কখন কোনো কিছু ডিপফেক এবং কখন তা আসল। এটাকে যদি অস্ত্র প্রতিযোগিতা বলে মনে হয়, তার কারণ হলো এটি আসলেই তাই।আমরা প্রযুক্তির বিরুদ্ধে লড়তে প্রযুক্তি ব্যবহার করছি, এমন এক অন্তহীন প্রতিযোগিতায়।

সাম্প্রতিক সংবাদ তা নিশ্চিত করে। ইউরোপীয় ইউনিয়ন বড় প্রযুক্তি সংস্থাগুলোকে ডিপফেক পরিচালনা ও নিয়ন্ত্রণ করতে বাধ্য করে। তাদের প্ল্যাটফর্মগুলোর মধ্যে।

ভুয়া খবরের অপতথ্য মোকাবেলার সমাধানগুলো কী কী?

সম্ভবত সমাধানটি প্রযুক্তি নয়। সাম্প্রতিক অন্যান্য গবেষণা ইঙ্গিত দেয় যে ইঁদুরই এর চাবিকাঠি হতে পারে। গবেষকরা... ওরেগন বিশ্ববিদ্যালয় নিউরোসায়েন্স ইনস্টিটিউট তারা বিশ্বাস করেন যে, "স্নায়ু বর্তনী অনুসন্ধানের জন্য উপলব্ধ শক্তিশালী জিনগত এবং তড়িৎশারীরবৃত্তীয় সরঞ্জামাদির সাহায্যে একটি ইঁদুরের মডেল ধ্বনিগত উপলব্ধির যান্ত্রিক বোঝাপড়াকে জোরালোভাবে উন্নত করার সম্ভাবনা রাখে।"

এই যে মানে ইঁদুর অ্যালগরিদমগুলোকে তথ্য জানাতে পারতো পরবর্তী প্রজন্মের প্রযুক্তি নকল ভিডিও এবং অডিও শনাক্ত করতে পারে। প্রকৃতি হয়তো এই প্রযুক্তিকে প্রতিহত করতে পারে, কিন্তু এটি এখনও একটি অস্ত্র প্রতিযোগিতা।

যদিও ভুয়া খবর প্রযুক্তির অগ্রগতি জালিয়াতি শনাক্ত করতে সাহায্য করতে পারে, ততক্ষণে হয়তো অনেক দেরি হয়ে যাবে। একবার কোনো প্রযুক্তির ওপর আস্থা নষ্ট হয়ে গেলে, তা পুনরুদ্ধার করা প্রায় অসম্ভব। যদি আমরা ভিডিওটির বিশ্বাসযোগ্যতা নষ্ট করে ফেলি, আর কতদিন পর মানুষ টেলিভিশনের খবর, ইন্টারনেট ক্লিপ বা সরাসরি সম্প্রচারিত ঐতিহাসিক ঘটনার ওপর থেকে বিশ্বাস হারাবে? হয়তো আমরা ইতিমধ্যেই অনেক দেরি করে ফেলেছি…

ভুয়া খবরের ভিডিও আমাদের নাগরিক আলোচনার জন্য হুমকিস্বরূপ এবং ব্যক্তির গুরুতর মানসিক ও সুনামগত ক্ষতি করতে পারে। এছাড়াও, এগুলো প্ল্যাটফর্মগুলোর জন্য দায়িত্বশীল অনলাইন কন্টেন্ট মডারেশন করা আরও কঠিন করে তোলে।

যদিও জনসাধারণ সঙ্গত কারণেই সোশ্যাল মিডিয়া কোম্পানিগুলোকে ডিপফেকের বিস্তার শনাক্ত ও প্রতিরোধ করার কৌশল উদ্ভাবনের জন্য আহ্বান জানাচ্ছে,

শ্যারন ব্র্যাডফোর্ড ফ্র্যাঙ্কলিন, ওপেন টেকনোলজি ইনস্টিটিউট অফ নিউ আমেরিকার নীতি পরিচালক।

যদি বিধিনিষেধমূলক আইন সমাধান না হয়, প্রযুক্তি কি নিষিদ্ধ করা উচিত? যদিও অনেকে এগুলোর ব্যবহার নিয়ে বিতর্ক করেন, নতুন গবেষণা থেকে জানা যায় যে, GAN-কে মাল্টিরিসোলিউশন স্কিম উন্নত করতে ব্যবহার করা যেতে পারে, যা এক্স-রে-তে আরও ভালো ছবির গুণমান নিশ্চিত করে এবং প্যাচ আর্টিফ্যাক্ট এড়াতে সাহায্য করে, এবং অদূর ভবিষ্যতে চিকিৎসাক্ষেত্রে এর অন্যান্য ব্যবহারও সামনে আসতে পারে।

ক্ষতিপূরণের জন্য এটা কি যথেষ্ট? চিকিৎসা গুরুত্বপূর্ণ, কিন্তু বিভিন্ন গণমাধ্যমে আমরা প্রতিদিন যে বিষয়বস্তু গ্রহণ করি, তার প্রতি আমাদের আস্থার ভিত্তি নিশ্চিত করাও সমান গুরুত্বপূর্ণ।

ডিপফেক কীভাবে শনাক্ত করা যায়? কোনটা আসল আর কোনটা সত্যি, তা কীভাবে বোঝা যায়?

অনেকেই ইতিমধ্যেই খবরের ওপর বিশ্বাস হারিয়ে ফেলেছেন। এবং ডিপফেক প্রযুক্তির প্রসারের সাথে সাথে, ভুয়া খবরের সংখ্যা কেবল বাড়তেই থাকবে।.

ডিপফেক থেকে নিজেকে রক্ষা করার সবচেয়ে ভালো উপায় হলো কোনো ভিডিওকে হুবহু বিশ্বাস না করা। চোখে দেখাটাই যে বিশ্বাস, তা আমরা ধরে নিতে পারি না। জনসাধারণের উচিত স্বাধীনভাবে প্রাসঙ্গিক তথ্য খুঁজে বের করা এবং কে ও কেন একটি ভিডিও শেয়ার করছে সেদিকে কড়া নজর রাখা। সাধারণত, মানুষ সোশ্যাল মিডিয়ায় কী শেয়ার করছে সে বিষয়ে অসতর্ক থাকে। এমনকি আপনার সবচেয়ে কাছের বন্ধুও যদি এটি শেয়ার করে, তবুও আপনার ভেবে দেখা উচিত সে এটি কোথা থেকে পেয়েছে। এর মূল উৎস কে বা কী?

অ্যান্ড্রিয়া হিকারসন, সাউথ ক্যারোলাইনা বিশ্ববিদ্যালয়ের স্কুল অফ জার্নালিজম অ্যান্ড মাস কমিউনিকেশনের পরিচালক।

এই সমস্যার সমাধান অবশ্যই ব্যক্তিপরায়ণ হতে হবে। যতক্ষণ না নিয়ন্ত্রক সংস্থা, প্রযুক্তিবিদ বা প্রযুক্তি সংস্থাগুলো কোনো সমাধান খুঁজে বের করতে পারে। কিন্তু যদি এর উত্তর খোঁজার জন্য অবিলম্বে উদ্যোগ না নেওয়া হয়, তাহলে অনেক দেরি হয়ে যেতে পারে।

আমাদের সকলেরই উচিত এই তথ্য ছড়ানো প্ল্যাটফর্মগুলোর কাছে জবাবদিহিতা দাবি করা এবং সরকার যেন তা নিশ্চিত করার জন্য উদ্যোগ নেয়। এই প্রযুক্তির নেতিবাচক দিকগুলোকে ছাপিয়ে যাওয়ার মতো যথেষ্ট ইতিবাচক ব্যবহার রয়েছে।এবং সেই শিক্ষা যেন আমাদের ডিপফেক চিনতে সাহায্য করে এবং সেগুলো শেয়ার না করার মতো যথেষ্ট সাধারণ জ্ঞান আমাদের থাকে।

অন্যথায়, আমরা এমন একটি সাইবার যুদ্ধে জড়িয়ে পড়তে পারি যা একজন হ্যাকার শুধুমাত্র একটি সম্পাদিত ভিডিওর ওপর ভিত্তি করে শুরু করেছে। তারপর কি?