বিবিসি একটি তদন্ত চালানোর পর টিকটক বিশটি অ্যাকাউন্ট নিষিদ্ধ করেছে। এই অ্যাকাউন্টগুলোতে এআই-উৎপন্ন কালো নারী ডিজিটাল চরিত্র ব্যবহার করে ব্যবহারকারীদের যৌন কনটেন্টের ওয়েবসাইটে নিয়ে যাওয়া হত।
তদন্তে দেখা গেছে, ইনস্টাগ্রাম ও টিকটকে অনেক অ্যাকাউন্টে অত্যন্ত যৌনভাবে উপস্থাপিত কালো মহিলা এভাটার বা ভিডিও ছিল। এই ছবিগুলো ও ভিডিওগুলো এআই দ্বারা তৈরি করা হলেও তা লেবেল করা হয়নি, যা প্ল্যাটফর্মের নিয়ম ভঙ্গ করে।
অ্যাকাউন্টগুলোতে চরিত্রগুলো সাধারণত কম কাপড়ে বা উন্মুক্ত পোশাকে দেখানো হয় এবং অসাধারণভাবে গা dark ় ত্বকের রঙ দেওয়া হয়। অনেক অ্যাকাউন্টে কালো সম্পর্কিত শব্দ ব্যবহার করা হয়েছে। কিছু পোস্টে শ্বেতাঙ্গ পুরুষদের উল্লেখও ছিল।
একটি অ্যাকাউন্টে মালয়েশিয়ার মডেল রিয়া উলানের ভিডিও চুরি করে এআই চরিত্রের সঙ্গে যুক্ত করা হয়। চরিত্রের মুখে কৃত্রিমভাবে গা dark ় ত্বক প্রদর্শন করা হয় এবং রিয়ার শরীর, পোশাক ও পটভূমিও নকল করা হয়েছে। রিয়া বলেন, “আমি রেগে গিয়েছিলাম। ভিডিও আমাদের হলেও এর অর্থ নয় যে কেউ এটি চুরি করে নিজের নামে পোস্ট করতে পারে।”
কিছু ভিডিওতে অশ্লীল কনটেন্টের লিঙ্কও যুক্ত ছিল। একটি ভিডিও টিকটকে কোটি ভিউ পেয়েছে, যা মূল ভিডিওর অনেক গুণ।
গবেষকরা বলছেন, এই ধরনের এআই অ্যাকাউন্টগুলি প্রায়ই কালো মহিলাদের সম্পর্কে জাতিগত স্টেরিওটাইপকে বাড়িয়ে তোলে এবং তাদের বাস্তব অভিজ্ঞতা প্রতিস্থাপন করে।
বিবিসির প্রতিবেদনের পর টিকটক এই অ্যাকাউন্টগুলো সরিয়ে দেয় এবং জানায় যে, তারা অনুমতি ছাড়া ব্যক্তিগত এআই কনটেন্ট এবং অফ-প্ল্যাটফর্ম যৌন কনটেন্ট প্রচার সহ বিষয়গুলোর জন্য শূন্য সহনশীলতা নেয়।
ইনস্টাগ্রাম কোম্পানি মেটাও বিষয়গুলো যাচাই করছে এবং এআই-উৎপন্ন কনটেন্ট লেবেল করার নিয়ম প্রয়োগ করছে। নবনির্ধারিত তথ্য অনুযায়ী, বেশ কিছু ইনস্টাগ্রাম অ্যাকাউন্ট আর নেই।
