Sentinel Ai: হ্যাঁ! ঠিক পরেছেন, এবার চরমপন্থিদের খুঁজে বেড়াবে ‘Sentinel Ai’। সেন্টিনেল হল একটি এআই মডেলের নাম যা ইউনিভার্সিটি অফ ক্যালিফোর্নিয়া, বার্কলে-এর গবেষকরা তৈরি করেছেন। এটি সোশ্যাল মিডিয়া বিষয়বস্তু বিশ্লেষণ করতে এবং চরমপন্থী ব্যবহারকারী এবং আইএসআইএস-সম্পর্কিত উপাদানগুলিকে উচ্চ নির্ভুলতার সাথে সনাক্ত করার জন্য ডিজাইন করা হয়েছে৷
2009-2021 সালের টুইটগুলি ব্যবহার করে, গবেষকরা একটি ভবিষ্যদ্বাণীমূলক মডেল তৈরি করেছেন যা চরমপন্থী ব্যবহারকারী এবং জঙ্গি গোষ্ঠী ইসলামিক স্টেট (ISIS) সম্পর্কিত বিষয়বস্তু সনাক্ত করতে পারে।
Also Read:
Sentinel Ai: অনলাইন চরমপন্থার বিরুদ্ধে এআই গার্ডিয়ান
সেন্টিনেল সামাজিক ভালোর জন্য AI ব্যবহার করার ক্ষেত্রে একটি গুরুত্বপূর্ণ পদক্ষেপের প্রতিনিধিত্ব করে। এর বিকাশ এবং দায়িত্বশীল প্রয়োগ সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলিকে চরমপন্থী উপাদানগুলির জন্য নিরাপদ এবং কম অতিথিপরায়ণ করার সম্ভাবনা রাখে।
‘Sentinel Ai‘ হল একটি কৃত্রিম বুদ্ধিমত্তা (AI) মডেল যা ইউনিভার্সিটি অফ ক্যালিফোর্নিয়া, বার্কলে-এর গবেষকদের দ্বারা তৈরি করা হয়েছে, যা বিশেষভাবে সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলিতে চরমপন্থী বিষয়বস্তু এবং ব্যবহারকারীর কার্যকলাপের বিস্তারকে মোকাবেলা করার জন্য ডিজাইন করা হয়েছে৷
সেন্টিনেল এআই, একটি অত্যাধুনিক মডেল, জুলাই 2022-এ ACM ওয়েব সায়েন্স কনফারেন্সে একটি গবেষণা পত্রে প্রদর্শিত হয়েছিল, যা এর উন্নত বিকাশ বা সম্ভাব্য অপারেশনাল অবস্থার ইঙ্গিত দেয়। মিডিয়া কভারেজ 2021 সালের শেষের দিকে শুরু হয়, 2022 জুড়ে গতি লাভ করে, এই প্রকল্পে ক্রমবর্ধমান জনসচেতনতা এবং আগ্রহকে প্রতিফলিত করে।
How Sentinel Ai Works?
সেন্টিনেল বিভিন্ন কারণের বিশ্লেষণ করে কাজ করে, যার মধ্যে রয়েছে:
- পোস্ট এবং মন্তব্য পাঠ্য
- যে ছবি ও ভিডিও শেয়ার করা হয়
- ব্যবহারকারীদের সামাজিক নেটওয়ার্ক
- চরমপন্থী বিষয়বস্তুর সাথে ব্যবহারকারীদের সম্পৃক্ততা
টেক্সট Analysis:
- কিওয়ার্ড এবং ফ্রেজ ডিটেকশান: ‘Sentinel Ai’ মডেলটি চরমপন্থী মতাদর্শ, ঘৃণামূলক বক্তব্য এবং সহিংসতার আহ্বানের সাথে যুক্ত কীওয়ার্ড এবং বাক্যাংশগুলিকে কার্যকরভাবে সনাক্ত করে। এটি সাধারণত নির্দিষ্ট চরমপন্থী গোষ্ঠী দ্বারা নিযুক্ত ভাষাগুলিকে অন্তর্ভুক্ত করার জন্য তার বিশ্লেষণকে প্রসারিত করে।
- সেন্টিমেন্ট বিশ্লেষণ: শুধু কীওয়ার্ডের বাইরে, সেন্টিনেল পাঠ্যের সংবেদনশীল টোন এবং অনুভূতির মধ্যে পড়ে। এই সংক্ষিপ্ত বোঝাপড়া মডেলটিকে উত্সাহী কিন্তু অ-চরমপন্থী বক্তৃতা এবং সহিংসতা বা অসহিষ্ণুতার সমর্থনকারী বিষয়বস্তুর মধ্যে পার্থক্য করতে সক্ষম করে।
- বিষয় মডেলিং: উন্নত কৌশলগুলির মাধ্যমে, Sentinel Ai বিষয়বস্তুর মধ্যে সুপ্ত বিষয় এবং থিমগুলি উন্মোচন করে৷ এটি চরমপন্থীদের দ্বারা নিয়োজিত অন্তর্নিহিত মতাদর্শ এবং আখ্যানগুলি প্রকাশ করে, মডেলটিকে চরমপন্থার সূক্ষ্ম রূপগুলি সনাক্ত করতে দেয় যা শুধুমাত্র কীওয়ার্ড দ্বারা স্পষ্টভাবে নির্দেশিত নাও হতে পারে।
যে ছবি ও ভিডিও শেয়ার করা হয়:
- চিত্র স্বীকৃতি: সেন্টিনেল এআই, চরমপন্থী গোষ্ঠীর সাথে যুক্ত প্রতীক, পতাকা এবং অন্যান্য চাক্ষুষ সংকেতের জন্য চিত্র এবং ভিডিও বিশ্লেষণ করে। এটি প্রচার এবং নিয়োগের উপকরণ সনাক্ত করতে সাহায্য করে।
- দৃশ্য বোঝা: মডেলটি সাধারণ বস্তুর স্বীকৃতির বাইরে চলে যায়, প্রসঙ্গ এবং ক্রিয়াগুলিকে ভিজ্যুয়ালে চিত্রিত করে। এটি একটি চরমপন্থী ইভেন্টের একটি সংবাদ প্রতিবেদন এবং সহিংসতার মহিমান্বিত বিষয়বস্তুর মধ্যে পার্থক্য করতে সাহায্য করে।
ব্যবহারকারীদের সামাজিক নেটওয়ার্ক:
- সামাজিক গ্রাফ বিশ্লেষণ:Sentinel Ai, ব্যবহারকারীদের মধ্যে সংযোগগুলি ম্যাপ করে, ক্লাস্টার এবং সম্প্রদায়গুলিকে চিহ্নিত করে যা সম্ভাব্যভাবে চরমপন্থী কার্যকলাপকে আশ্রয় দেয়। এটি উগ্রপন্থীকরণের নেটওয়ার্কগুলিকে উন্মোচিত করতে এবং চরমপন্থী গোষ্ঠীগুলির মধ্যে প্রভাবশালী ব্যক্তিদের সনাক্ত করতে সহায়তা করে।
- এনগেজমেন্ট প্যাটার্ন: মডেলটি বিশ্লেষণ করে কিভাবে ব্যবহারকারীরা চরমপন্থী বিষয়বস্তুর সাথে ইন্টারঅ্যাক্ট করে, ঘন ঘন শেয়ার করা, মন্তব্য করা এবং চরমপন্থী পোস্টের উত্তর দেওয়ার মতো প্যাটার্ন শনাক্ত করে। এটি চরমপন্থী সম্প্রদায়ের সক্রিয় অংশগ্রহণকারীদের থেকে নিষ্ক্রিয় পর্যবেক্ষকদের আলাদা করতে সাহায্য করে।
মৌলিক বৈশিষ্ট্যের বাইরে:
- টেম্পোরাল ডাইনামিকস: Sentinel Ai, ব্যবহারকারীর কার্যকলাপের সময় এবং বিবর্তন বিবেচনা করে। উদাহরণ স্বরূপ, বিষয়বস্তুতে আকস্মিক পরিবর্তন বা এনগেজমেন্ট প্যাটার্ন র্যাডিক্যালাইজেশন বা বর্ধিত চরমপন্থী কার্যকলাপের ইঙ্গিত দিতে পারে।
- বিকশিত ভাষা: মডেলটি চরমপন্থীদের দ্বারা ব্যবহৃত নিরন্তর পরিবর্তনশীল ভাষার সাথে খাপ খায়, তাদের কৌশল থেকে এগিয়ে থাকার জন্য ক্রমাগত নতুন কীওয়ার্ড, বাক্যাংশ এবং অপবাদ শিখে।
মডেলটি এই তথ্য ব্যবহার করে নিদর্শন সনাক্ত করতে যা চরমপন্থী কার্যকলাপের ইঙ্গিত দেয়। উদাহরণস্বরূপ, সেন্টিনেল এমন একজন ব্যবহারকারীকে ফ্ল্যাগ করতে পারে যিনি প্রায়শই চরমপন্থী মতাদর্শ সম্পর্কে পোস্ট করেন, হিংসাত্মক বিষয়বস্তু শেয়ার করেন বা অন্যান্য পরিচিত চরমপন্থীদের সাথে যোগাযোগ করেন।
Sentinel Ai-এর কার্যকারিতা:
চরমপন্থী ব্যবহারকারীদের স্বীকৃতি দেওয়ার ক্ষেত্রে 90% পর্যন্ত একটি চিত্তাকর্ষক নির্ভুলতা প্রদর্শন করেছে।
সোশ্যাল মিডিয়া কোম্পানিগুলিকে তাদের প্রচেষ্টায় মূল্যবান সহায়তা প্রদান করে:
- ক্ষতিকারক সামগ্রী সরান।
- চরমপন্থী অ্যাকাউন্ট স্থগিত বা নিষিদ্ধ করে।
- চরমপন্থী মতাদর্শের বিস্তার রোধ করে।
Sentinel Ai কোন টেকনলজি ব্যাবহার করছে?
মেশিন লার্নিং অ্যালগরিদম:
- অ্যালগরিদমের ধরন: সেন্টিনেল সম্ভবত টেক্সট সিকোয়েন্স বিশ্লেষণের জন্য শ্রেণীবিভাগের জন্য সাপোর্ট ভেক্টর মেশিন (SVMs) এবং রিকারেন্ট নিউরাল নেটওয়ার্ক (RNNs) এর মতো প্রাকৃতিক ভাষা প্রক্রিয়াকরণ (NLP) কৌশলগুলির মতো তত্ত্বাবধানে শেখার অ্যালগরিদমের সংমিশ্রণ নিযুক্ত করে।
- এনসেম্বল লার্নিং: একাধিক অ্যালগরিদম একত্রিত করা সঠিকতা এবং দৃঢ়তা উন্নত করতে পারে, বর্ধিত কর্মক্ষমতার জন্য সেন্টিনেলে সম্ভাব্যভাবে ব্যবহৃত হয়।
সেন্টিনেলের উপকারিতা
গবেষকরা বিশ্বাস করেন যে সেন্টিনেল অনলাইনে চরমপন্থী বিষয়বস্তুর বিস্তার রোধে তাদের প্রচেষ্টায় সোশ্যাল মিডিয়া কোম্পানিগুলির জন্য একটি মূল্যবান হাতিয়ার হতে পারে। মডেলটি ব্যবহার করা যেতে পারে:
- চরমপন্থী বিষয়বস্তু চিহ্নিত করুন এবং অপসারণ
- চরমপন্থী ব্যবহারকারীদের স্থগিত বা নিষিদ্ধ
- অন্য ব্যবহারকারীদের কাছে চরমপন্থী বিষয়বস্তুর বিস্তার রোধ করতে
যাইহোক, গুরুত্বপূর্ণ বিবেচনা রয়ে গেছে:
পক্ষপাত এবং ন্যায্যতা: মডেলটি অন্যায়ভাবে নির্দিষ্ট গোষ্ঠী বা মতাদর্শকে লক্ষ্য করে না তা নিশ্চিত করা অত্যন্ত গুরুত্বপূর্ণ।
গোপনীয়তা উদ্বেগ: ব্যবহারকারীর গোপনীয়তা রক্ষার সাথে কার্যকর সনাক্তকরণের ভারসাম্য বজায় রাখার জন্য সতর্কতামূলক প্রয়োগ প্রয়োজন।
স্বচ্ছতা এবং জবাবদিহিতা: মডেল কীভাবে কাজ করে এবং এর সিদ্ধান্ত গ্রহণের প্রক্রিয়াগুলি বোঝা বিশ্বাস তৈরির জন্য অপরিহার্য।
Sources: