এআই ব্যবহারে এগিয়ে চলেছে ভারত, কিন্তু মানবাধিকারের সুরক্ষা কতটা নিশ্চিত, উঠছে সেই প্রশ্ন।

এআই-নির্ভর নজরদারি ও মুখাবয়ব শনাক্তকরণ নাগরিক স্বাধীনতার পরিসর সংকুচিত করে রাষ্ট্রীয় কর্তৃত্ববাদকে জোরদার করছে।

প্রথম প্রকাশ করা হয়েছে যেখানে Global Voices বাংলা ভার্সন

ছবি: এপিসি-র জন্য পলা ভিয়ারের তৈরি। অনুমতি নিয়ে ব্যবহার করা হয়েছে।

এই লেখাটি “এআইকে জিজ্ঞাসা নয়, সহকর্মীকে জিজ্ঞেস করুন”: মানুষের অভিজ্ঞতা ভাগ করে নেওয়ার এক যৌথ উদ্যোগ” শীর্ষক ধারাবাহিকের অংশ। গ্লোবাল ভয়েসেস, অ্যাসোসিয়েশন ফর প্রগ্রেসিভ কমিউনিকেশনস এবং জেন্ডারআইটি-র যৌথ উদ্যোগে এই ধারাবাহিকটি তৈরি হয়েছে। কয়েক দশক ধরে মানুষ যেভাবে পরস্পরের সঙ্গে জ্ঞান ও অভিজ্ঞতা ভাগ করে আসছে, সেই চর্চার গুরুত্ব আবারও তুলে ধরাই এই উদ্যোগের লক্ষ্য। ধারাবাহিকের লেখাগুলি পড়তে পারেন এপিসি.অর্গ, জেন্ডারআইটি.অর্গ এবং গ্লোবালভয়েসেস.অর্গ এ। লেখাটি গ্লোবাল ভয়েসেসের এপ্রিল ২০২৬-এর বিশেষ ধারাবাহিক “ কৃত্রিম বুদ্ধিমত্তা নিয়ে মানুষের দৃষ্টিভঙ্গি”-এরও অংশ। এই উদ্যোগকে এগিয়ে নিয়ে যেতে অনুদান দিতে পারেন এখানে।

ভারতে বর্তমানে চালু থাকা কৃত্রিম বুদ্ধিমত্তা (এআই) পরিচালনার কাঠামো মূলত কিছু বাধ্যতামূলক নয় এমন নির্দেশিকা, এখনও আইনে পরিণত না হওয়া একটি নৈতিকতা-সংক্রান্ত বিল এবং তথ্য সুরক্ষার নিয়মের সমন্বয়ে গঠিত। সব মিলিয়ে এমন একটি ব্যবস্থা তৈরি হয়েছে, যেখানে এআই প্রযুক্তি আগে ব্যবহার করা যায়, পরে তা নিয়ে প্রশ্ন তোলা হয়। কারণ এই কাঠামোতে দায়িত্বশীল এআই ব্যবহারের কথা বলা হলেও, প্রযুক্তি চালুর আগে তার প্রভাব যাচাই করা বা ব্যবহারের পদ্ধতি সম্পর্কে স্বচ্ছতা বজায় রাখার কোনও বাধ্যবাধকতা নেই।

রেলস্টেশনে মুখ শনাক্তকরণ ব্যবস্থা চালু করা কিংবা বিভিন্ন শহরে পুলিশের পূর্বাভাসভিত্তিক পুলিশি নজরদারি প্রযুক্তির ব্যবহার, এআই-নির্ভর নজরদারির এই প্রবণতা ক্রমশ বাড়ছে। অথচ এ ধরনের প্রযুক্তি ব্যবহারের ক্ষেত্রে যথেষ্ট আইনি সুরক্ষা এখনও গড়ে ওঠেনি। ফলে মানবাধিকার, ব্যক্তিগত গোপনীয়তা, মর্যাদা এবং নাগরিক স্বাধীনতা নিয়ে উদ্বেগ বাড়ছে। জবাবদিহি ছাড়া ‘দায়িত্বশীল এআই’ কেবলই একটি আকাঙ্ক্ষা। এই কাঠামোতে মানুষের স্বার্থকে অগ্রাধিকার দেওয়ার কথা বলা হলেও, মানবাধিকারকে এআই পরিচালনার মূল ভিত্তি হিসেবে দেখতে হবে; পরে বিবেচনার বিষয় হিসেবে যোগ করলে চলবে না।

ফেব্রুয়ারি মাসে নয়াদিল্লিতে পাঁচ দিন ধরে অনুষ্ঠিত হয় ইন্ডিয়া এআই ইমপ্যাক্ট সামিট ২০২৬। এই সম্মেলনে বিশ্বের বিভিন্ন দেশের নেতৃবৃন্দ, বড় প্রযুক্তি সংস্থা, নাগরিক সমাজের প্রতিনিধি এবং নীতিনির্ধারকেরা একত্রিত হয়েছিলেন। এআই পরিচালনা ও আন্তর্জাতিক সহযোগিতার ভবিষ্যৎ নিয়ে আলোচনা করাই ছিল সম্মেলনের উদ্দেশ্য। বিশ্ব অর্থনীতিতে এআই প্রযুক্তির ক্রমবর্ধমান গুরুত্ব এবং তার ফলে বিশ্বের অর্থনৈতিক ব্যবস্থায় যে পরিবর্তন আসছে, সম্মেলনে তার প্রতিফলন দেখা যায়। সম্মেলনে গুরুত্ব দেওয়া হয়েছিল অন্তর্ভুক্তিমূলক উন্নয়ন, নৈতিকভাবে এআই প্রযুক্তির ব্যবহার এবং স্বাস্থ্য, কৃষি ও শিক্ষার মতো বিভিন্ন ক্ষেত্রে এর প্রয়োগের উপর।

২০ ফেব্রুয়ারি প্রকাশিত একটি বিবৃতিতে আন্তর্জাতিক মানবাধিকার সংস্থা অ্যামনেস্টি ইন্টারন্যাশনাল এআই ইমপ্যাক্ট সামিটে করা প্রতিশ্রুতির সঙ্গে ভারতে এআই প্রযুক্তির বাস্তব ব্যবহারের তুলনা করে। সংস্থাটি জানায়, এআই-নির্ভর স্বয়ংক্রিয় ব্যবস্থা এবং মুখ শনাক্তকরণ প্রযুক্তি নাগরিক পরিসর সংকুচিত করছে, রাষ্ট্রীয় নজরদারিকে আরও শক্তিশালী করছে এবং দরিদ্র ও প্রান্তিক জনগোষ্ঠীর উপর অসামঞ্জস্যপূর্ণ প্রভাব ফেলছে।

সম্মেলনটি নিজেই কার্যত দিল্লিতে ভারতের ক্রমবর্ধমান এআই-নির্ভর নজরদারি ব্যবস্থার একটি সরাসরি প্রদর্শনীতে পরিণত হয়েছিল। সম্মেলনস্থলের নিরাপত্তা নিশ্চিত করার অজুহাতে দিল্লি পুলিশ আন্তর্জাতিক প্রদর্শনী কেন্দ্রে ৫০০টি নজরদারি ক্যামেরা বসায়। পাশাপাশি, গোটা মধ্য দিল্লিকে এক ধরনের ‘ডিজিটাল দুর্গে’ পরিণত করে শহরজুড়ে ৪,০০০-এরও বেশি এআই-চালিত ক্যামেরা মোতায়েন করা হয়।

এই ক্যামেরাগুলিতে মুখ শনাক্তকরণ প্রযুক্তি ব্যবহার করে সরাসরি সম্প্রচারিত ভিডিও বিশ্লেষণ করা হচ্ছিল। পুলিশের তথ্যভান্ডারে থাকা ‘সন্দেহভাজন ব্যক্তি’, বারবার প্রতিবাদে অংশ নেওয়া মানুষ এবং জনশৃঙ্খলা বিঘ্নিত করতে পারেন বলে চিহ্নিত ব্যক্তিদের মুখের সঙ্গে ক্যামেরায় ধরা পড়া মুখ মিলিয়ে সঙ্গে সঙ্গে সতর্কবার্তা পাঠানো হচ্ছিল। ৩২টি নিয়ন্ত্রণকক্ষের মাধ্যমে এই এআই-নির্ভর নজরদারি ব্যবস্থা পরিচালিত হচ্ছিল। এর সঙ্গে ছিল মুখ শনাক্তকরণ ব্যবস্থা (এফআরএস), তাৎক্ষণিক ভিডিও বিশ্লেষণ এবং মাঠে থাকা পুলিশকর্মীদের ব্যবহারের জন্য এআই-চালিত স্মার্ট চশমা। সম্মেলনস্থল এবং তার আশপাশে মানুষের ভিড়, চলাচলের ধরন এবং সম্ভাব্য ‘গোলমাল সৃষ্টিকারীদের’ উপর নজর রাখতে এই ব্যবস্থার সাহায্য নেন ২০,০০০-এরও বেশি নিরাপত্তাকর্মী।

এআই-নির্ভর রাষ্ট্রীয় নজরদারির বিপদ

ভারতে মুখ শনাক্তকরণ প্রযুক্তির ব্যবহার পর্যবেক্ষণের জন্য মানবাধিকারভিত্তিক সংগঠন ইন্টারনেট ফ্রিডম ফাউন্ডেশন (আইএফএফ) ২০২০ সালে প্রজেক্ট প্যানঅপটিক শুরু করে। ২০২৪ সালের মধ্যে সংগঠনটি ১২০টিরও বেশি সরকারি চুক্তির তথ্য সংগ্রহ করে ভারতে মুখ শনাক্তকরণ প্রযুক্তির ব্যবহার নিয়ে সবচেয়ে বিস্তৃত উন্মুক্ত তথ্যভান্ডার তৈরি করে।

ভারতের অলাভজনক আইনি সহায়তা সংস্থা এসএফএলসি.ইন সম্প্রতি ২০২৫ সালে ভারতে এআই ও নজরদারি-সংক্রান্ত বিভিন্ন ঘটনার একটি পর্যালোচনা প্রকাশ করেছে। এতে ভ্রমণসহ নানা ক্ষেত্রে এআই-নির্ভর নজরদারি প্রযুক্তির ব্যবহারের বিষয়টি তুলে ধরা হয়েছে।

ভারতে মুখ শনাক্তকরণ ব্যবস্থার ব্যবহার নিয়ে তথ্যভান্ডারের স্ক্রিনশট। এটি পরিচালনা করে আইএফএফ-এর প্রজেক্ট প্যানঅপটিক। সিসি-বাই

সরকারের সহায়তায় চালু হওয়া এআই-ভিত্তিক মুখ শনাক্তকরণ অ্যাপ ডিজিযাত্রাকে ভারতের বিমান পরিবহণ ব্যবস্থার একটি গুরুত্বপূর্ণ ডিজিটাল উদ্যোগ হিসেবে তুলে ধরা হয়। এই ব্যবস্থায় যাত্রীর আধার পরিচয়পত্র, বোর্ডিং কার্ড এবং মুখের বায়োমেট্রিক তথ্য একত্র করে বিমানবন্দরে কাগজপত্র ছাড়া নির্বিঘ্নে যাতায়াতের সুযোগ দেওয়ার কথা বলা হয়। কাগজে-কলমে ডিজিযাত্রায় যোগ দেওয়া স্বেচ্ছাধীন, বাধ্যতামূলক নয়। কিন্তু আইএফএফ-এর অভিযোগ, ভারতের বিভিন্ন বিমান সংস্থার যাত্রীদের চাপ দিয়ে এই ব্যবস্থায় নাম নথিভুক্ত করতে বাধ্য করা হচ্ছে।

আইএফএফ-এর আরও বক্তব্য, ডিজিযাত্রার তথ্য ব্যবস্থায় দুর্বলতা রয়েছে এবং এর পরিচালন পদ্ধতিও যথেষ্ট অস্পষ্ট। কোন তথ্য সংগ্রহ করা হচ্ছে, কোথায় বা কীভাবে তা সংরক্ষণ করা হচ্ছে এবং কারা সেই তথ্য দেখতে পাচ্ছেন—এসব বিষয়ে কোনও স্বচ্ছতা নেই। এই পরিষেবাটি পরিচালনা করে ডিজিযাত্রা ফাউন্ডেশন। এর প্রায় ৭৫ শতাংশ শেয়ারের মালিক বেসরকারি সংস্থাগুলি। ফলে জবাবদিহির ক্ষেত্রে এটি ২০০৫ সালের তথ্যের অধিকার আইনের (আরটিআই আইন) আওতার বাইরে থেকে যাচ্ছে।

ভারতের বিভিন্ন পরীক্ষাকেন্দ্রেও শিক্ষার্থীদের উপর নজর রাখতে ক্রমশ এআই-চালিত সিসিটিভি নজরদারি চালু করা হচ্ছে। এই প্রযুক্তির সাহায্যে শিক্ষার্থীদের অঙ্গভঙ্গি, মোবাইল ফোনের ব্যবহার এবং চোখের অস্বাভাবিক নড়াচড়ার মতো মুখের অভিব্যক্তি পর্যবেক্ষণ করা হয়। কোনও সন্দেহজনক আচরণ নজরে এলে পরীক্ষার তত্ত্বাবধায়কদের কাছে দ্রুত সতর্কবার্তা পাঠানো হয়। ২০২৫ সালের মধ্যে উত্তরপ্রদেশ, বিহার এবং কর্ণাটক-সহ বিভিন্ন রাজ্যে স্কুলের বোর্ড পরীক্ষা এবং গুরুত্বপূর্ণ প্রতিযোগিতামূলক পরীক্ষায় এই প্রযুক্তি ব্যবহার করা হয়েছে।

এসএফএলসি.ইন-এর মতে, ভারতে এআই-নির্ভর নজরদারি বাড়লেও এই ব্যবস্থাগুলির উপর কীভাবে নজরদারি করা হয়, কতদিন তথ্য সংরক্ষণ করা হয় কিংবা ভুল শনাক্তকরণের বিরুদ্ধে কীভাবে অভিযোগ জানানো যায়—সে বিষয়ে পর্যাপ্ত তথ্য নেই। ফলে এই প্রযুক্তিগুলি ধীরে ধীরে জনপরিকাঠামোর অংশ হয়ে উঠছে, মানুষের সম্মতির বিষয়টি উপেক্ষিত হচ্ছে এবং মানবাধিকারের প্রশ্নগুলি যথেষ্ট গুরুত্ব পাচ্ছে না।

এআই প্রযুক্তির প্রয়োগে ক্ষতিগ্রস্ত হচ্ছেন লক্ষ লক্ষ মানুষ

ভারতের অন্যতম স্বাধীন ডিজিটাল সংবাদমাধ্যম ও তথ্য যাচাইকারী সংস্থা বুমের অনুসন্ধানী বিভাগ ডিকোডের একটি অনুসন্ধানী প্রতিবেদনে দেখা গেছে, গর্ভাবস্থা, অসুস্থতা কিংবা বয়স বাড়ার কারণে নারীদের মুখের চেহারায় পরিবর্তন এলে এআই-নির্ভর মুখ শনাক্তকরণ ব্যবস্থা অনেক সময় তাঁদের চিনতে পারছে না। এর ফলে সরকারি পরিষেবা পাওয়া এবং পরিচয় যাচাইয়ের ক্ষেত্রে তাঁরা সমস্যায় পড়ছেন। সরকারের পোষণ ট্র্যাকার নামের অ্যাপে ব্যবহৃত মুখ শনাক্তকরণ প্রযুক্তি নারীদের বর্তমান চেহারার সঙ্গে কয়েক বছর আগের আধার পরিচয়পত্রের ছবির মিল খুঁজে পেতে ব্যর্থ হয়েছে।

ভারতের সমন্বিত শিশু উন্নয়ন পরিষেবা (আইসিডিএস) প্রকল্পের আওতায় প্রায় ৪ কোটি ৭০ লক্ষ গর্ভবতী নারী, স্তন্যদানকারী মা এবং শিশুকে খাবার দেওয়ার দায়িত্ব রয়েছে। ২০২৫ সালের জুলাই মাসে পরিচয় যাচাইয়ের জন্য এআই-ভিত্তিক মুখ শনাক্তকরণ ব্যবস্থা চালু করা হয়। ২০২৫ সালের শেষ নাগাদ, যাঁদের খাবার পাওয়ার কথা ছিল, তাঁদের প্রায় অর্ধেকই তা পাননি। কারণ, প্রযুক্তিটি তাঁদের মুখ চিনতে পারেনি।

কম আলোতে মুখ শনাক্তকরণ প্রযুক্তি ঠিকমতো কাজ করে না। কম ক্ষমতাসম্পন্ন মোবাইল ফোনেও এর কার্যকারিতা কমে যায়। সবচেয়ে উদ্বেগের বিষয়, গাঢ় ত্বকের মানুষের মুখ শনাক্ত করার ক্ষেত্রেও এই প্রযুক্তির গুরুতর সীমাবদ্ধতা রয়েছে। এই পক্ষপাতের কথা বহুদিন ধরেই জানা। তা সত্ত্বেও ভারতের সবচেয়ে প্রান্তিক জনগোষ্ঠীর উপর এই প্রযুক্তি প্রয়োগের আগে কেউ যেন প্রশ্নই তোলেনি, এর প্রভাব কী হতে পারে।

এআই নিয়ে ভারতের নিয়মকানুন

ভারতে এখনও এআই প্রযুক্তি নিয়ে আলাদা কোনও বাধ্যতামূলক আইন নেই। এর পরিবর্তে তথ্যপ্রযুক্তি আইন, মধ্যস্থতাকারী সংস্থার নিয়ম এবং তথ্য সুরক্ষা-সংক্রান্ত বিধির মতো বিদ্যমান নানা আইনের পাশাপাশি কিছু পরিচালন নির্দেশিকার উপর নির্ভর করা হচ্ছে। ২০২৫ সালের নভেম্বর মাসে ভারতের ইলেকট্রনিক্স ও তথ্যপ্রযুক্তি মন্ত্রক (মেইটি) প্রণীত ‘ইন্ডিয়া এআই গভর্ন্যান্স গাইডলাইনস’-এ যে নীতি গ্রহণ করা হয়েছে, তাতে সরাসরি হস্তক্ষেপ না করার উপর জোর দেওয়া হয়েছে। দায়িত্বশীল এআই ব্যবহার, ঝুঁকিভিত্তিক নজরদারি এবং সম্ভাব্য ক্ষতি থেকে সুরক্ষার কথা বলা হলেও এই নির্দেশিকাগুলি আইনত বাধ্যতামূলক নয়।

২০২৫ সালে পেশ করা নতুন ‘কৃত্রিম বুদ্ধিমত্তা (নৈতিকতা ও জবাবদিহি) বিল’-এ একটি নৈতিকতা কমিটি গঠন, বাধ্যতামূলক নৈতিক পর্যালোচনা, পক্ষপাত যাচাই, কিছু নির্দিষ্ট ক্ষেত্রে এআই ব্যবহারের উপর বিধিনিষেধ—যেমন নজরদারি ও উচ্চঝুঁকির কর্মসংস্থান-সংক্রান্ত সিদ্ধান্ত—এবং অভিযোগ জানানোর ব্যবস্থা তৈরির প্রস্তাব দেওয়া হয়েছে। এই বিলটিতে মানবাধিকারের উপর বিশেষ গুরুত্ব দেওয়ার ইঙ্গিত থাকলেও এটি এখনও আইনে পরিণত হয়নি।

ভারতের ডিজিটাল ব্যক্তিগত তথ্য সুরক্ষা কাঠামো (২০২৫ সালের ডিপিডিপি বিধির মাধ্যমে কার্যকর) এআই প্রযুক্তির নির্মাতা ও ব্যবহারকারীদের উপর সম্মতিভিত্তিক তথ্য সংগ্রহ, নির্দিষ্ট উদ্দেশ্যে তথ্যের ব্যবহার এবং যতটুকু প্রয়োজন ততটুকু তথ্য সংগ্রহের মতো বাধ্যবাধকতা আরোপ করেছে। এর ফলে এআই ব্যবহারের ক্ষেত্রে ব্যক্তিগত গোপনীয়তা এবং সংশ্লিষ্ট অধিকারগুলি পরোক্ষভাবে সুরক্ষিত হয়।

সামাজিক যোগাযোগমাধ্যমে মানহানি, ছদ্মবেশ ধারণ, প্রতারণা কিংবা সম্মতি ছাড়া যৌন বিষয়বস্তু তৈরির কাজে ব্যবহৃত এআই-নির্মিত ভুয়ো ছবি ও ভিডিও দ্রুত সরিয়ে দেওয়ার জন্য ভারত সরকার মধ্যস্থতাকারী সংস্থাগুলির উপর চাপ বাড়াচ্ছে। তবে সংশ্লিষ্ট সংস্থাগুলি দ্রুত পদক্ষেপ করলেও, এ ধরনের কৃত্রিমভাবে তৈরি ছবি বা ভিডিও সরিয়ে নেওয়ার আগেই ক্ষতি অনেক সময় হয়ে যায়।

এআই নিয়ে মানবাধিকারের বর্তমান দৃষ্টিভঙ্গি

জাতিসংঘের মানবাধিকার বিষয়ক কর্মকর্তারা ক্রমশ এই মত তুলে ধরছেন যে, কৃত্রিম বুদ্ধিমত্তা পরিচালনার মূল ভিত্তি হওয়া উচিত আন্তর্জাতিক মানবাধিকার আইন। এই আইনে অন্তর্ভুক্তি, জবাবদিহি, স্বচ্ছতা এবং ক্ষমতার অসমতা দূর করার উপর গুরুত্ব দেওয়া হয়েছে। স্বেচ্ছাধীন ‘এআই নৈতিকতা’ নিয়ে আলোচনার গণ্ডি পেরিয়ে আরও বড় একটি প্রবণতা তৈরি হচ্ছে, যেখানে আইনি বাধ্যবাধকতা, বিধিনিষেধ এবং সংশোধনমূলক ব্যবস্থার মতো বিষয়গুলি গুরুত্ব পাচ্ছে। জাতিসংঘের মানবাধিকার বিষয়ক হাইকমিশনার মৌলিক অধিকার লঙ্ঘন করে এমন এআই প্রযুক্তির ব্যবহার, বিশেষত বায়োমেট্রিক নজরদারির কিছু পদ্ধতির উপর সাময়িক নিষেধাজ্ঞা জারির আহ্বান জানিয়েছেন। পাশাপাশি, এআই-নির্ভর পরিষেবার নকশা তৈরি থেকে শুরু করে বাস্তবায়নের প্রতিটি পর্যায়ে বাধ্যতামূলক মানবাধিকার যাচাইয়ের কথাও বলেছেন তিনি।

একইভাবে, ২০২৫ সালের একটি যৌথ বিবৃতিতে ফ্রিডম অনলাইন কোয়ালিশন সরকারগুলিকে ব্যবসায়িক সংস্থাগুলির মানবাধিকার-সংক্রান্ত দায়িত্বশীলতা নিশ্চিত করতে, উচ্চঝুঁকির ক্ষেত্রে সুরক্ষা ব্যবস্থা কার্যকর করতে এবং মানবাধিকারের উপর প্রভাব যাচাই বাধ্যতামূলক করতে আহ্বান জানায়। রাজনৈতিক প্রভাব বিস্তার, ভুল তথ্য ছড়ানো এবং ব্যক্তিগত তথ্যের ভিত্তিতে মানুষকে শ্রেণিবদ্ধ করার মতো ঝুঁকির উপরও বিবৃতিতে বিশেষ গুরুত্ব দেওয়া হয়। কয়েকজন পর্যবেক্ষক দক্ষিণ এশীয় আঞ্চলিক সহযোগিতা সংস্থা (সার্ক)-এর আওতায় একটি অভিন্ন নিয়ন্ত্রণ কাঠামো তৈরির প্রস্তাব দিয়েছেন। তাঁদের মতে, এই কাঠামো ইউরোপীয় ইউনিয়নের এআই আইন-এর আদলে তৈরি হতে পারে, যেখানে মৌলিক অধিকার সুরক্ষা, স্বচ্ছতা এবং জবাবদিহির স্পষ্ট ব্যবস্থা থাকবে। তবে এটি এখনও কেবল একটি নীতিগত সুপারিশ, আইনত বাধ্যতামূলক কোনও প্রস্তাব নয়।

এগিয়ে যাওয়ার পথ

অন্টারিও সরকারের কৃত্রিম বুদ্ধিমত্তার দায়িত্বশীল ব্যবহারের নীতিমালা অনুযায়ী, এআই ব্যবস্থার নকশা তৈরির সময় থেকেই মানবাধিকারের বাধ্যবাধকতাগুলি অন্তর্ভুক্ত করতে হবে; পরে সেগুলি যোগ করলে চলবে না। ইউরোপের মানবাধিকার বিষয়ক কমিশনারের পরিষদও সুপারিশ করেছে যে, উচ্চঝুঁকির এআই ব্যবস্থা চালু করার আগেই মানবাধিকারের উপর তার সম্ভাব্য প্রভাব যাচাই বাধ্যতামূলক করতে হবে। সরকারি বা বেসরকারি সংস্থা জনসাধারণের পরিষেবায় এআই ব্যবহার করলে, তারা কোন প্রযুক্তি ব্যবহার করছে, কোন তথ্যের ভিত্তিতে সেই প্রযুক্তিকে প্রশিক্ষণ দেওয়া হয়েছে এবং তার ভুলের হার কত—এসব তথ্য প্রকাশ করা বাধ্যতামূলক হওয়া উচিত। কোনও এআই ব্যবস্থাকে আইনি দায়বদ্ধতার ক্ষেত্রে কীভাবে বিবেচনা করা হবে, এবং সেই ব্যবস্থার নির্মাতা ও ব্যবহারকারীদের উপর ক্ষতিগ্রস্ত মানুষের প্রতি কী ধরনের দায়িত্ব থাকবে, তা নির্ধারণের জন্য নির্দিষ্ট আইনি কাঠামোও প্রয়োজন। সমস্যা দেখা দেয় তখনই, যখন এমন কাঠামো থাকলেও তা সহজে কার্যকর করা যায় না, অথবা রাষ্ট্রীয় ব্যবহারের ক্ষেত্রে এআই প্রযুক্তিকে সেই নিয়মের আওতার বাইরে রাখা হয়।

মেইটির ইন্ডিয়া এআই মিশন ২০২৪ সালের মার্চ মাসে অনুমোদিত একটি জাতীয় কর্মসূচি। ‘নিরাপদ ও বিশ্বস্ত এআই প্রকল্প’ উদ্যোগের মাধ্যমে ভারতে এআই প্রযুক্তির একটি পূর্ণাঙ্গ পরিকাঠামো গড়ে তোলাই এর লক্ষ্য। এখনও পর্যন্ত পক্ষপাত কমানো, নৈতিক এআই কাঠামো তৈরি, ব্যক্তিগত তথ্যের সুরক্ষা বাড়ানো এবং এআই ব্যবস্থার সিদ্ধান্ত ব্যাখ্যা করার মতো বিষয় নিয়ে দায়িত্বশীল এআই-সংক্রান্ত আটটি প্রকল্প এবং ভুয়ো ছবি ও ভিডিও শনাক্ত করার লক্ষ্যে আরও পাঁচটি প্রকল্প হাতে নেওয়া হয়েছে। কাগজে-কলমে মেইটির ইন্ডিয়া এআই উদ্যোগগুলি মানবাধিকারের নীতির সঙ্গে সামঞ্জস্যপূর্ণ। কিন্তু অধিকার রক্ষার সংগঠনগুলির বক্তব্য, প্রকৃত মানবাধিকারভিত্তিক কাঠামো গড়ে তোলার জন্য এই উদ্যোগ যথেষ্ট নয়। কারণ সুরক্ষার ব্যবস্থাগুলি এখনও স্বেচ্ছাধীন, নজরদারি দুর্বল এবং নজরদারি, সরকারি পরিষেবায় স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণ ও পূর্বাভাসভিত্তিক পুলিশি ব্যবস্থার মতো উচ্চঝুঁকির রাষ্ট্রীয় এআই ব্যবহারের ক্ষেত্রে বাধ্যতামূলক সুরক্ষা বা কার্যকর প্রতিকারের ব্যবস্থা নেই।

মানবাধিকারকর্মীদের মতে, ডিজিটাল কর্তৃত্ববাদী শাসনের ঝুঁকি কমাতে ভারতে এআই-নির্ভর নজরদারি, বিশেষত পুলিশি অ্যালগরিদম ব্যবহারের জন্য নির্দিষ্ট আইন প্রণয়ন করা উচিত। সেই আইনে নজরদারি ব্যবস্থার স্বচ্ছতা এবং যথাযথ তদারকির বিষয়টি নিশ্চিত করতে হবে।

পলা ভিয়ারের জন্ম ১৯৯২ সালে ব্রাজিলের রিও ডি জেনেইরোতে। মনোবিজ্ঞানে স্নাতক হওয়ার পর তিনি ক্লিনিক্যাল সাইকোলজিতে স্নাতকোত্তর কোর্স সম্পন্ন করেন। ছোটবেলা থেকেই ছবি আঁকার অভ্যাস থাকলেও, কোভিড-১৯ অতিমারির সময়েই পলা পেশা বদলানোর সিদ্ধান্ত নেন। এরপর থেকে তিনি ডিজিটাল শিল্পকলা ও সক্রিয়তায় নিজেকে নিয়োজিত করেছেন। পাশাপাশি তেলরঙে ছবি আঁকা, পেন্সিল দিয়ে বাস্তবধর্মী ছবি তৈরি এবং ভারতীয় কালির মতো অন্যান্য মাধ্যমেও কাজ করেন।