भारत एआई के उपयोग से आगे बढ़ रहा है, लेकिन सवाल यह है कि मानव अधिकार संरक्षण कैसे होना चाहिए।

एआई-आधारित निगरानी और फेसबोरिंग नागरिक स्वतंत्रता को कम करके राज्य की संप्रभुता को मजबूत कर रहा है।

प्रथम प्रकाशित ग्लोबल वॉयस

फोटो: पॉला एसीसी के लिए किराया अनुमति के साथ इस्तेमाल किया।

इस पोस्ट को पीएक्सएआई द्वारा नहीं कहा जाता है, सहयोगी से पूछें: मानव अनुभवों को साझा करने के लिए एक संयुक्त पहल श्रृंखला का हिस्सा है। यह श्रृंखला ग्लोबल वॉयस, एसोसिएशन फॉर इंटरवेंटिव कम्युनिकेशंस और एसोसिएशन फॉर एसोसिएशन के सहयोग से बनाई गई थी। इस पहल का उद्देश्य दशकों से लोगों को ज्ञान और अनुभव साझा करने के तरीके के अभ्यास के महत्व की समीक्षा करना है। आप पाठ की एक श्रृंखला पढ़ सकते हैं एसीएजीखैर, समर्पण। और ग्लोबल वॉयस हे यह पोस्ट हमारे विशेष कवरेज ग्लोबल वॉयस का हिस्सा है कृत्रिम बुद्धिमत्ता पर लोग देखेंपिक्स का हिस्सा। इस पहल को आगे बढ़ाने के लिए दान देना यहाँ(चित्र देखें)

भारत में कृत्रिम खुफिया रूपरेखा एक गैर-संचारित गाइड, फिर भी कानून नहीं बन रहा है, एक नैतिक-संबंधित बिल और सूचना की रक्षा के लिए एक विनियमन का संयोजन है। सभी में, एक ऐसी प्रणाली है जहां एआई प्रौद्योगिकी का इस्तेमाल पहले किया जाता है, फिर पूछताछ की जाती है। क्योंकि, हालांकि इस संरचना में एआई का उपयोग करने के लिए जिम्मेदार है, लॉन्च करने से पहले प्रौद्योगिकी के उपयोग के बारे में पारदर्शिता की निगरानी या रखरखाव करने का कोई दायित्व नहीं है।

स्टेशन पर। फेस - to - होना विभिन्न शहरों में पुलिस पुलिस निगरानी प्रौद्योगिकी, एआई आधारित निगरानी की यह प्रवृत्ति बढ़ रही है। इस तरह की प्रौद्योगिकी का उपयोग करने के लिए अभी भी कोई कानूनी सुरक्षा नहीं है। नतीजतन, मानव अधिकारों, गोपनीयता, गरिमा और नागरिक स्वतंत्रता पर चिंता बढ़ रही है। प्रश्न के बिना, "गैर-उपभोक्ता एआई सिर्फ एक इच्छा है। हालांकि यह इस संरचना में मानव हितों को प्राथमिकता देने के लिए है, मानव अधिकारों को एआई के प्रबंधन के लिए आधार के रूप में देखा जाना चाहिए; फिर यह विचार का विषय नहीं होना चाहिए।

फरवरी में, नदिल्ली में पांच दिन इंडिया एआई इम्पैक्ट समिट 2026(चित्र देखें) इस सम्मेलन में विश्व के नेताबड़े तकनीकी संगठनों, सामुदायिक प्रतिनिधियों और नीति निर्माताओं ने इकट्ठा किया। बैठक का लक्ष्य ईआई प्रबंधन के भविष्य और अंतरराष्ट्रीय सहयोग के भविष्य पर चर्चा करना था। एआई प्रौद्योगिकी का बढ़ता महत्व और वैश्विक अर्थव्यवस्था के परिणामस्वरूप विश्व आर्थिक प्रणाली में परिवर्तनवह सम्मेलन में प्रतिबिंबित होता है। सम्मेलन में, मुझे सर्किट ओवरसीयर के रूप में सेवा करने के लिए सौंपा गया था। इसका अनुप्रयोग विभिन्न क्षेत्रों में है, जैसे कि बीमाकारी विकास, नैतिक रूप से एआई प्रौद्योगिकी का उपयोग, और इसके कार्यान्वयन, जैसे स्वास्थ्य, कृषि और शिक्षा।

फरवरी 20 एक बयान में एमनेस्टी इंटरनेशनल, इंटरनेशनल ह्यूमन राइट्स एसोसिएशन ने भारत के व्यावहारिक उपयोग के लिए AIPAC शिखर सम्मेलन की प्रतिबद्धता की तुलना में प्रौद्योगिकी का उपयोग किया। संगठन के अनुसार, एआई आधारित स्वचालित और फेस आधारित प्रौद्योगिकी नागरिकों की सीमाओं को कम कर रही है, राज्य की निगरानी को मजबूत कर रही है और गरीब और हाशिएदार समुदायों को प्रभावित कर रही है।

सम्मेलन स्वयं दिल्ली में बढ़ती एआई आधारित निगरानी प्रणाली है। लाइव शो बंद हो गया। दिल्ली पुलिस ने सम्मेलन स्थल पर सुरक्षा सुनिश्चित करने के लिए अंतर्राष्ट्रीय प्रदर्शनी केंद्र में 500 निगरानी कैमरे का इस्तेमाल किया। इसके अलावा, सेंट्रल दिल्ली पूरी मध्य दिल्ली को डिजिटल टावर में बदल देता है ' 4000 से अधिक i-run कैमरा मिशन

इन कैमरों का वीडियो विश्लेषण चेहरे की पहचान प्रौद्योगिकी का उपयोग कर रहा है। उन लोगों के साथ जो पुलिस संसाधनों में 'जारी' हैं, 'सॉटिमेटर' जो लोगों और सार्वजनिक व्यवस्था को रोकने में सक्षम हैं कैमरे के चेहरे की तुलना में चेतावनी तुरंत भेजी गई थी। 32 नियंत्रण कक्षों के माध्यम से ए-आधारित निगरानी प्रणाली। यह चल रहा था।(चित्र देखें) फेस रिकग्निशन सिस्टम (एफआरएस), तत्काल वीडियो विश्लेषण और जमीन पर पुलिस अधिकारियों के उपयोग के साथ, मैं आधारित स्मार्ट ग्लास। सम्मेलन स्थल और इसके आसपास के लोग भीड़, यातायात पैटर्न और संभवतः 'कलमल' को देखने में मदद करते हैं। 20,000 से अधिक सुरक्षा कर्मियों।(चित्र देखें)

एआई आधारित राज्य निगरानी खतरे।

मानवाधिकार संगठन इंटरनेट फ्रीडम फाउंडेशन (आईएफ) 2020 में भारत में चेहरे पहचान प्रौद्योगिकी के उपयोग की निगरानी के लिए प्रोजेक्ट पैनोपिक यहाँ हम जाते हैं। संगठन 2024 तक 120 से अधिक सरकारी अनुबंध जानकारी एकत्र करते हैं भारत में मुख मान्यता प्रौद्योगिकी का उपयोग सबसे व्यापक ओपन डेटा के साथ।

भारत का गैर-लाभकारी कानूनी सहायता संगठन SFC.in हाल ही में SFC का उपयोग कर रहा है। 2025 में भारत में AIO निगरानी घटनाओं की समीक्षा प्रकाशित यह यात्रा सहित कई मामलों में एक ए-आधारित निगरानी प्रौद्योगिकी के उपयोग को उजागर करता है।

भारत में मुंह मान्यता के उपयोग का स्क्रीनशॉट। इसे प्रबंधित करें IF परियोजना Panopic(चित्र देखें) सीसी

सरकार द्वारा विकसित एक आधारित फेस रिकग्निशन ऐप जर्नीकौन भारत के हवाई परिवहन प्रणाली के लिए एक महत्वपूर्ण डिजिटल पहल के रूप में प्रस्तुत किया गया है। इस प्रणाली पर यात्री पैरामीटर आईडीहवाई अड्डे के दस्तावेजों को सभी सुरक्षित परिवहन प्रदान करने के लिए निर्धारित किया गया है। एक पेपर-कम मार्च में शामिल होने के लिए यह अनिवार्य नहीं है। लेकिन अगर शिकायतविभिन्न भारतीय विमान सेवाओं से यात्री इस प्रणाली के नाम को दस्तावेज करने के लिए मजबूर(चित्र देखें)

यदिइसके अलावा, DGwalk प्रणाली में कमजोरी है और इसके प्रबंधक के तरीके अस्पष्ट हैं। कोई जानकारी एकत्र नहीं की जा रही है, जहां या इसे कैसे संरक्षित किया जाए और कौन इसे देख सकता है - इसमें कोई पारदर्शिता नहीं है। इस सेवा का प्रबंधन डीजीटी फाउंडेशन(चित्र देखें) लगभग 75 प्रतिशत शेयर निजी संगठन हैं। यह सवाल है 2005 सूचना अधिकार कानून (RTI कानून) सीमा से बाहर हो रहा है।

भारत में विभिन्न प्रयोगों में छात्रों को नजर रखने की आवश्यकता है। एआई-आधारित सीसीटीवी निगरानी शुरू इस तकनीक के साथ, छात्र का इशारा, मोबाइल फोन का उपयोग और आंखों के असामान्य स्वर देखे गए। किसी भी संदिग्ध व्यवहार को तुरंत परीक्षा के प्रबंधन के लिए भेजा गया था। 2025 तक, शहर के उत्तर में, बिहार और [पृष्ठ 15 पर]- विभिन्न राज्यों में स्कूल बोर्ड परीक्षण और महत्वपूर्ण प्रतियोगी परीक्षाओं सहित।

एसएफआईरिपोर्ट के अनुसार, इन प्रणालियों की निगरानी के बारे में पर्याप्त जानकारी नहीं है, डेटा कितने समय तक संरक्षित है, या गलतफहमी के खिलाफ शिकायत कैसे दर्ज करें। नतीजतन, ये तकनीक धीरे-धीरे सार्वजनिक क्षेत्र का हिस्सा बन रही हैं, मानव सहमति की अनदेखी कर रही हैं और मानव अधिकारों के सवालों पर पर्याप्त ध्यान नहीं मिला।

लाखों एआई प्रौद्योगिकी के कार्यान्वयन से प्रभावित होते हैं

भारत के अग्रणी स्वतंत्र डिजिटल मीडिया और सूचना निगरानी संगठनों में से एक, बूम की खोजी अनुभाग। एक जांच रिपोर्ट ऐसा प्रतीत होता है कि जब महिलाएं गर्भावस्था, बीमारी या बुढ़ापे के कारण अपने चेहरे को बदल देती हैं, तो एआई-आधारित चेहरे पहचान प्रणाली कभी-कभी उन्हें पहचान नहीं देती है। परिणाम सार्वजनिक सेवा और समस्याओं की पहचान कर रहा है। सरकार ट्रैकर कुछ साल पहले, महिलाओं के वर्तमान स्वरूप के साथ ऐप के चेहरे की पहचान करने के लिए इस्तेमाल किया। पैरामीटर आईडी छवि मैच खोजने में विफल रहा।

भारत एकीकृत बाल विकास सेवा परियोजना (आईसीडीएस) के अनुसार, लगभग 4 मिलियन गर्भवती महिलाएं, गर्भवती माताओं और बच्चों को खिलाने के लिए जिम्मेदार हैं। जुलाई 2025 में, एआई आधारित चेहरे की पहचान शुरू की गई थी। 2025 के दशक के अंत में, जिन लोगों को भोजन होना चाहिए उनमें से लगभग आधे।(चित्र देखें) क्योंकि प्रौद्योगिकी ने अपने चेहरे को पहचान नहीं दी थी।

कम रोशनी में। फेस रिकग्निशन टेक्नोलॉजी ठीक से काम नहीं करती है(चित्र देखें) मोबाइल फोन की प्रभावशीलता भी कम हो जाती है। चिंता, अंधेरे त्वचा के लोगों के चेहरे की पहचान करने के लिए प्रौद्योगिकी में गंभीर सीमाएं हैं। यह इस पूर्वाग्रह के बारे में जानने का एक लंबा समय रहा है। फिर भी, इस तकनीक को भारत में सबसे अधिक हाशिए वाली आबादी पर लागू होने से पहले, कोई भी इसके प्रभाव पर सवाल नहीं लगा सका।

एआई पर भारत का कानून

भारत में, एआई प्रौद्योगिकी पर अभी भी कोई अनिवार्य कानून नहीं है। इसके बजाय सूचना कानून, विनियम और सूचना सुरक्षा कानून कुछ गाइड मौजूदा कानूनों के साथ रखे जा रहे हैं। नवंबर 2025 में भारत के इलेक्ट्रॉनिक्स और सूचना मंत्रीमई'भारत में एक पहचान दिशानिर्देश' के अनुसार यह एक दिशानिर्देश भी है। सिद्धांत जिसे अपनाया गया हैयह भी प्रत्यक्ष हस्तक्षेप की कमी पर जोर देता है। हालांकि इन दिशानिर्देशों को जिम्मेदार एआई, जोखिम आधारित निगरानी और संभावित क्षति द्वारा उपयोग किया जाना चाहिए, ये कानूनी रूप से अनिवार्य नहीं हैं।

2025 में नए प्रस्तुत बिल बिल ऑफ सिविल इंटेलिजेंस- यह एक नैतिक समिति का गठन है, अनिवार्य नैतिक समीक्षाओं का एक कार्यक्रम, अनुचित जांच, कुछ मामलों में एआई के उपयोग पर प्रतिबंध - जैसे निगरानी और उच्च तकनीक रोजगार निर्णय - और शिकायत पैदा करना। सुझाव(चित्र देखें) बिल ने संकेत दिया है कि यह अभी भी कानून में नहीं है।

भारत के डिजिटल पर्सनल डेटा प्रोटेक्शन टूल (डीडीपी नियमों पर काम करना) को एक सामग्री आधारित सूचना संग्रह के हिस्से के रूप में आवश्यक है, उदाहरण के लिए विशिष्ट उद्देश्यों के लिए जानकारी का उपयोग और आवश्यकतानुसार प्रो(चित्र देखें) यह एआई का उपयोग करने में व्यक्तिगत रहस्यों और संबंधित अधिकारों की रक्षा में मदद करता है।

सोशल मीडिया पर, छेड़छाड़, कवर-अप, धोखाधड़ी या सहमति के बिना यौन संबंध बनाने के काम की तस्वीरें भारत सरकार तुरंत वीडियो हटाने के लिए हम इन एजेंसियों पर दबाव डाल रहे हैं।(चित्र देखें) हालांकि, जबकि प्रासंगिक संगठन कार्रवाई करने के लिए त्वरित हैं, ऐसी कृत्रिम छवियों या वीडियो को हटाने से पहले नुकसान लंबे समय तक होता है।

एआई मानव अधिकारों का वर्तमान दृष्टिकोण

संयुक्त राष्ट्र मानवाधिकार अधिकारी बढ़ रहे हैं यह पसंद है। कि कृत्रिम बुद्धिमत्ता का आधार होना चाहिए अंतर्राष्ट्रीय मानवाधिकार कानून(चित्र देखें) कानून पहुंच, जवाबदेही, पारदर्शिता और शक्ति की कमी को दूर करने पर केंद्रित है। विषय की चर्चा से परे 'AI Morality' के अनुसार एक बड़ी प्रवृत्ति कानूनी दायित्वों, प्रतिबंधों और सुधारात्मक प्रणालियों के निर्माण की आवश्यकता है। एआई प्रौद्योगिकी का उपयोग, जो संयुक्त राष्ट्र में मानव अधिकारों के बुनियादी अधिकारों का उल्लंघन करता है, परमाणु निगरानी के कुछ तरीकों पर एक अस्थायी प्रतिबंध है। उन्होंने कहा।(चित्र देखें) इसके अलावा, उन्होंने एआई आधारित सेवा के लिए डिजाइन बनाने और कार्यान्वयन की हर प्रक्रिया शुरू करने से अनिवार्य मानवाधिकार रक्षकों के बारे में भी बात की।

इसी तरह, 2025 में से एक एक साझा बयान यह सुनिश्चित करने के लिए कि ऑनलाइन गठबंधन सरकारों की स्वतंत्रता व्यवसाय संगठनों के मानवाधिकार दायित्वों, उच्चायुक्त संरक्षण के लिए उच्चायुक्त और मानव अधिकारों पर मानव अधिकारों के प्रभाव को सत्यापित करने के लिए अनिवार्य है। बयान राजनीतिक प्रभाव बनाने, झूठी जानकारी फैलाने और व्यक्तिगत जानकारी के अनुसार लोगों को एकजुट करने का जोखिम पर भी ध्यान केंद्रित करता है। कुछ पर्यवेक्षक दक्षिण एशियाई क्षेत्रीय सहयोग (एसके) समान नियंत्रण संरचना उन्होंने प्रस्तावित किया(चित्र देखें) उनके अनुसार, यह संरचना। यूरोपीय संघ एआई कानून- इसे ऐसे तरीके से बनाया जा सकता है जहां बुनियादी अधिकार सुरक्षित, पारदर्शिता और जवाबदेही हैं। हालांकि, यह अभी भी एक नीति सिफारिश है, एक अनिवार्य प्रस्ताव नहीं है।

आगे

इंटरियो सरकार कृत्रिम बुद्धिमत्ता के लिए जिम्मेदारी की नीति एआई प्रणाली के अनुसार, सिस्टम के निर्माण के बाद से मानव अधिकार दायित्वों की आवश्यकता होती है; बाद में उन्हें जोड़ा नहीं जाएगा। यूरोप में मानव अधिकार परिषद अनुशंसित। एक आदमी जिसे उच्चायुक्त एआई प्रणाली शुरू करने से पहले मानव अधिकारों पर अनिवार्य होना चाहिए। यदि सरकार या निजी संगठन एआई को सार्वजनिक सेवा का उपयोग करता है, तो प्रौद्योगिकी का उपयोग किया जाता है, तो प्रौद्योगिकी को सूचना के आधार पर प्रशिक्षित किया गया है और इसकी गलती दर को कितना कम किया जाना चाहिए। एआई प्रणाली को कानूनी जवाबदेही कैसे माना जाएगा, इसके कानूनी ढांचे को सिस्टम के निर्माता और उपयोगकर्ताओं के कर्तव्यों को निर्धारित करने के लिए भी स्थापित किया जाना चाहिए। समस्या तब आती है जब ऐसी अवसंरचनाओं को आसानी से कार्यान्वित नहीं किया जाता है, या राज्य के उपयोग के संदर्भ में, एआई प्रौद्योगिकी को लाइन से बाहर रखा जाता है।

मई इंडिया एआई मिशन मार्च 2024 में अनुमोदित एक राष्ट्रीय कार्यक्रम। लक्ष्य "सुरक्षित और विश्वसनीय एआई परियोजना" के माध्यम से भारत में एआई प्रौद्योगिकी का एक पूर्ण बुनियादी ढांचा विकसित करना है। अब तक, भेदभाव में कमी, नैतिक एआई संरचना का निर्माण, व्यक्तिगत जानकारी की सुरक्षा और एआई के निर्णय की व्याख्या को समझाने के लिए आठ परियोजनाओं जिम्मेदार और Vyo की तस्वीरों और वीडियो की पहचान करना पांच परियोजनाएं हथकड़ी। कागज पर - मीर इंडिया पहल मानव अधिकार नीतियों के अनुसार है। लेकिन अधिकारों की रक्षा के लिए संघयह पहल वास्तविक मानवाधिकार संरचनाओं के निर्माण के लिए पर्याप्त नहीं है। सुरक्षा प्रणाली अभी भी संचालन में हैं, निगरानी और निगरानी के तहत सरकारी सेवा आत्मरक्षा निर्णयों में और एआई के उपयोग के लिए उच्च तकनीकी सुरक्षा जैसे राज्य के स्वामित्व वाली एआई।

मानवाधिकार रक्षक के अनुसारडिजिटल शासन के जोखिम को कम करने के लिए, भारत में एआई-आधारित निगरानी, विशेष रूप से कुछ कानूनों का उपयोग करने के लिए पुलिस एल्गोरिदम को पेश किया जाना चाहिए। कानून को निगरानी प्रणाली की पारदर्शिता और उचित निष्पक्षता सुनिश्चित करनी चाहिए।

पॉला का जन्म 1992 में रियो डी जनेरियो में हुआ था। उन्होंने अपने पाठ्यक्रम को क्लीनिकों में पूरा किया। बचपन से चित्र खींचने की आदत के बावजूद, कोविद-19 ने पूछताछ के समय अपने कैरियर को बदलने का फैसला किया। तब से उन्होंने खुद को डिजिटल कला और सक्रियता के लिए समर्पित किया है। वह चित्र, पेंसिल और भारतीय स्याही के अन्य साधनों के माध्यम से भी काम करती है।