La vigilancia y el Faceboring basados en la inteligencia artificial están fortaleciendo la soberanía estatal reduciendo las libertades ciudadanas.
Primera publicación Global Voices
Foto: Paula Vire para ACC. Usado con permiso.
Este post no es pedido por pixAI, pregunte al colega: una iniciativa conjunta para compartir experiencias humanas es parte de la serie. La serie fue creada en colaboración con Global Voices, Association for Interventive Communications and Association for Associations. Esta iniciativa tiene por objeto seguir examinando la importancia de la práctica de que la gente haya compartido conocimientos y experiencias durante decenios. Puedes leer una serie de texto AC.A.G.Bueno, La rendición. Y Global Voices Hola. Este post es parte de nuestra cobertura especial Global Voices People's View on artificial intelligenceParte del pix. Dar donaciones para avanzar en esta iniciativa Toma.(Ver foto de apertura.)
In India Marco de inteligencia artificial Una guía no comunicada, pero sin convertirse en ley, es una combinación de un proyecto de ley relacionado con la moral y una regulación para proteger la información. En total, hay un sistema en el que la tecnología AI se utiliza primero, luego se cuestiona. Debido a que, aunque es responsable de utilizar la IA en esta estructura, no hay obligación de supervisar o mantener la transparencia sobre el uso de la tecnología antes de lanzarse.
En la estación. Una cara - Para ser encontrado Policía en varias ciudades Vigilancia policial con síntomas Tecnología, esta tendencia de la vigilancia basada en la inteligencia artificial está creciendo. Todavía no hay protección jurídica para utilizar esa tecnología. En consecuencia, aumenta la preocupación por los derechos humanos, la privacidad, la dignidad y la libertad civil. Sin duda, "la IA que no consume es sólo un deseo." Aunque tiene por objeto dar prioridad a los intereses humanos en esta estructura, los derechos humanos deben considerarse la base para la gestión de la AI; entonces no debe ser objeto de consideración.
En febrero, cinco días en Nadielli The India AI Impact Summit 2026(Ver foto de apertura.) En esta convención Líderes del MundoSe reunieron las grandes organizaciones tecnológicas, representantes comunitarios y responsables políticos. El objetivo de la reunión era examinar el futuro de la gestión de la IE y el futuro de la cooperación internacional. La tecnología AI es cada vez más importante y resulta en economía global El cambio en el sistema económico mundialSe refleja en la conferencia. En la convención, me asignaron para servir como supervisor de circuitos. Su aplicación se encuentra en diversas esferas, como el desarrollo insurgenente, el uso moral de la tecnología de IA y su aplicación, como la salud, la agricultura y la educación.
20 de febrero En una declaración Amnesty International, the International Human Rights Association, compared the commitment to the AIPAC Summit to India's practical use of technology. Según la organización, la tecnología automática basada en AI y Face está reduciendo las gamas de ciudadanos, fortaleciendo la vigilancia del Estado y afectando a las comunidades pobres y marginadas.
La propia conferencia es el creciente sistema de vigilancia basado en la inteligencia artificial en Delhi. Un espectáculo en vivo Resultó. La policía de Delhi utilizó 500 cámaras de vigilancia en el centro internacional de exposiciones para garantizar la seguridad en el sitio de la conferencia. Además, Central Delhi convierte toda la Delhi central en una torre digital ' Más de 4.000 cámaras i-run Misionado.
El análisis de vídeo de estas cámaras está utilizando la tecnología de reconocimiento facial. Con personas que son 'sospechadas' en recursos policiales, 'softimators' que son capaces de detener a la gente y el orden público Comparado con la cara de la cámara La alerta fue enviada inmediatamente. El sistema de vigilancia A a través de 32 celdas de control. Se estaba moviendo.(Ver foto de apertura.) Junto con el sistema de reconocimiento facial (FRS), análisis de vídeo instantáneo y el uso de oficiales de policía sobre el terreno, gafas inteligentes basadas en I. El sitio de la convención y la gente alrededor de ella ayudan a ver la multitud, patrones de tráfico, y posiblemente ‘Kalmals’ Más de 20.000 efectivos de seguridad.(Ver foto de apertura.)
Riesgo de vigilancia estatal basado en la inteligencia artificial.
Human rights organization Internet Freedom Foundation (IF) for monitoring the use of face recognition technology in India in 2020 Proyecto Panopic Aquí vamos. Organización Para 2024 Más de 120 contratos gubernamentales recopilan información In India El uso de la tecnología de reconocimiento bucal Con los Datos Abiertos más extensos.
La organización no lucrativa de la India SFC.in ha estado utilizando recientemente el SFC. AIO en India en 2025 Examen de los incidentes de vigilancia Publicado. Destaca el uso de una tecnología de vigilancia basada en A en muchos casos, incluido el viaje.
Captura de pantalla del uso de la boca reconocimiento en la India. Administrarlo IF Project Panopic(Ver foto de apertura.) CC-BY
Aplicación de reconocimiento facial con base en el gobierno El viajeQuién se presenta como una importante iniciativa digital para el sistema de transporte aéreo de la India. El pasajero de este sistema Parámetro IDLos documentos del aeropuerto están listos para proporcionar transporte seguro. No es obligatorio unirse a una marcha de cine. Pero IF quejasUn pasajero de varias aerolíneas indias Forzada a documentar el nombre de este sistema(Ver foto de apertura.)
IFMás que eso, hay debilidad en el sistema DGwalk y los métodos de su gerente no son claros. No se está recopilando información, dónde o cómo conservarla y quién puede verla - no hay transparencia en ella. Administrar este servicio DGT Foundation(Ver foto de apertura.) Casi el 75% de las acciones son organizaciones privadas. Está en cuestión. 2005 Information Rights Law (Ley TRI) está saliendo de rango.
En diversos experimentos en la India, es necesario que los estudiantes mantengan un ojo en Vigilancia de la CCTV basada en la inteligencia artificial Comenzando. Con esta tecnología, el gesto del estudiante, el uso de teléfonos móviles y los tonos inusuales de los ojos se observaron. Cualquier comportamiento sospechoso fue enviado inmediatamente a la gestión de los exámenes. Hacia 2025, al norte de la ciudad, Bihar Y [ Mapa de la página 15]- incluyendo pruebas de la junta escolar y pruebas competitivas importantes en diferentes estados.
SFI.inSegún el informe, no hay suficiente información sobre cómo supervisar estos sistemas, cuánto tiempo se conservan los datos o cómo presentar denuncias contra malentendidos. Como resultado, estas tecnologías se están convirtiendo lentamente en parte del sector público, ignorando el consentimiento humano y no recibiendo suficiente atención a las cuestiones de derechos humanos.
Millones de personas se ven afectadas por la aplicación de la tecnología AI
Una de las principales organizaciones independientes de comunicación digital e información de la India, la sección de investigación de Boom. Informe de investigación Parece que cuando las mujeres cambian sus rostros debido al embarazo, la enfermedad o la vejez, el sistema de reconocimiento facial basado en la inteligencia artificial no las reconoce a veces. El resultado es encontrar servicios públicos e identificar problemas. Gobierno Tracker Hace unos años, con el aspecto actual de las mujeres solía identificar la cara de la aplicación. Parámetro ID Failed to find the image match.
India Servicio Integrado de Desarrollo de la Infancia Según el proyecto (ICDS), aproximadamente 4 millones de mujeres embarazadas, madres embarazadas y niños son responsables de la alimentación. En julio de 2025, se lanzó un reconocimiento facial basado en AI. A finales de los años 2025, personas que supuestamente tenían comida Casi la mitad de ellos.(Ver foto de apertura.) Porque la tecnología no reconoció sus caras.
En la luz menos. La tecnología de reconocimiento facial no funciona correctamente(Ver foto de apertura.) La eficacia del teléfono móvil también disminuye. Muy preocupado, Para identificar las caras de las personas de piel oscura La tecnología tiene serias limitaciones. Ha pasado mucho tiempo para aprender sobre este prejuicio. Sin embargo, antes de aplicar esta tecnología a la población más marginada de la India, nadie pudo cuestionar su impacto.
India Ley de AI
In India, there is still no mandatory law on AI technology. en lugar Leyes, reglamentos y leyes de protección de la información Algunas de las guías guías están siendo colocadas junto con las leyes vigentes. Ministro de Electrónica e Información de la India en noviembre de 2025MayoSegún 'India A Identance Guidelines' en It is also a guideline. El principio que se ha adoptadoTambién subraya la falta de intervención directa. Aunque se supone que estas directrices deben ser utilizadas por la AI responsable, la vigilancia basada en el riesgo y los posibles daños, éstas no son legalmente obligatorias.
Los nuevos regalos en 2025 El proyecto de ley de inteligencia civil- Esta es la formación de un comité moral, un programa de exámenes morales obligatorios, cheques injustos, restricciones al uso de la IA en ciertos casos, como la vigilancia y las decisiones de empleo de alta tecnología, y la creación de quejas. Sugerido(Ver foto de apertura.) El proyecto de ley ha indicado que todavía no está en la ley.
La herramienta digital de protección de datos personales de la India (un trabajo sobre reglas del DDP) se requiere como parte de una recopilación de información basada en contenidos, por ejemplo, el uso de información con fines específicos, y según sea necesario Pro(Ver foto de apertura.) Esto ayuda a proteger secretos personales y derechos conexos en el uso de AI.
En las redes sociales, imágenes del trabajo de crear sexo sin difamación, encubrimiento, fraude o consentimiento The Government of India to immediately remove the video Estamos presionando a estas agencias.(Ver foto de apertura.) Sin embargo, si bien las organizaciones pertinentes son rápidas de tomar medidas, los daños tienen lugar mucho antes de eliminar tales imágenes o videos artificiales.
La visión actual de AI sobre los derechos humanos
Funcionarios de derechos humanos de las Naciones Unidas están creciendo Es así. Esa inteligencia artificial debe ser la base International Human Rights Law(Ver foto de apertura.) La ley se centra en eliminar el acceso, la rendición de cuentas, la transparencia y la falta de poder. De acuerdo con ‘I Morality más allá de la discusión del tema’ Una tendencia más grande Es necesario construir cuando las obligaciones legales, las restricciones y los sistemas correctivos cobran importancia. El uso de la tecnología AI, que viola los derechos fundamentales de los derechos humanos en las Naciones Unidas, es una prohibición temporal de algunos de los métodos de vigilancia nuclear. Llamó.(Ver foto de apertura.) Además, también habló sobre los defensores de los derechos humanos obligatorios para crear diseño para servicios basados en AI y comenzar cada proceso de aplicación.
Del mismo modo, uno de 2025 Una declaración compartida Velar por que la independencia de los gobiernos de la coalición en línea sea responsable de las obligaciones de derechos humanos de las organizaciones empresariales, el Alto Comisionado para la Protección del Alto Comisionado y la obligación de verificar el impacto de los derechos humanos en los derechos humanos. La declaración también se centra en el riesgo de crear influencia política, difundir información falsa y el riesgo de unir personas según la información personal. Algunos observadores. South Asian Regional Cooperation (SK) Una estructura de control similar Él propuso(Ver foto de apertura.) Según ellos, esta estructura. European Union AI Law- Puede crearse de manera que se protejan los derechos básicos, la transparencia y la rendición de cuentas. However, it is still a policy recommendation, not a mandatory proposal.
Adelante.
Interio government Una política de responsabilidad de la inteligencia artificial Según el sistema AI, las obligaciones en materia de derechos humanos han sido necesarias desde la creación del sistema; no se añadirán más adelante. El Consejo de Derechos Humanos en Europa El recomendado. A man who would have to be compulsory on human rights before he launched the High Commissioner AI system. Si el gobierno o la organización privada utiliza la IA al servicio público, que la tecnología está utilizando, la tecnología ha sido capacitada sobre la base de la información y cuánto debe reducirse su tasa de error. El marco legal de cómo el sistema AI será considerado responsable legal, y también debe establecerse para determinar los deberes de los creadores y usuarios del sistema. El problema surge cuando tales infraestructuras no se implementan fácilmente, o en términos de uso estatal, la tecnología AI se mantiene fuera de línea.
Mayo India AI mission Un evento nacional aprobado en marzo de 2024. El objetivo es desarrollar una infraestructura completa de la tecnología AI en India a través del "proyecto AI seguro y fiable". Hasta ahora, la reducción de la discriminación, la creación de estructura moral de AI, la protección de la información personal y la interpretación de la decisión de AI de explicar Ocho proyectos responsables Y pretende identificar las fotos y videos de Vyo Cinco proyectos más Manufactos. Sobre el papel - La iniciativa Meir India se ajusta a las políticas de derechos humanos. Pero... Associations to Protect RightsEsta iniciativa no es suficiente para construir estructuras reales de derechos humanos. The security systems are still in operation, under surveillance and surveillance, in government service self-defense decisions, and high-technical protections for use of the AI, such as the state-owned AI.
Human rights defenders De acuerdo.Para reducir el riesgo de gobernanza digital, la vigilancia basada en la inteligencia artificial en la India, especialmente los algoritmos de policía deben introducirse para utilizar ciertas leyes. The law must ensure transparency and proper fairness of the surveillance system.
Paula nació en Río de Janeiro en 1992. Completó su curso en clínicas. A pesar de la costumbre de sacar fotos de la infancia, Kovid-19 decidió cambiar su carrera durante el momento del interrogatorio. Desde entonces, se ha dedicado al arte digital y al activismo. También trabaja a través de otros medios de dibujos, lápices y tinta india.
