Ilustracion creada por Butcher Billy
Hoy en día, ningún ser humano escapa de la tecnología. De hecho, las aplicaciones se han vuelto nuestro mediador en diversos ámbitos, siendo elementales para nuestra convivencia: cambió nuestra manera de relacionarnos, de interactuar con el ambiente y hasta de movernos por la ciudad y acceder a servicios.
Cada vez contamos con más “soluciones”, “beneficios”, incluso “experiencias”, aunque no todo es color de rosa. La dependencia que tiene cada uno de nosotros a los dispositivos y herramientas digitales transformaron nuestra rutina en un estilo de vida.
Esto no es todo…. También, podemos opinar sobre los servicios que utilizamos a través de las calificaciones en internet, generando un “perfil” de lo que nos interesa pero, ¿qué pasaría si se pudiera calificar en tiempo real las acciones de cada persona?
Creímos que solo en Black Mirror podíamos encontrar personajes que califiquen a otras, pero nos equivocamos. China lleva tiempo utilizando el sistema Big Data,que no para de avanzar. En este sentido, el país oriental monitorea a los ciudadanos a partir de dos elementos tecnológicos: la Inteligencia artificial y el procesamiento de grandes cantidades de datos (big data).
El motivo principal de la implementación de sofisticados sistemas de vigilancia y censuras es garantizar “la seguridad” del país, por eso desde 2018 la república oriental utiliza aplicaciones para calificar acciones ciudadanas y por lo tanto, también sancionar: como saltar una señal de tráfico, pagar los impuestos a tiempo o mismo cumplir con el llamado “deber ciudadano”. Cuanto mejor sea la puntuación, “mejor” será el ciudadano.
A partir de esta primera experiencia, China decidió usar la inteligencia artificial para controlar a la población de forma muy extrema y hoy los sistemas de IA tienen un impacto directo en las actividades diarias: desde sistemas de reconocimiento facial, de imagen, de texto y de audio para saber dónde están, qué ven, qué leen y hasta qué dicen.
Actualmente son múltiples las situaciones de uso que generan polémica. Recientemente ocurrió con los uniformes escolares que poseen sistema de rastreo y reconocimiento facial. Este permite saber cuándo los estudiantes se quedan dormidos en clase o si salen de la escuela sin permiso.
Imagen ilustrativa de uniforme escolar con GPS. Fuente; The Vergue
Además, la policía de China emplea gafas con reconocimiento facial que posibilitan rastrear a los ciudadanos y detectar a delincuentes buscados. Frente a esta situación, diferentes organizaciones señalan que estos “avances tecnológicos” no están siendo dedicados para crear una sociedad más libre en China, sino todo lo contrario.
¿Donde queda la privacidad de los ciudadanos? ¿ Con qué fines se utilizan estas herramientas y cuáles otras más vendran?
The object detection and tracking technology developed by SenseTime Group Ltd. is displayed on a screen at the Artificial Intelligence Exhibition & Conference in Tokyo, Japan, on Wednesday, April 4, 2018. Photographer: Kiyoshi Ota/Bloomberg
En el caso de análisis de Big Data, el país emplea desde 2020 el sistema de crédito obligatorio para recolectar información, monitorizar, valorar y dar forma al comportamiento de la gente mediante procesos sociales y económicos.
Este escenario se da por dos factores elementales: por un lado, el 85% de las empresas chinas son parte activa en el sector de la inteligencia artificial y por el otro, la empresa china Sensetime es la mayor proveedora de la tecnología que se ve en las calles.
Desde otro punto de vista, también nos podemos encontrar con casos como el de la ciudad china de Hanghzou que sufre de embotellamientos de tráficos. Las autoridades de la ciudad, gracias a la IA, consiguieron reducir notablemente las retenciones de tráfico mediante el uso de cámaras y una informatización eficiente de las señales y los semáforos.
No obstante, esta situación no ocurre únicamente en China, sino también en Europa y Latinoamérica. En Europa, existe la plataforma ConductaTM Ciudadanos, una iniciativa conjunta del Estado con la empresa tecnológica Tissaty que promueve la implicación del ciudadano en cualquier tipo de actividad relacionada con el sector público, mediante un sistema que reconoce y premia su participación. Estas recompensas permiten ayudar al reciclado, informar sobre incidencias y promover un mayor y mejor uso de los servicios municipales.
‘Las nuevas tecnologías son propias del contexto de globalización que vivimos, pero dependerá de nuestros usos si terminan siendo un problema o una solución’
En España está la aplicación Knozen que incorpora valoraciones anónimas en ámbitos laborales para evaluar las personalidades de los colegas con los que trabajamos. Mientras que en México utilizan Peeple, que permite calificar en internet películas, restaurantes, hoteles, maquillaje, líneas de ropa, lugares para visitar, libro y ahora, hasta personas que conocés. Con esta aplicación, podés enviar de una a cinco estrellas a tus compañeros de trabajo, tus amigos e incluso tu ex novio.
En Argentina, la Ciudad de Buenos Aires fue pionera en la instalación de cámaras de videovigilancia. El sistema de reconocimiento facial funciona en CABA desde 2019 y tiene como objetivo “identificar personas con orden de detención de la Justicia”: utiliza las imágenes en vivo obtenidas por las cámaras de video de la vía pública y las compara con las fotos de las personas buscadas.
Sin embargo, en 2019, diversas entidades como la Asociación Civil por la Igualdad y la Justicia (ACIJ), el Centro de Estudios Legales y Sociales (CELS) y la fundación Vía Libre, denunciaron que este instrumento viola la privacidad y la intimidad de las personas, incluso ejerciendo discriminación.
También la gestión de los datos personales presenta irregularidades que aún no han sido explicadas: hay un conjunto de 356 registros que fueron ingresados, buscados y luego borrados de manera manual y, además, muchas de las acciones no tienen trazabilidad debido a que se realizan con usuarios genéricos.
Por lo que vimos, el uso de estas tecnologías podemos relacionarlo con la Biopolítica de Michel Foucault, donde se refiere al conjunto de “cálculos y tácticas” que intervienen sobre una población mediante la gestión de la vida.
Asimismo, para entender el concepto debemos comprender que deben existir ciertos elementos que garantizan este efecto. Por un lado, “los discursos de verdad” por parte de autoridades consideradas competentes para hablar de esas verdades.
Luego, ciertas normas sobre la vida y la salud. Hay estrategias de intervención que moldean la existencia colectiva que están dirigidas a las poblaciones.
Por último, el autogobierno, que se refiere a los modos de subjetivación a través de los cuales los individuos se gobiernan a sí mismos bajo ciertas formas de autoridad, en relación con discursos de verdad y en nombre de su propia salud o de la salud de la población.
Las nuevas tecnologías son propias del contexto de globalización que vivimos, pero dependerá de nuestros usos si terminan siendo un problema o una solución.
Para Foucault, una tecnología consiste en la aplicación de medios calculados con el fin de alcanzar determinados fines. En este sentido, una tecnología de gobierno sería entonces la aplicación de los medios para que las personas se comporten de una determinada manera según ciertos objetivos establecidos de antemano. Sin embargo, la racionalidad que opera en este tipo de tecnología está determinada por una estructura en la que prima tanto la consecución de los medios para obtener ciertos fines como la consideración ética de los valores que se persiguen.
¡Hola! Si llegaste hasta acá y te gusta lo que hacemos en Muta, medio independiente hecho en Argentina y Uruguay, siempre nos podés apoyar desde la plataforma de financiación Cafecito. Con un mínimo aporte nos ayudás no sólo con gastos corrientes, sino también con la alegría e importancia de saber que estás del otro lado.