Políticas públicas y regulación en las tecnologías disruptivas

1.1. VENTAJAS Y APLICACIONES DE LA CIENCIA DE DATOS Y LOS DATOS ABIERTOS PARA LA TOMA DE DECISIONES

Los Estados generan enormes volúmenes de información, simplemente por su operación cotidiana²¹. Junto con el internet y las redes sociales, la información pública ha aumentado de forma exponencial el volumen de datos disponibles. Los algoritmos para encontrar información en ese mar de datos son cada vez más sofisticados y su desarrollo comprende el núcleo de la nueva ciencia de datos o analítica de datos. Los macrodatos, Big Data o ciencia de datos aparecen justamente para la recolección y análisis de conjuntos de informaciones computacionales grandes y complejos, que superan la capacidad de una máquina individual y del software convencional, transformando por tanto la manera de almacenar y procesar datos estructurados y no estructurados²². De hecho, para el sector público, la ciencia de datos aplicable es definida como aquella de “datos de alto volumen que con frecuencia combinan datos administrativos altamente estructurados recopilados activamente por organizaciones del sector público con datos estructurados y no estructurados recopilados continua y automáticamente en tiempo real, que a menudo son creados pasivamente por entidades públicas y privadas a través de sus interacciones en Internet” (Mergel et al., 2016 p. 931). Con los equipos y software adecuados, es posible usar y combinar grandes conjuntos de datos de varias fuentes; aplicar analítica de datos y algoritmos con computación distribuida para manejar tareas de computación muy complejas, y usar los conjuntos de datos para propósitos radicalmente distintos a aquel para el cual se originaron (Mergel et al., 2016; van der Voort et al., 2019). Existen tres grandes tipos de análisis que se pueden hacer con ciencia de datos: históricos (analizar tendencias de comportamientos pasados), predictivos (proyecciones de posibles escenarios futuros basados en estadísticas masivas) y en tiempo real (analizar comportamientos de millones de usuarios o sensores en el momento en que están ocurriendo, como el tráfico).

En el caso particular de la Administración pública, estos datos provienen de usuarios privados, de sensores automáticos y de datos recopilados rutinariamente por el sector público mismo. Esto se puede combinar con las bases de datos tradicionales del gobierno (Mergel et al., 2016). Los analistas de datos pueden entonces sacar conclusiones e identificar tendencias, y luego, en teoría²³, los tomadores de decisión en la Administración pública pueden usar esa información e incorporarla en sus decisiones. Puesto que la Administración pública debe garantizar la prestación de servicios y entrega de productos públicos, la ciencia de datos puede ayudar a crear nuevos bienes y servicios, mejorar la prestación de los existentes y también identificar beneficiarios de manera más eficiente y precisa.

La ciencia de datos se puede usar para detectar irregularidades, por ejemplo, en las áreas de evasión tributaria, enriquecimiento ilícito y fraude a la seguridad social. En los Estados Unidos se emplea también la ciencia de datos para temas de riesgo financiero y control de medicamentos (Mergel et al., 2016). Otras ventajas se aprecian en materia de transporte público, en donde el análisis de tendencias, usuarios, tarifas y otros datos ha permitido hacer más eficientes los tiempos de desplazamiento en las ciudades y evitar congestión, tal como se usó de manera exitosa en Singapur (Maciejewski, 2017). Asimismo, el análisis de redes sociales permite a las administraciones analizar las percepciones de los ciudadanos frente a las políticas públicas y al gobierno en general y medir la aceptación de medidas antes de tomarlas (Maciejewski, 2017). Al interior de la Administración pública, los datos pueden también servir para gestionar mejor los recursos, medir el desempeño de los servidores públicos y optimizar las herramientas de control interno y control de la corrupción²⁴, entre otras ganancias en eficiencia y eficacia.

Tratándose del caso colombiano, se observan algunos desarrollos en ciencia de datos, generación y uso de macrodatos y en datos abiertos de la Administración pública. Con el fin de aumentar el aprovechamiento de datos en el país, se adoptó el Conpes 3920 de 2018, sobre política de explotación de este recurso en el que se plantean tres estrategias: desarrollo de capacidades, cultura de datos y marco jurídico e institucional. Se busca de esta forma desarrollar condiciones para que los datos sean gestionados como activos generadores de valor social y económico, haciendo una diferenciación entre datos privados, personales y públicos, para efectos de regular cada uno de manera distinta. Pese al aporte incremental que este decreto representa para el desarrollo de la política de transformación digital de Colombia, esta estrategia se enfoca en la eficiencia gubernamental, dejando por fuera a otros sectores y a la ciudadanía. A esto se suma que no se trató con profundidad en la estrategia “la transformación digital de manera que Colombia aprovechara las oportunidades y enfrentara los retos relacionados con la 4RI” (Conpes 3975 de 2019).

En cuanto a las aplicaciones prácticas de la ciencia de datos y datos abiertos por parte de la Administración pública colombiana, encontramos casos como el de la Policía Nacional, entidad que desde 2014 cruza información de cámaras, llamadas a la línea 123 y de agentes en las calles. Se trata de un proyecto ambicioso de ciencia de datos que busca prevenir el crimen en el territorio nacional. A su vez, el Departamento Nacional de Estadística (DANE) emplea herramientas de macrodatos y datos abiertos para el monitoreo de los Objetivos de Desarrollo Sostenible y en el Censo Nacional de Población y Vivienda. Otros ejemplos dados por la literatura incluyen al Ministerio de Hacienda y el Departamento Nacional de Planeación (DNP), organismos de la Administración que han hecho análisis usando datos de Google para monitorear actividades económicas (Becerra et al., 2018). De igual modo, se identifican estrategias de ciencia de datos en órganos autónomos como el Banco de la República, y en entidades del sector hacienda como el Departamento de Impuestos y Aduanas Nacionales (DIAN) y la Unidad administrativa especial de Información y Análisis Financiero (UIAF). En la Administración tributaria, la ciencia de datos es usada para cruzar diferentes fuentes de información y evitar la evasión de impuestos.

En materia de apertura de datos y su publicación en línea, se han dado los primeros pasos con la creación del programa datos abiertos (datos.gov.co), creado por la Presidencia de la República durante la pasada administración. Conforme a este programa, las entidades públicas pueden voluntariamente subir conjuntos de datos abiertos que consideren de interés para la ciudadanía. De esta manera, se han puesto a disposición del público más de 10.000 conjuntos de datos de diversas entidades públicas y aspectos de actividad del sector público²⁵. Esto permite análisis como el que López et al. (2018) han realizado sobre la hipertensión en Cartagena, a partir de información de sensores, historias clínicas y otras fuentes y haciendo analítica de datos para prevenir o identificar a tiempo nuevos casos; o el trabajo sobre seguridad vial hecho por Hidalgo et al. (2018), el cual hace recomendaciones muy específicas para reducir los accidentes a bajo costo, enfocando esfuerzos en los puntos álgidos según fuentes combinadas de datos sobre tránsito.

Ahora bien, la Administración puede también ser el usuario de datos generados por otros, para la formulación y evaluación de políticas públicas y de políticas administrativas. Esta tendencia se ha observado en otros países en el marco de la creación de laboratorios de innovación pública centrados en ciencia de datos. Utilizando datos abiertos disponibles de diversas fuentes, estos laboratorios creados en el sector público, a veces en colaboración con actores académicos, se dedican a analizar conjuntos masivos de datos para tomar decisiones y crear nuevos y mejores programas orientados a resolver problemas públicos²⁶. Colombia también ha participado en esta tendencia, con la creación de iniciativas como ViveLab²⁷ y BogoLab²⁸. Sin embargo, estos laboratorios no tienen un uso intensivo de ciencia de datos, dadas las deficiencias que tiene el país en esta materia y los problemas de calidad de los datos y acceso a datos abiertos²⁹. Los macrodatos y la ciencia de datos han mostrado ya su utilidad para las administraciones públicas con resultados mixtos, algunos claramente útiles para agregar valor público y otros todavía en etapa de experimentación y sin haber sido evaluados. Sin embargo, estas tecnologías también han introducido retos grandes para las estructuras burocráticas tradicionales y las culturas administrativas existentes, en particular en los países latinos (Ramió, 2019).

1.2. RETOS DE LA CIENCIA DE DATOS Y LOS DATOS ABIERTOS PARA LAS ADMINISTRACIONES PÚBLICA

Los retos del uso masivo de datos por la Administración pública son éticos, sociales, administrativos, económicos y tecnológicos, derivados del uso del conocimiento por los organismos y entidades que la integran, los procedimientos de toma de decisiones y de formulación de políticas públicas, las estructuras de incentivos, las capacidades y los procedimientos administrativos (van der Voort et al., 2019). Asimismo, los seres humanos son vulnerables a sesgos cognitivos (Arinder, 2016), y las autoridades administrativas tienen desafíos en materia de coordinación al interior de su organización y con otros actores, y en razón de tiempos y recursos escasos para el análisis de toda la información disponible.

La gobernanza digital debe responder a conflictos entre imperativos y valores que se presentan en la Administración debido a las nuevas tecnologías computacionales, ayudar a reducir la incertidumbre que su uso genera, y ambientar las discusiones políticas inevitables que se van a presentar frente a las mismas (Andrews, 2018). En cada una de las dimensiones en que estos retos se presentan, habría que hacer cambios significativos, como implementar la toma de decisiones basada en evidencia, proceso que empezó a discutirse en los años ochenta con la Nueva Gestión Pública (NPM, por sus siglas en inglés)³⁰.

Se evidencia, además, un salto desde el análisis de datos masivos a la creación de valor público, en el cual están incluidas las etapas de formulación de un problema público y la generación de alternativas, las cuales siguen siendo operaciones propias y no reemplazables del elemento humano de la unidad de servicios u organización administrativa. Esto quiere decir que la disponibilidad de más y mejor información por medio de la tecnología no asegura que la toma de decisiones por la Administración sea mejor que antes, ni tampoco la releva de las dinámicas propias a sus misiones, de acuerdo con el conocimiento acumulado de décadas de estudios en la disciplina de la Administración pública. Si la información es un instrumento de calidad regulatoria, su alcance está siempre condicionado por el uso que de la misma hagan los servidores públicos que participan en la toma de decisiones (Carvajal Sánchez, 2013).

Es por tanto un reto contener el optimismo tecnológico extremo, basado en la creencia de que la tecnología resuelve por sí misma problemas que el aparato administrativo no ha sido capaz de resolver. De igual modo, la validez y legitimidad de la decisión final está condicionada al respeto del debido proceso y los principios que orientan el ejercicio de la función administrativa, incluida la participación ciudadana como presupuesto procedimental para el ejercicio de la potestad reglamentaria (Zárate & Perdomo, 2019). Si un análisis de datos ofrece soluciones por fuera de esos marcos o que no sean aceptables socialmente, no sería posible tenerlos en cuenta.

En los aspectos éticos y sociales, el uso masivo de datos que se originan en los ciudadanos genera un reto evidente en lo referente a la privacidad. En este orden de ideas, la protección de datos personales debe hacerse compatible con la recopilación de cantidades masivas de información para el análisis. De este modo, es posible encontrar discusiones tanto académicas como jurídicas sobre cómo asegurar de mejor forma la anonimidad de los datos o la protección de la identidad de los individuos en las bases de datos abiertos. No solo los ciudadanos se oponen a la idea de que el Estado o una empresa privada tengan toda su información, de modo que puedan controlar sus comportamientos, sino que también la hipervigilancia estatal puede conducir a una distopía social, como lo enseña la experiencia China, lugar en donde con un sistema de “puntos” cada ciudadano es monitoreado y sus acciones le dan o quitan puntos; que después le permitirán conseguir trabajo, viajar o acceder a beneficios y programas sociales (Helbing et al., 2017).

En una postura más enérgica, algunos denuncian el uso de la ciencia de datos para incentivar o desincentivar comportamientos en los ciudadanos: a partir de una ciencia del comportamiento y la idea del “empujón” (nudge), podrían orientarse las decisiones individuales hacia lo que la Administración considere como el bien común, pero sin que esto refleje el conocimiento, comprensión o consentimiento de la ciudadanía (Helbing et al., 2017). Se discute por ende la manipulación de electores vía publicidad o consignas en redes sociales ajustadas a las posiciones de cada elector³¹. Por consiguiente, no solo la privacidad es amenazada por la ciencia de datos, sino que otros imperativos, como la libertad de elección, pueden también estar siendo afectados (Helbing et al., 2017). La iniciativa Data for Humanity pretende evitar este tipo de riesgos a través de la colaboración y la apertura de datos, para que se usen estos para el beneficio colectivo (European data portal, 2016).

Al estar estos riesgos vinculados a una correcta utilización de los datos, la Administración requiere contar con el recurso humano capacitado para emplear esta tecnología. Sin embargo, uno de los desafíos para los organismos y entidades de naturaleza pública que tienen a su cargo el ejercicio de la función administrativa y la prestación de servicios públicos radica precisamente en su capacidad para atraer personal formado en tecnologías de la información y en ciencia de datos, pues no existe aún en Colombia una oferta conveniente en estas materias y su calidad sigue siendo baja con relación a la demanda de tecnologías disruptivas (OECD, 2019; Conpes 3290 de 2018). De igual modo, las sociedades pueden generar resistencia al recurso e implementación de estas nuevas tecnologías. Es por esto que el cambio que estas tecnologías representa debe acompañarse de una sensibilización al público sobre los macrodatos y la ciencia de datos y sus aplicaciones, que en todo momento explique cómo se llevó a la toma de decisiones y de dónde provino la información y el análisis. Si bien esto puede aparecer difícil para Colombia, en donde existe una baja cultura de datos, desinformación y desconfianza frente al Big Data (Conpes 3290 de 2018), lo cierto es que el Derecho administrativo ya establece procedimientos encaminados a que las administraciones públicas comuniquen al público la información en la que se fundamentan tanto sus decisiones individuales³², como los proyectos de actos administrativos que pretendan expedir³³. Es a través de estos procedimientos que el control político y judicial de la Administración se posibilita, haciendo efectiva la protección del conjunto de principios que se designan bajo el término de buena administración (Bousta, 2019). A partir de estos procedimientos que atan las administraciones públicas y órganos administrativos independientes a las otras ramas del poder público, algunos autores reclaman el carácter eminentemente procesal de esta disciplina jurídica (Auby J. B., 2006, p. 17). Ahora bien, extender estos requisitos a los procesos computarizados puede ser difícil.

Con el fin de facilitar la participación ciudadana en la toma de decisiones, estos procedimientos requieren la utilización de Tecnologías de la Información y las Comunicaciones (TIC)³⁴ que aún no son accesibles en todas las zonas del país. Entre los desafíos tecnológicos del país se identifican la falta de interoperabilidad de los sistemas digitales de manejo de información³⁵ y la falta de digitalización de documentos análogos o la ausencia de información en formatos abiertos, capaces de ser procesados utilizando el software habitual. En el documento Conpes 3290 de 2018 se mencionan expresamente bajos niveles de datos públicos digitales, de datos abiertos, de interoperabilidad y de digitalización. La producción de datos públicos digitales implica la creación de formularios y canales digitales para ingresar información nueva, en formato digital desde su origen³⁶.

En las etapas siguientes de apertura de formatos con datos y su almacenamiento en un repositorio de acceso público de datos abiertos se avanzó con la creación del portal de datos abiertos. No obstante, esos datos en el portal continúan siendo limitados e incompletos. No es por ejemplo posible encontrar las series temporales de más de cuatro años y la regla general es que se trata de datos de meses o de un año³⁷, los cuales tienen una utilidad limitada en análisis sofisticados de la ciencia de datos. No parece existir ningún incentivo ni obligación para que el Estado colombiano comprometa partidas presupuestales y el recurso humano con los datos abiertos para hacer ciencia de datos, y no simplemente la publicación de información suelta o irrelevante para el público³⁸.

Otros retos que encuentra la Administración pública como usuario de estas tecnologías son de tipo económico, referidos en primer lugar a quiénes se benefician del negocio de la información masiva. Las empresas multinacionales de tecnología tienen capacidades de procesamiento de información superiores a muchos otros actores, de manera que tienen la posibilidad de extraer oportunidades de negocio, como ocurre en materia de publicidad personalizada, gracias al análisis de datos de comportamiento de usuarios en Internet. Asimismo, los ciudadanos de forma voluntaria están entregando sus datos a las empresas de tecnología cada vez que publican su información personal en redes sociales, a veces sin ser plenamente conscientes de ello, lo que permite a estas compañías explotarlos comercialmente sin su consentimiento³⁹. Si bien este aprovechamiento es objeto de una regulación cada vez mayor en zonas como la Unión Europea⁴⁰, en otras regiones del mundo todavía no se protege adecuadamente a las personas ni se limitan los usos de estos datos.

Los programas de macrodatos y datos abiertos encuentran por tanto dificultades para su desarrollo en el país, toda vez que sin calidad de los datos y sin formatos abiertos e interoperables no es posible tener ciencia de datos. La falta de comprensión de esta tecnología y de su impacto sobre la sociedad y en las relaciones entre Administración pública y administrados es un problema para su correcto uso y control. Asimismo, la presión que ejercen las grandes empresas sobre los contratos de software con el Estado, para no mermar la rentabilidad del negocio, y resistiéndose a abrir los formatos y los documentos, contrasta con los esfuerzos de la ley para imponer la transparencia y facilitar el acceso a la información⁴¹. En el caso de la Administración colombiana, la situación se muestra más compleja, dada su baja capacidad y capacitación en tecnología, los escasos recursos que destina a estos temas y la dificultad para la coordinación entre distintos actores públicos fragmentados. A esto se sumaría la falta de organización y de un diseño institucional capaz de aislarla de las injerencias de actores políticos o de grupos de presión públicos o privados (Zárate & Perdomo, 2018), o del cumplimiento de procedimientos que aseguren una mayor participación y control democráticos de los ciudadanos sobre la actividad administrativa. Estas problemáticas se acentúan cuando esos datos son empleados para programar un conjunto de tecnologías encaminadas a la automatización de tareas.

2. LA INTELIGENCIA ARTIFICIAL: ¿MEJOR FUTURO O UNA PESADILLA SOCIAL?

Aunque existe un consenso sobre las ventajas de la Inteligencia Artificial para la sociedad en general y para el sector público en particular⁴², un número creciente de voces denuncia los riesgos, incluso catastróficos, de confiar la supervivencia de la especie humana a una tecnología que no se termina de entender y que podría ser más rápida y racional en la resolución de problemas. Entre estos dos extremos se encuentran posiciones pragmáticas y moderadas que subrayan esos riesgos, así como una mayor acción de gobiernos y administraciones públicas en las discusiones éticas y políticas que lleven a la toma de decisiones y a la regulación de herramientas que permitan adelantar tareas, similares a las que puede realizar la mente humana, de manera autónoma. Se discutirá a continuación el lado positivo y la promesa de la Inteligencia Artificial para la Administración pública (2.1.) y los retos y dilemas que esta plantea (2.2).

2.1. APLICACIONES Y VENTAJAS DE LA INTELIGENCIA ARTIFICIAL PARA LA FORMULACIÓN Y EJECUCIÓN DE POLÍTICAS PÚBLICAS

Los algoritmos de Inteligencia Artificial⁴³ actuales permiten resolver problemas concretos que normalmente son abordados por la inteligencia humana, pero que la superan de manera especial en la velocidad del procesamiento. Para Von Krogh (2018), el funcionamiento de la Inteligencia Artificial tiene tres componentes: datos de entrada, como sonido, imágenes, números y textos; procesos, en forma de algoritmos, y soluciones y decisiones que resultan de los dos anteriores. En efecto, las tecnologías que han hecho posible la Inteligencia Artificial, después de décadas de intentos, son aquellas que permiten capturar y procesar datos sensoriales por computadores, tales como la visión por computador y el análisis de imágenes y videos a través del reconocimiento de voz y procesamiento de lenguaje natural (NLP)⁴⁴. Ahora bien, existen diferentes tecnologías asociadas a la Inteligencia Artificial actual, como son el aprendizaje de máquina, el aprendizaje profundo (Deep learning), las redes neuronales y la robótica⁴⁵.

Este conjunto de tecnologías que se identifica como Inteligencia Artificial puede ser utilizado por las administraciones públicas para el cumplimiento de sus distintas misiones⁴⁶. El ejemplo comúnmente mencionado en investigaciones es el de los carros autónomos (sin conductor humano), los cuales ya están en circulación limitada en varios países desarrollados (Stone et al., 2016; von Krogh, 2018) y serían útiles para el transporte público de pasajeros, utilizando la tecnología de automatización en buses, trenes y tranvías, o para el transporte de carga. Otros ejemplos presentados en el informe de cien años de investigación en Inteligencia Artificial de la Universidad de Stanford son: los sistemas de armas automáticos, los robots para el cuidado de adultos mayores y las ayudas para decisiones clínicas en medicina (Stone et al., 2016). En particular, el sector salud tiene los mayores avances hasta la fecha en aplicar la Inteligencia Artificial en el sector público, y ofrece soluciones innovadoras para la integración y manejo de las historias clínicas, el diseño de tratamientos personalizados y el diagnóstico automatizado de enfermedades. La administración algorítmica o computacional se está aplicando también en el campo tributario, de investigación criminal y en la regulación comercial (Ramió, 2019).

A pesar de que Colombia adhirió al acuerdo de la OCDE sobre Inteligencia Artificial en el año 2019, su utilización por la Administración pública sigue siendo baja. El crecimiento es más acelerado y la Inteligencia Artificial es una realidad en el sector privado⁴⁷, el cual la usa en mercadeo, el sistema financiero⁴⁸, la investigación académica⁴⁹ y en análisis de otros datos. En 2019 se aprobó el Conpes 3975 “Política nacional para la transformación digital e Inteligencia Artificial”, documento que formula una política de adaptación a las exigencias de la cuarta revolución a través de la tecnología digital y la Inteligencia Artificial y advierte que el país no está preparado para estas tecnologías, ni establece los requisitos para la automatización basada en la IA. Para este órgano consultivo, es necesario comenzar la discusión acerca de la implementación de los lineamientos y principios de la OCDE.

De acuerdo con este mismo organismo, un ejemplo aislado de uso actual de esta tecnología por parte de la Administración existe en el sector defensa: “En Colombia, la Alianza Data-Pop usa datos de delincuencia y transporte para predecir los puntos álgidos de crimen en Bogotá. La policía se despliega entonces a los lugares y tiempos específicos donde hay mayor riesgo de crimen” (OECD, 2019). Esta aplicación todavía no se ha evaluado en términos de resultados sobre mejor prevención de la delincuencia, pero se encuentra en pilotaje por la Policía. El caso ya mencionado de la administración tributaria es el otro ejemplo del sector público. Pese a estos usos, la Administración colombiana aún parece no estar lista para estos cambios y solo de forma parcial está adoptando algunas de las herramientas de IA, pero sin que medie debate alguno acerca de las altas externalidades sociales, éticas y económicas, negativas y positivas, asociadas a la producción y explotación de estos recursos por parte de organismos y entidades administrativos.

2.2. RETOS DE LA INTELIGENCIA ARTIFICIAL PARA LA SOCIEDAD Y PARA LA ADMINISTRACIÓN PÚBLICA

El desarrollo de una Inteligencia Artificial de tipo general significaría para algunos una suplantación⁵⁰ o el dominio de los seres humanos por máquinas (Harari, 2018). Más allá de estas preocupaciones, relacionadas con la Inteligencia Artificial fuerte o general⁵¹, vale la pena examinar preguntas cercanas al tipo de inteligencia que está diseñada para resolver un problema específico, que surgen de sus usos por parte de las administraciones públicas y para las cuales el Derecho administrativo no parece estar preparado. En este orden de ideas, es posible interrogarse, por ejemplo, acerca del ejercicio de actividades administrativas por sujetos que sean máquinas o programas de computador programados para actuar de forma autónoma. O quién debe responder por los daños causados por una Inteligencia Artificial o robot, esto es, si estas tecnologías constituirían un centro de imputación distinto o si, por el contrario, comprometerían la responsabilidad del funcionario que los programa y del sujeto de Derecho público dentro del cual cumplen sus misiones. El uso de la Inteligencia Artificial por las administraciones públicas hace parte de una compleja nueva realidad que ya está siendo discutida en varios países; encontrándose problemáticas relacionadas con los derechos de los ciudadanos, la responsabilidad y cuestiones sociales⁵² y éticas (Turner, 2018). ¿Serán estas máquinas o programas agentes morales? (Etzioni & Etzioni, 2017). Aunque esto puede parecer todavía especulativo, la realidad enseña que no lo es y, en el caso de los carros autónomos y los accidentes causados por los mismos, se ha presentado la necesidad de obtener respuestas.

Autores como Andrews (2018) señalan seis tipos de retos que los algoritmos plantean a la Administración pública: (1) el error de selección algorítmico, que se refiere a los sesgos y prejuicios que se han visto reflejados en programas de reconocimiento facial, de revisión de elegibilidad de individuos para programas sociales y en materia de riesgo de criminalidad y reincidencia (con relación a estos problemas, se denuncia racismo y sexismo, derivado en parte de los sesgos de programadores y en parte a los sesgos en la información de bases de datos históricos con los que se alimentan y aprenden las máquinas); (2) el uso de algoritmos para evitar la ley, ayudando al usuario a hacer trampa en controles de emisiones, aplicaciones de transporte ilegales o de evasión de cámaras de tránsito y de seguridad; (3) la manipulación algorítmica en elecciones democráticas y en toma de decisiones individuales de varios tipos, como es el caso de guerra psicológica de Facebook y Cambridge Analítica⁵³; (4) la propaganda algorítmica dirigida por programas que masifican mensajes políticos y falsas noticias para incidir en las preferencias y en los comportamientos de los ciudadanos, como es la incidencia de Rusia en las pasadas elecciones estadounidenses; (5) la contaminación de marca por algoritmos a través de la publicidad personalizada y programada de acuerdo con el comportamiento en línea, y (6) las áreas desconocidas de los algoritmos, en la medida en que estos aprenden y determinan de forma autónoma su proceso de toma de decisiones. Por ende, no es posible conocer con exactitud con qué criterios están llegando a los resultados que arrojan, al ser demasiado complejos para ser controlados y para activar procesos de rendición de cuentas de sus decisiones⁵⁴ (Andrews, 2018, pp. 300-301).

Se discute además el futuro del gobierno electrónico con la aparición de interacciones por voz y aplicativos móviles más sofisticados, pero también temas relacionados con la protección y la privacidad de los administrados (Agarwal, 2018). Se examina cómo proteger la privacidad de los usuarios sin perder la eficiencia en la prestación de servicios; evitar mayores sesgos humanos al incorporarlos en un algoritmo, esto es, casos de discriminación, y mantener un balance entre eficacia de las soluciones y la humanización del trato (sobre todo en servicios como la salud). Con relación a los sesgos al identificar o clasificar personas para diferentes fines, el ejemplo conocido está dado por la tendencia de algoritmos de uso de la policía de los Estados Unidos que consideran a los afroamericanos como sospechosos de ser criminales. Aunque se está trabajando en la corrección de estos sesgos, la tarea no es sencilla. El desafío de tratar de manera imparcial a las personas parece ser particularmente difícil para los algoritmos que se basan en estadísticas pasadas y probabilidades. Sin embargo, las administraciones deben ser imparciales y respetar la igualdad de derechos, la dignidad humana y la presunción de inocencia, entre otros principios.