Artificial intelligence (AI) techniques are used to model human activities and predict behavior. Such systems have shown race, gender and other kinds of bias, which are typically understood as technical problems. Here we try to show that: 1) to get rid of such biases, we need a system that can understand the structure of human activities and;2) to create such a system, we need to solve foundational problems of AI, such as the common-sense problem. Additionally, when informational platforms uses these (...) models to mediate interactions with their users, which is a commonplace nowadays, there is an illusion of progress, for what is an increasingly higher influence over our own behavior is took for an increasingly higher predictive accuracy. Given this, we argue that the bias problem is deeply connected to non-technical issues that must be discussed in public spaces. -/- Técnicas de inteligência artificial (IA) são utilizadas para modelar as atividades humanas e gerar predições comportamentais. Estes sistemas têm apresentado vieses diversos, inclusive de raça e gênero, tipicamente tomados como problemas de engenharia. Realiza-se aqui um esforço argumentativo para mostrar que: 1) escapar dos vieses demanda um sistema que compreenda a estrutura das atividades humanas e; 2) criar um sistema que apresente tal compreensão, demanda a solução de problemas fundacionais da IA, em particular, o problema de como modelar o senso comum. No caso de plataformas informacionais que usam desses modelos para mediar interações com seus usuários, algo cada vez mais comum, o não reconhecimento disso dá margem a uma ilusão de progresso, em que uma crescente influência sobre nosso comportamento é tomada como uma crescente acurácia preditiva. Nesse cenário, argumenta-se que o problema dos vieses está associado a questões não técnicas que devem ser discutidas em espaços públicos. (shrink)

El uso de sistemas de machine learning en los procesos de selección laboral ha sido de gran utilidad para agilizarlos y volverlos más eficientes, pero al mismo tiempo ha generado problemas en términos de equidad, confiabilidad y transparencia. En este artículo comenzamos explicando los diferentes usos de la Inteligencia Artificial en los procesos de selección laboral en Estados Unidos. Presentamos los sesgos sexuales y raciales que han sido detectados en algunos de ellos y explicamos los obstáculos jurídicos y prácticos para (...) su detección y análisis. Un posible remedio jurídico a la discriminación algorítmica es el régimen de impacto diferencial sistémico utilizado en Estados Unidos. Usamos algunas características de este régimen para señalar los vacíos jurídicos frente a la discriminación en el acceso al empleo en el ámbito del derecho laboral colombiano, y ofrecemos algunas características generales que podría tener un régimen de esa naturaleza. (shrink)

El propósito de este capítulo es argumentar la vitalidad de una ética cívica frente a una robotización del ejercicio periodístico. Para ello se contrasta la idea de que la inteligencia artificial se basta a sí misma para luchar contra los bulos con una infoética digital o algorítmica, que pone en valor los principios de la ethica cordis.

La “Recomendación del Consejo de la OCDE sobre inteligencia artificial” es un conjunto de directrices y principios para el desarrollo y despliegue de sistemas de IA alineados con los valores y derechos humanos, la transparencia y la rendición de cuentas. Fue adoptada por el Consejo de la Organización para la Cooperación y el Desarrollo Económicos (OCDE) en mayo de 2019 e incluye cinco principios clave para la gobernanza de la IA. Ésta debe beneficiar a las personas y al planeta impul- (...) sando el crecimiento inclusivo, el desarrollo sostenible y el bienestar; los sistemas de IA deben respetar el estado de derecho, los derechos humanos, los valores democráticos y la diversidad; también deben ser transparentes para garantizar que las personas comprendan los resultados y puedan cuestionarlos; los sistemas deben ser sólidos, seguros y protegidos durante todo su ciclo de vida; y las partes interesadas deben colaborar para maximizar los beneficios de la IA y minimizar sus riesgos. Se concluye aquí que los Principios de IA de la OCDE han sido criticados por no ser vinculantes y carecer de un mecanismo formal de aplicación. Tampoco abordan preocupaciones sociales amplias, como el desplazamiento de puestos de trabajo y la concentración de poder en unas pocas empresas. Además, es posible que los principios no tengan en cuenta los retos a los que se enfrentan los países en desarrollo y estén demasiado centrados en los intereses de las economías avanzadas. Sin embargo, la Recomendación de la OCDE establece una serie de principios ampliamente aceptados y respaldados tanto por los miembros, como por los que no lo son. Entre los valores figuran la transparencia, la solidez, la seguridad, la responsabilidad, la justicia, la equidad y la determinación humana. Este conjunto compartido de principios proporciona una base sólida para el desarrollo responsable de la IA, más allá de las fronteras de los “países ricos”. (shrink)

Towards a Critical Theory of Digitality: Günther Anders in the Age of Platform Capitalism and Smart Technocracies -/- Diversos estudios teóricos sobre los medios de comunicación han caracterizado recientemente la cuarta revolución industrial como un proceso de tecnificación y cibernetización omniabarcante. En este contexto, este artículo pretende mos-trar el potencial pertinente y crítico de la obra magna de Günther Anders La obsolescencia del hombre frente al poder cada vez mayor de los dispositivos y las redes cibernéticas. Anders ha sido testigo (...) y ha gestionado el proceso de ciber-netización desde sus inicios, y ha criticado no sólo su tendencia a la automa-tización y a la expansión, sino también la lógica circular y el “poder integral” en el que se basa, incluidas las consecuencias destructivas para la constitución de lo político y lo social. En este sentido, la obra de Anders puede arrojar nueva luz sobre los medios organizados tecnológicamente del régimen digital contem-poráneo. El objetivo del ensayo es, por tanto, no sólo enfatizar la contempora-neidad del pensamiento crítico de Anders y destacar su avanzada comprensión de la tecnología en comparación con los representantes de la teoría crítica tem-prana, sino también utilizarlo para enmarcar una crítica frente a los conceptos neotecnocráticos actuales y, en última instancia, postpolíticos, como la “regula-ción algorítmica”, los “estados inteligentes”, la “tecnocracia directa” y el “gobier-no como plataforma”. Por último, el ensayo pretende abordar, a través de la lente de Anders, la cuestión de la posición y el papel del crítico en relación con los entornos técnicos en constante expansión. Palabras clave: Günther Anders, cibernética, teoría crítica, tecnopolítica, tec-nocracia, digitalización, post-política, crítica a la tecnología. (shrink)

La inteligencia artificial (IA) ha sido una innovación disruptiva en el mundo de la salud y la medicina. Además del área de la investigación, la IA puede otorgar soluciones algorítmicas en cuestiones clínicas para ayudar al diagnóstico, pronóstico y tratamiento de los pacientes, así como en el reconocimiento por software de patrones visuales en el campo de la radiología y la interpretación de imágenes.

Towards a Critical Theory of Digitality: Günther Anders in the Age of Platform Capitalism and Smart Technocracies -/- Diversos estudios teóricos sobre los medios de comunicación han caracterizado recientemente la cuarta revolución industrial como un proceso de tecnificación y cibernetización omniabarcante. En este contexto, este artículo pretende mos-trar el potencial pertinente y crítico de la obra magna de Günther Anders La obsolescencia del hombre frente al poder cada vez mayor de los dispositivos y las redes cibernéticas. Anders ha sido testigo (...) y ha gestionado el proceso de ciber-netización desde sus inicios, y ha criticado no sólo su tendencia a la automa-tización y a la expansión, sino también la lógica circular y el “poder integral” en el que se basa, incluidas las consecuencias destructivas para la constitución de lo político y lo social. En este sentido, la obra de Anders puede arrojar nueva luz sobre los medios organizados tecnológicamente del régimen digital contem-poráneo. El objetivo del ensayo es, por tanto, no sólo enfatizar la contempora-neidad del pensamiento crítico de Anders y destacar su avanzada comprensión de la tecnología en comparación con los representantes de la teoría crítica tem-prana, sino también utilizarlo para enmarcar una crítica frente a los conceptos neotecnocráticos actuales y, en última instancia, postpolíticos, como la “regula-ción algorítmica”, los “estados inteligentes”, la “tecnocracia directa” y el “gobier-no como plataforma”. Por último, el ensayo pretende abordar, a través de la lente de Anders, la cuestión de la posición y el papel del crítico en relación con los entornos técnicos en constante expansión. Palabras clave: Günther Anders, cibernética, teoría crítica, tecnopolítica, tec-nocracia, digitalización, post-política, crítica a la tecnología. (shrink)

La introducción de las redes generativas antagónicas en el mundo del arte ha revitalizado la clásica pregunta: ¿puede una máquina crear arte? Estos algoritmos requieren una mínima intervención humana para funcionar, por lo que sus creaciones se consideran CG-art. En esta clase particular de arte los computadores no son una herramienta al servicio humano, sino un agente creativo autónomo. Por otro lado, estudios cognitivos recientes han demostrado que las personas son escépticas ante la idea de que una máquina pueda crear (...) arte. Este artículo tiene como objetivo mostrar que el CG-art no puede excluirse arbitrariamente del dominio artístico. Para ello se utiliza la distinción hecha por Dickie entre teorías del arte de tipo natural y cultural. Luego, utilizando el concepto función de estatus de Searle, se propone considerar al arte como un fenómeno independiente del lenguaje. Complementando ambos enfoques sostengo que, la teoría idónea para explicar el fenómeno del CG-art es del tipo natural. Esto implica que la sociedad no puede negar el carácter de arte a estas creaciones algorítmicas. Así, la idea de que las máquinas pueden crear arte es fortalecida. (shrink)

Hace ya más de 40 años desde que se comenzase a explorar las posibilidades de emplear inteligencia artificial en el campo del derecho. Existen numerosos usos y propuestas en el marco de la IA y el derecho, desde la automatización de la búsqueda de la información jurídica hasta la personalización del derecho. Estas propuestas plantean diversas cuestiones relacionadas con la filosofía del derecho. La proliferación de propuestas, en ocasiones, dificulta identificar la relación existente entre cada una de ellas con debates (...) específicos de la filosofía del derecho. Este trabajo ofrece una clasificación de usos de la IA jurídica que facilita la identificación de los temas de filosofía de derecho especialmente afectados por cada uso. Se propone distinguir tres grandes categorías: derecho formalizado, práctica jurídica algorítmica, y derecho personalizado. Esta propuesta incorpora los avances recientes en machine learning y propuestas novedosas como la personalización del derecho. Con esta clasificación resulta más sencillo identificar las premisas iusfilosóficas en que se asientan o sobre las que deben reflexionar los diversos proyectos de empleo de IA en el derecho. (shrink)

O presente artigo recupera as noções de guerra de raças e de biopoder nas lições ministradas por Michel Foucault no Collège de France intituladas Il faut défendre la Société (1976), para refletir sobre a relação entre neoliberalismo e violência política. Nesse sentido, interessa-me examinar como o pensamento de Foucault formulou o problema do biopoder vinculado ao da violência de raça para analisar nossa atual política (neo)liberal em termos de paradigmas raciais e coloniais.