In this paper I argue that the search for explainable models and interpretable decisions in AI must be reformulated in terms of the broader project of offering a pragmatic and naturalistic account of understanding in AI. Intuitively, the purpose of providing an explanation of a model or a decision is to make it understandable to its stakeholders. But without a previous grasp of what it means to say that an agent understands a model or a decision, the explanatory strategies will (...) lack a well-defined goal. Aside from providing a clearer objective for XAI, focusing on understanding also allows us to relax the factivity condition on explanation, which is impossible to fulfill in many machine learning models, and to focus instead on the pragmatic conditions that determine the best fit between a model and the methods and devices deployed to understand it. After an examination of the different types of understanding discussed in the philosophical and psychological literature, I conclude that interpretative or approximation models not only provide the best way to achieve the objectual understanding of a machine learning model, but are also a necessary condition to achieve post hoc interpretability. This conclusion is partly based on the shortcomings of the purely functionalist approach to post hoc interpretability that seems to be predominant in most recent literature. (shrink)

El testimonio es nuestra mayor fuente de creencias. La gran mayoría de nuestras creencias han sido adquiridas a partir de las palabras de otros y no a través de la observación directa del mundo. Una de las peculiaridades de la mayor parte de las creencias testimoniales es que son aceptadas sin ninguna deliberación consciente. Mientras el testimonio sea consistente con nuestras creencias y la fuente sea confiable, la reacción más corriente es la aceptación automática de la información (Thagard 2004, 2005). (...) Nuestra confianza en el testimonio de los demás es un requisito no sólo para la construcción colectiva del conocimiento (Hardwig 1985, 1991), sino también para la interacción social en general. Sin embargo existen contextos en los que la aceptación apresurada de un testimonio falso puede tener consecuencias nefastas. En contextos científicos, legales, políticos y financieros, entre otros, se toman decisiones importantes y se implementan políticas cruciales a partir de las afirmaciones de otros. En estos contextos la aceptación de un testimonio debe ser el resultado de un proceso de decisión basado en criterios objetivos de justificación. Sin embargo, existen dos objeciones al intento de justificar la aceptación de un testimonio (Coady 1973, 1992). La primera es que cualquier justificación será irremediablemente circular puesto que la inmensa mayoría de testimonios obtienen su justificación, al menos en parte, de evidencia de tipo testimonial. La segunda es que nuestras inferencias acerca de la confiabilidad de ciertos tipos de testimonio nunca tendrán un apoyo inductivo lo suficientemente fuerte debido a que los casos en los que un tipo de testimonio puede ser verificado directamente en la experiencia nunca serán lo suficientemente numerosos. En este ensayo presento una solución al problema de cómo decidir racionalmente si un testimonio puede ser aceptado como evidencia probatoria en una investigación. Mi propuesta, que está basada en la teoría de revisión de creencias desarrollada por Levi (1984, 1991), muestra que la aceptación justificada de un testimonio está basada en exactamente los mismos mecanismos de adquisición de creencias que operan en el caso de evidencias no testimoniales; al mismo tiempo, la propuesta da cuenta de las particularidades que se presentan en el proceso de evaluación de una evidencia testimonial. Mi tesis es que la decisión de aceptar un testimonio es un proceso que se cumple en dos etapas. En la primera se busca una justificación pare el testimonio buscando todos los hechos que aumenten la probabilidad de que el testimonio sea verdadero, es decir, de que el testigo o declarante esté reportando verídicamente un hecho. La aceptación de estos hechos y de su relación probabilística positiva con respecto al testimonio está basada en la búsqueda de un equilibrio entre su credibilidad y su valor informativo. En la segunda etapa, se determina si la justificación obtenida en la primera es suficiente para la aceptación del testimonio, de nuevo buscando encontrar un equilibrio entre su credibilidad y la utilidad de la información que contiene en promover los intereses y metas cognitivas del investigador. (shrink)

Durante los últimos años, el problema de cómo justificar aquellas creencias que se originan en testimonios ha ocupado un lugar central en la epistemología. Sin embargo, muy pocas de esas reflexiones son conocidas en el derecho probatorio. En el presente ensayo analizo la prueba testimonial a la luz de estas reflexiones con el fin de poner de manifiesto los supuestos epistemológicos de algunos principios procesales. En concreto, analizo la legislación colombiana y la estadounidense en el marco de la disputa entre (...) el reduccionismo y el antirreduccionismo en la filosofía del testimonio. Al final sugiero una nueva aproximación epistemológica que replantea los términos de la disputa y que tiene implicaciones importantes para la valoración de la prueba testimonial en los procesos judiciales. (shrink)

Aunque el derecho probatorio y el derecho procesal se han dedicado desde siempre al estudio de los problemas relacionados con las pruebas y el establecimiento de los hechos en los procesos judiciales, el énfasis ha estado siempre en el aspecto formal, doctrinal y procedimental en detrimento de los fundamentos filosóficos y teóricos. Durante los últimos años ha habido un intento sostenido de explorar estos fundamentos combinando no sólo las herramientas tradicionales proporcionadas por la lógica, la gramática y la retórica, sino (...) también los avances hechos en ciencias como la estadística y la probabilidad, la medicina y la psicología forenses, la psicología de la percepción, la epistemología y la filosofía de la ciencia. El presente libro reúne las contribuciones de destacados juristas y filósofos latinoamericanos a esta nueva perspectiva interdisciplinaria, conocida como epistemología jurídica. El libro está dividido en tres grandes temas: la primera parte explora los problemas epistemológicos del conocimiento de los hechos en los procesos judiciales; la segunda se enfoca en el problema de los estándares de prueba; y la sección final discute el testimonio de los expertos. En su conjunto el libro ofrece un panorama tanto de los problemas centrales de la epistemología jurídica, como del estado del arte de la disciplina. (shrink)

A common objection to probabilistic theories of causation is that there are prima facie causes that lower the probability of their effects. Among the many replies to this objection, little attention has been given to Mellor's (1995) indirect strategy to deny that probability-lowering factors are bona fide causes. According to Mellor, such factors do not satisfy the evidential, explanatory, and instrumental connotations of causation. The paper argues that the evidential connotation only entails an epistemically relativized form of causal attribution, not (...) causation itself, and that there are clear cases of explanation and instrumental reasoning that must appeal to negatively relevant factors. In the end, it suggests a more liberal interpretation of causation that restores its connotations. Una objeción común a las teorías probabilísticas de la causalidad es que aparentemente existen causas que disminuyen la probabilidad de sus efectos. Entre las muchas respuestas a esta objeción, se le ha dado poca atención a la estrategia indirecta de D. H. Mellor (1995) para negar que un factor que disminuya la probabilidad de un efecto sea una causa legítima. Según Mellor, tales factores no satisfacen las connotaciones evidenciales, explicativas e instrumentales de la causalidad. El artículo argumenta que la connotación evidencial sólo implica una forma epistémicamente relativizada de atribución causal y no la causalidad misma, y que hay casos claros de explicación y razonamiento instrumental que deben apelar a factores negativamente relevantes. Se sugiere una interpretación más liberal de la causalidad que reinstaura sus connotaciones. (shrink)

El desarrollo de las artes visuales durante el siglo XX desdibujó la frontera entre aquellos objetos y artefactos que llamamos obras de arte, y aquéllos que no son merecedores de ese título. Arthur Danto ha propuesto una teoría estética a la luz de la cual sería posible volver a definir los límites del arte. En este ensayo examino dos de los aspectos más problemáticos de la teoría: la importancia excesiva que Danto le otorga al concepto de mímesis y su concepción (...) teleológica de la historia del arte. Si atenuamos el papel de estos dos elementos, la teoría pierde gran parte de su poder explicativo. En las últimas dos secciones del ensayo arguyo que el mundo del arte al que Danto atribuye un papel central en el problema de la demarcación debe él mismo ser considerado un subproducto de las condiciones que determinan la naturaleza del arte en general. (shrink)

Rules 405(a) and 608(a) of the Federal Rules of Evidence allow the use of testimony about a witness’s reputation to support or undermine his or her credibility in trial. This paper analyzes the evidential weight of such testimony from the point of view of social epistemology and the theory of social networks. Together they provide the necessary elements to analyze how reputation is understood in this case, and to assess the epistemic foundation of a reputational attribution. The result of the (...) analysis will be that reputational testimony is extremely weak from an epistemological point of view, and that in many cases there are more reliable substitutes that achieve a similar purpose. The obvious fix, in my view, is to eliminate the use of reputation testimony to support or undermine the credibility, honesty, chastity or peacefulness of a witness. (shrink)

El uso de sistemas de machine learning en los procesos de selección laboral ha sido de gran utilidad para agilizarlos y volverlos más eficientes, pero al mismo tiempo ha generado problemas en términos de equidad, confiabilidad y transparencia. En este artículo comenzamos explicando los diferentes usos de la Inteligencia Artificial en los procesos de selección laboral en Estados Unidos. Presentamos los sesgos sexuales y raciales que han sido detectados en algunos de ellos y explicamos los obstáculos jurídicos y prácticos para (...) su detección y análisis. Un posible remedio jurídico a la discriminación algorítmica es el régimen de impacto diferencial sistémico utilizado en Estados Unidos. Usamos algunas características de este régimen para señalar los vacíos jurídicos frente a la discriminación en el acceso al empleo en el ámbito del derecho laboral colombiano, y ofrecemos algunas características generales que podría tener un régimen de esa naturaleza. (shrink)

El análisis de los conceptos de espacio y tiempo es generalmente considerado uno de los aspectos menos satisfactorios de la obra de Hume. Kemp Smith ha demostrado que en esta sección del Tratado Hume estaba respondiendo a los argumentos que Pierre Bayle había utilizado para probar que el razonamiento humano siempre termina refutándose a sí mismo. En este ensayo expongo las falacias en los argumentos de Bayle, las cuales están basadas en una comprensión inadecuada del concepto de extensión. Hume no (...) logró detectar dichas falacias y repitió los mismos errores de Bayle, lo cual explica la absurda doctrina del espacio que defiende en el Tratado. (shrink)

¿Existe alguna diferencia filosóficamente significativa entre una explicación científica y las explicaciones que se ofrecen en el curso de la vida diaria? Dado que la mayor parte de las discusiones en la filosofía de la ciencia se refieren al primer tipo de explicaciones, debemos considerar si existe un concepto específico que corresponda al término “explicación científica”, y que sea discontinuo de su contraparte cotidiana. El ensayo tiene cuatro secciones. En cada una de ellas considero diferentes criterios que podrían ser utilizados (...) para establecer una distinción de clase entre las explicaciones científicas y las cotidianas. En la primera sección exploro la posibilidad de establecer un criterio puramente sociológico: el estatus científico de una explicación dependería del estatus institucional de las personas que dan origen a la explicación. El segundo criterio estudiado fue propuesto por Hempel: las explicaciones científicas deben hacer uso explícito de leyes naturales, y la ausencia de leyes invalida cualquier intento de ofrecer una explicación científica. Un tercer criterio se basa en la naturaleza del explanandum. Algunos filósofos han defendido la idea de que la única diferencia filosóficamente significativa entre las explicaciones científicas y las no científicas reside en el tipo de explanandum del que se ocupa cada una de ellas. En la vida diaria explicamos eventos individuales, mientras que en la ciencia se pretende explicar regularidades. Finalmente, examino el criterio propuesto por Wesley Salmon según el cual la diferencia entre los dos tipos de explicación está determinada por el tipo de comprensión que proporciona cada uno de ellos. Al final concluyo que ninguno de estos criterios es adecuado y que la aparente diferencia entre los dos tipos de explicaciones es una diferencia de grado y no de clase. Las explicaciones científicas ciertamente tienen un mayor grado de precisión, detalle y complejidad que sus contrapartes en la vida cotidiana. Normalmente involucran el uso de las matemáticas y de lenguajes altamente regimentados. Pero a pesar de estas diferencias, concluyo que los elementos que hacen que algo sea una explicación son esencialmente los mismos en ambos casos. (shrink)

El ensayo presenta el esbozo de una teoría de la explicación basada en el modelo duda-creencia de investigación propuesto por Peirce y desarrollado por Isaac Levi. Inicialmente se caracteriza una noción de explicación que hace referencia a las creencias y fines epistémicos de los miembros de una comunidad científica. Posteriormente se demuestra que la inclusión de los aspectos pragmáticos de la explicación en la teoría no sólo no conduce al relativismo, sino que es necesaria para poder dar cuenta de la (...) relación entre las nociones de explicación y comprensión. (shrink)

Varios teóricos del derecho han propuesto el uso de umbrales o estándares de prueba más flexibles y más finamente discriminados. En la medicina es común utilizar estándares que poseen estas características en los procedimientos diagnósticos y en los exámenes médicos. Esta ponencia ofrece un marco probabilístico para establecer estándares de prueba múltiples en cualquier disciplina. La tesis principal es que la evidencia es un concepto umbral con respecto a la probabilidad. Múltiples umbrales pueden ser establecidos en un marco de intervalos (...) de probabilidad para la hipótesis que está siendo puesta a prueba, los cuales reflejan los diferentes grados de apoyo que la evidencia le provee a la hipótesis. Examinando los mecanismos utilizados para establecer los umbrales en medicina, sugiero una manera para establecer umbrales múltiples de prueba en derecho de una manera no arbitraria. (shrink)

Con el fin de examinar los aspectos exclusivamente morales del suicidio asistido y la eutanasia activa voluntaria, el análisis debe ser llevado a cabo independientemente de la función social de los agentes involucrados, de la opinión de los familiares del paciente terminal y del público en general, y de las consecuencias legales de dichas acciones. En consecuencia, en el presente ensayo se analiza un imaginario caso neutral, aislado del contexto natural de la eutanasia y el suicidio asistido. Utilizando un principio (...) moral—llamado PMS en el ensayo—cuya aplicabilidad depende de la apreciación subjetiva que de él hagan la persona que desea morir y el agente que asiste en su muerte, en el ensayo se concluye que en ciertos casos es posible justificar la obligación moral de asistir en un suicidio o de llevar a cabo una eutanasia activa voluntaria. (shrink)

Aunque el derecho probatorio y el derecho procesal se han dedicado desde siempre al estudio de los problemas relacionados con las pruebas y el establecimiento de los hechos en los procesos judiciales, el énfasis ha estado siempre en el aspecto formal, doctrinal y procedimental en detrimento de los fundamentos filosóficos y teóricos. Durante los últimos años ha habido un intento sostenido de explorar estos fundamentos combinando no sólo las herramientas tradicionales proporcionadas por la lógica, la gramática y la retórica, sino (...) también los avances hechos en ciencias como la estadística y la probabilidad, la medicina y la psicología forenses, la psicología de la percepción, la epistemología y la filosofía de la ciencia. El presente libro reúne las contribuciones de destacados juristas y filósofos latinoamericanos a esta nueva perspectiva interdisciplinaria, conocida como epistemología jurídica. El libro está dividido en tres grandes temas: la primera parte explora los problemas epistemológicos del conocimiento de los hechos en los procesos judiciales; la segunda se enfoca en el problema de los estándares de prueba; y la sección final discute el testimonio de los expertos. En su conjunto el libro ofrece un panorama tanto de los problemas centrales de la epistemología jurídica, como del estado del arte de la disciplina. (shrink)

Esta breve introducción a la filosofía de la ciencia parte del hecho de que tanto la investigación científica como el razonamiento probatorio judicial tienen un carácter inductivo. En esa medida, comparten características esenciales que permiten que el derecho se nutra de muchas de las reflexiones de la filosofía de la ciencia. El capítulo se concentra en cuatro temas principales: los criterios de demarcación entre el conocimiento científico y la pseudociencia; el carácter derrotable de las conclusiones de la ciencia y el (...) derecho; la estructura corroborativa de la relación entre la evidencia y las hipótesis científicas y judiciales; y las teorías de la explicación tanto en el ámbito científico como en el judicial. (shrink)

Moore’s Paradox is a test case for any formal theory of belief. In Knowledge and Belief, Hintikka developed a multimodal logic for statements that express sentences containing the epistemic notions of knowledge and belief. His account purports to offer an explanation of the paradox. In this paper I argue that Hintikka’s interpretation of one of the doxastic operators is philosophically problematic and leads to an unnecessarily strong logical system. I offer a weaker alternative that captures in a more accurate way (...) our logical intuitions about the notion of belief without sacrificing the possibility of providing an explanation for problematic cases such as Moore’s Paradox. (shrink)

The use of machine learning algorithms has become ubiquitous in hiring decisions. Recent studies have shown that many of these algorithms generate unlawful discriminatory effects in every step of the process. The training phase of the machine learning models used in these decisions has been identified as the main source of bias. For a long time, discrimination cases have been analyzed under the banner of disparate treatment and disparate impact, but these concepts have been shown to be ineffective in the (...) context of AI. This paper examines the possibility of studying algorithmic discrimination from the perspective of negligence law. Negligent selection and validation of datasets and classifiers is a salient cause of improper training in machine learning. It is a breach of an employer’s duty to protect others, a failure of its exercise of due care in the manner of choosing employees. Adopting negligence to algorithmic discrimination requires a reformulation of what is foreseeable and reasonable within the context of black box algorithms, and a shift in the burden of proof to the employer, who must present evidence of its efforts to avoid bias. (shrink)

A menudo se asocia a Quine con los filósofos pragmatistas o al menos se le atribuye una posición consonante con el pragmatismo. En el presente ensayo examino la relación entre la obra de Quine y la de los pragmatistas clásicos: Peirce, James y Dewey. El recorrido por los escritos de Quine mostrará varias similitudes con la doctrina de los límites de la experiencia propuesta por James, y al mismo tiempo diferencias significativas con el naturalismo de Dewey y el pragmatismo de (...) Peirce. El balance de este recorrido es que aunque existen algunos elementos en común entre los pragmatistas clásicos y Quine,es imposible afirmar que haya existido un interés de parte de Quine de asumir como propias las tesis pragmatistas para desarrollarlas en direcciones novedosas. (shrink)

This paper raises three questions regarding the attribution of beliefs, desires, and intentions to robots. The first one is whether humans in fact engage in robot mindreading. If they do, this raises a second question: does robot mindreading foster trust towards robots? Both of these questions are empirical, and I show that the available evidence is insufficient to answer them. Now, if we assume that the answer to both questions is affirmative, a third and more important question arises: should developers (...) and engineers promote robot mindreading in view of their stated goal of enhancing transparency? My worry here is that by attempting to make robots more mind-readable, they are abandoning the project of understanding automatic decision processes. Features that enhance mind-readability are prone to make the factors that determine automatic decisions even more opaque than they already are. And current strategies to eliminate opacity do not enhance mind-readability. The last part of the paper discusses different ways to analyze this apparent trade-off and suggests that a possible solution must adopt tolerable degrees of opacity that depend on pragmatic factors connected to the level of trust required for the intended uses of the robot. (shrink)

Testimony about the future dangerousness of a person has become a central staple of many judicial processes. In settings such as bail, sentencing, and parole decisions, in rulings about the civil confinement of the mentally ill, and in custody decisions in a context of domestic violence, the assessment of a person’s propensity towards physical or sexual violence is regarded as a deciding factor. These assessments can be based on two forms of expert testimony: actuarial or clinical. The purpose of this (...) paper is to examine the scientific and epistemological basis of both methods of prediction or risk assessment. My analysis will reveal that this kind of expert testimony is scientifically baseless. The problems I will discuss will generate a dilemma for factfinders: on the one hand, given the weak predictive abilities of the branches of science involved, they should not admit expert clinical or actuarial testimony as evidence; on the other hand, there is a very strong tradition and a vast jurisprudence that supports the continued use of this kind of expert testimony. It is a clear case of the not so uncommon conflict between science and legal tradition. (shrink)