Experts in Artificial Intelligence (AI) development predict that advances in the development of intelligent systems and agents will reshape vital areas in our society. Nevertheless, if such an advance is not made prudently and critically-reflexively, it can result in negative outcomes for humanity. For this reason, several researchers in the area have developed a robust, beneficial, and safe concept of AI for the preservation of humanity and the environment. Currently, several of the open problems in the field of AI research (...) arise from the difficulty of avoiding unwanted behaviors of intelligent agents and systems, and at the same time specifying what we really want such systems to do, especially when we look for the possibility of intelligent agents acting in several domains over the long term. It is of utmost importance that artificial intelligent agents have their values aligned with human values, given the fact that we cannot expect an AI to develop human moral values simply because of its intelligence, as discussed in the Orthogonality Thesis. Perhaps this difficulty comes from the way we are addressing the problem of expressing objectives, values, and ends, using representational cognitive methods. A solution to this problem would be the dynamic approach proposed by Dreyfus, whose phenomenological philosophy shows that the human experience of being-in-the-world in several aspects is not well represented by the symbolic or connectionist cognitive method, especially in regards to the question of learning values. A possible approach to this problem would be to use theoretical models such as SED (situated embodied dynamics) to address the values learning problem in AI. (shrink)

Experts in Artificial Intelligence (AI) development predict that advances in the dvelopment of intelligent systems and agents will reshape vital areas in our society. Nevertheless, if such an advance isn't done with prudence, it can result in negative outcomes for humanity. For this reason, several researchers in the area are trying to develop a robust, beneficial, and safe concept of artificial intelligence. Currently, several of the open problems in the field of AI research arise from the difficulty of avoiding unwanted (...) behaviors of intelligent agents, and at the same time specifying what we want such systems to do. It is of utmost importance that artificial intelligent agents have their values aligned with human values, given the fact that we cannot expect an AI to develop our moral preferences simply because of its intelligence, as discussed in the Orthogonality Thesis. Perhaps this difficulty comes from the way we are addressing the problem of expressing objectives, values, and ends, using representational cognitive methods. A solution to this problem would be the dynamic cognitive approach proposed by Dreyfus, whose phenomenological philosophy defends that the human experience of being-in-the-world cannot be represented by the symbolic or connectionist cognitive methods. A possible approach to this problem would be to use theoretical models such as SED (situated embodied dynamics) to address the values learning problem in AI. (shrink)

What does Cyberpunk and AI Ethics have to do with each other? Cyberpunk is a sub-genre of science fiction that explores the post-human relationships between human experience and technology. One similarity between AI Ethics and Cyberpunk literature is that both seek a dialogue in which the reader may inquire about the future and the ethical and social problems that our technological advance may bring upon society. In recent years, an increasing number of ethical matters involving AI have been pointed and (...) debated, and several ethical principles and guides have been suggested as governance policies for the tech industry. However, would this be the role of AI Ethics? To serve as a soft and ambiguous version of the law? I would like to promote in this article a more Cyberpunk way of doing AI Ethics, whit a more anarchic way of governance. In this study, I will seek to expose some of the deficits of the underlying power structures of our society, and suggest that AI governance be subject to public opinion, so that ‘good AI’ can become ‘good AI for all’. (shrink)

O pensamento axiomático de Hilbert foi um influente modelo filosófico que motivou movimentos como o positivismo no início do século XX, em diversas áreas dentro, e fora, da filosofia, como a epistemologia e a metamatemática. O formalismo axiomático fornece, através do uso da lógica de primeira ordem, uma importante fundação para modelos lógicos formais, o que, para Hilbert, representaria um modelo universal de investigação empírica, não só para a matemática, mas para todas as ciências naturais, e pela visão positivista, também (...) a filosofia. Contudo, no caso mais específico da matemática, existe uma certa descomunicação entre os fundamentos da matemática e sua prática, onde métodos informais, ainda promovem elegantes ferramentas para matemáticos de diversas áreas, inclusive, quando certos paradigmas tentam ser quebrados. É exatamente esta assincronia entre os fundamentos da matemática, e a sua prática que iremos investigar neste estudo. Lawvere, insatisfeito com a “fundação não fundamentada” do método axiomático proposto por Hilbert, e inspirado pela dialética hegeliana, procurou revisar os fundamentos da matemática pela lógica categórica e a Teoria das Categorias. Vemos neste estudo, como as interpretações de Lawvere de conceitos da lógica de Hegel, como, equivalência, unidade dos opostos e “aufheben”, permitem uma nova abordagem matemática, com um posicionamento filosófico que procura, de certa forma, transcender a dicotomia entre escolas analíticas e continentais. Lawvere trata a lógica objetiva de Hegel como uma possível estratégia para resolver o problema de aterramento lógico em metafísica. Por fim, vemos como as contribuições de Lawvere para a axiomatização da lógica categórica tiveram impactos inovadores na metamatemática, especialmente no desenvolvimento das fundações univalentes de Vladimir Voevodsky. (shrink)

Para comemorarmos o centenário do patrono da Educação Brasileira, Paulo Reglus Neves Freire, iremos neste breve estudo propor um diálogo entre a pedagogia libertária de Freire e algumas princípios filosóficos que a fundamentam. Inicialmente, investigamos a trajetória histórica do pedagogo nordestino, e os momentos mais marcantes de sua vida cosmopolita. Em segundo, apresentaremos alguns dos principais alicerces de sua metodologia pedagógica, contudo, dada a vasta obra publicada por Freire, qualquer breve revisão será fadada em apenas ser um breve vislumbre da (...) filosofia e pedagogia freireana. Por fim, iremos explorar algumas das origens filosóficas e políticas do conceito de pedagogia libertária, e como essas origens podem ser ligadas a filosofia Anarquista, dado a algumas semelhanças evidentes. A crítica a autoridade injustificada, a amorosa crença do caráter social e solidário do indivíduo humano, e um forte defesa da emancipação humana, algo que só pode ser alcançado através da busca pela liberdade e autonomia do sujeito. Tais paralelos levam à conclusão de que se a pedagogia libertária é um ato de amor, a filosofia libertária também deve ser, pois, ambas se nutrem da mesma fonte, e almejam o mesmo lugar: a emancipação humana. (shrink)

How can someone reconcile the desire to eat meat, and a tendency toward vegetarian ideals? How should we reconcile contradictory moral values? How can we aggregate different moral theories? How individual preferences can be fairly aggregated to represent a will, norm, or social decision? Conflict resolution and preference aggregation are tasks that intrigue philosophers, economists, sociologists, decision theorists, and many other scholars, being a rich interdisciplinary area for research. When trying to solve questions about moral uncertainty a meta understanding of (...) the concept of normativity can help us to develop strategies to deal with norms themselves. 2nd-order normativity, or norms about norms, is a hierarchical way to think about how to combine many different normative structures and preferences into a single coherent decision. That is what metanormativity is all about, a way to answer: what should we do when we don’t know what to do? In this study, we will review a decision-making strategy dealing with moral uncertainty, Maximization of Expected Choice-Worthiness. This strategy, proposed by William MacAskill, allows for the aggregation and inter-theoretical comparison of different normative structures, cardinal theories, and ordinal theories. In this study, we will exemplify the metanormative methods proposed by MacAskill, using has an example, a series of vegetarian dilemmas. Given the similarity to this metanormative strategy to expected utility theory, we will also show that it is possible to integrate both models to address decision-making problems in situations of empirical and moral uncertainty. We believe that this kind of ethical-mathematical formalism can be useful to help develop strategies to better aggregate moral preferences and solve conflicts. (shrink)

One of the strands of the Transhumanist movement, Singulitarianism, studies the possibility that high-level artificial intelligence may be created in the future, debating ways to ensure that the interaction between human society and advanced artificial intelligence can occur safely and beneficially. But how can we guarantee this safe interaction? Are there any indications that a Singularity may be on the horizon? In trying to answer these questions, We'll make a small introduction to the area of security research in artificial intelligence. (...) We'll review some of the current paradigms in the development of autonomous intelligent systems and evidence that we can use to prospect the coming of a possible technological Singularity. Finally, we will present a reflection using the COVID-19 pandemic, something that showed that our biggest problem in managing existential risks is our lack of coordination skills as a global society. (shrink)

For more than a century now, the automation of the means of work has created great apprehension among us. After all, will we all be replaced by machines in the future? Will all forms of labor be automatable? Such questions raise several criticisms in the literature concerned with machine ethics. However, in this study, I will approach this problem from another angle. After all, we can criticize the automation of the means of work in several ways. I invite the reader (...) to entertain the following hypothesis: What if the automation of the means of labor is something beneficial? What if human emancipation does come through our technological development? If the answer is yes, why do we still work so much? I conclude that if automation processes are applied to key points in our social structure, we can emancipate the individual from a reality where we work for no reason. (shrink)

Um posicionamento muito comum entre teóricos do campo de pesquisa em Inteligência Artificial é aquele no qual definimos “Inteligência” como uma capacidade intrinsecamente relacionada à perseguição de metas e objetivos, algo que podemos chamar de uma “definição teleológica” para o fenômeno de inteligência. Contudo, uma possível crítica contra esta definição pode ser levantada devido a sua aparente vagueza. Como qualquer comportamento pode ser descrito como um objetivo a ser cumprido, e funções de utilidade pertencem a uma vasta família de funções, (...) podemos dizer que “qualquer comportamento”, desde que esse possa ser descrito como um objetivo sendo perseguido (uma função de utilidade sendo maximizada), serve como evidência de agência inteligente. Neste estudo, gostaria de propor uma definição alternativa para o conceito de Inteligência. Uma definição metafísica, i.e., a Hipótese da Permissibilidade. Para defender tal proposta, irei apresentar um paralelo entre: (1) teoria da otimização; (2) nosso entendimento contemporâneo sobre fenômenos físicos; e (3) aquilo que chamamos de Aprendizagem de Máquina. No fim, proponho que “Inteligência” deve ser compreendida como uma propriedade física permissível de nossa realidade. Uma propriedade a que todos os sistemas físicos têm acesso. (shrink)

One of the strands of the Transhumanist movement, Singulitarianism, studies the possibility that high-level artificial intelligence may be created in the future, debating ways to ensure that the interaction between human society and advanced artificial intelligence can occur safely and beneficially. But how can we guarantee this safe interaction? Are there any indications that a Singularity may be on the horizon? In trying to answer these questions, We'll make a small introduction to the area of security research in artificial intelligence. (...) We'll review some of the current paradigms in the development of autonomous intelligent systems and evidence that we can use to prospect the coming of a possible technological Singularity. Finally, we will present a reflection using the COVID-19 pandemic, something that showed that our biggest problem in managing existential risks is our lack of coordination skills as a global society. (shrink)

One of the strands of the Transhumanist movement, Singulitarianism, studies the possibility that high-level artificial intelligence may be created in the future, debating ways to ensure that the interaction between human society and advanced artificial intelligence can occur safely and beneficially. But how can we guarantee this safe interaction? Are there any indications that a Singularity may be on the horizon? In trying to answer these questions, We'll make a small introduction to the area of security research in artificial intelligence. (...) We'll review some of the current paradigms in the development of autonomous intelligent systems and evidence that we can use to prospect the coming of a possible technological Singularity. Finally, we will present a reflection using the COVID-19 pandemic, something that showed that our biggest problem in managing existential risks is our lack of coordination skills as a global society. (shrink)

A mais de um século que o fenômeno da automatização dos meios de trabalho vem criando grande apreensão entre nós. Afinal, seríamos todos substituídos por máquinas em algum futuro próximo? Seriam todas as formas de trabalho automatizáveis? Tais questionamentos vêm levantando uma série de críticas pela comunidade engajada em ética de máquina e ética da inteligência artificial. Contudo, gostaria de nesta breve resenha, atacar este problema por outro ângulo, afinal, podemos criticar tal fenômeno de uma ampla variedade de pontos de (...) vista. Gostaria de convidar o leitor a avaliar pela seguinte perspectiva: e se a automação dos meios de trabalho for algo benéfico? E se a emancipação humana realmente venha através de nosso desenvolvimento tecnológico? Se a resposta for sim, por quê quê ainda trabalhamos tanto? Acredito que se os processos de automação forem aplicados a pontos chave de nossa estrutura social, podemos vir a emancipar o indivíduo de uma realidade onde realmente trabalhamos por motivo nenhum, inutilmente. Se abandonarmos a cultura do consumismo, a cultura que atrela o trabalho e o consumo a moralidade, uma alternativa mais próspera seria adotarmos a cultura que abraça o valor da autonomia e liberdade do indivíduo humano. (shrink)

O fenômeno de aceleração social, intimamente ligado a nossa modernização tecnológica e os sistemas políticos e sociais que adotamos, vem sendo alvo de questionamentos por parte da teoria crítica por diversos filósofos e sociólogos, principalmente em relação a se tal "aceleração" seja algo que, possa ser justificável pelo bem comum da sociedade. De fato, as rápidas mudanças que ocorreram no último século causaram uma tremenda mudança em nossos estilos-de-vida, e na maneira como experienciamos o mundo. Que a nossa sociedade mudou (...) e continua a mudar é um fato evidente quando olhamos criticamente para o passado e presente, e comparamos diferentes épocas da história humana. Neste ensaio tentaremos explorar algumas possíveis hipóteses que fundamentem o comportamento aceleracionista em certos fatores e mecanismo biológicos que caracterizam os sistemas de motivação e saciação humanos. Também tentaremos mostrar como certos fenômenos sociais podem auxiliar em fortalecer este tipo de comportamento, e suas possíveis origens evolutivas. Este estudo tem como objetivo principal fundamentar a Tese Aceleracionista em evidências neurofisiológicas, cognitivo-comportamentais, evolutivas e sociais. Palavras-chave: aceleração; recompensa; saciação; ciências cognitivas; teoria dos gêneros. (shrink)

The AI Robotics Ethics Society (AIRES) is a non-profit organization founded in 2018 by Aaron Hui to promote awareness and the importance of ethical implementation and regulation of AI. AIRES is now an organization with chapters at universities such as UCLA (Los Angeles), USC (University of Southern California), Caltech (California Institute of Technology), Stanford University, Cornell University, Brown University, and the Pontifical Catholic University of Rio Grande do Sul (Brazil). AIRES at PUCRS is the first international chapter of AIRES, and (...) as such, we are committed to promoting and enhancing the AIRES Mission. Our mission is to focus on educating the AI leaders of tomorrow in ethical principles to ensure that AI is created ethically and responsibly. As there are still few proposals for how we should implement ethical principles and normative guidelines in the practice of AI system development, the goal of this work is to try to bridge this gap between discourse and praxis. Between abstract principles and technical implementation. In this work, we seek to introduce the reader to the topic of AI Ethics and Safety. At the same time, we present several tools to help developers of intelligent systems develop "good" models. This work is a developing guide published in English and Portuguese. Contributions and suggestions are welcome. (shrink)

A ansiedade gerada pela possível criação de inteligência artificial geral, algo profetizado desde a fundação do campo de pesquisa (i.e., Dartmouth's Summer Research Project on Artificial Intelligence) (MCCARTHY et al., 1955), é algo comumente investigado dentro dos círculos transhumanistas e singularistas (KURZWEIL, 2005; CHALMERS, 2010; TEGMARK, 2016; 2017; CORRÊA; DE OLIVEIRA, 2021). Por exemplo, em seu livro “Superintelligence: Paths, Dangers, Strategies”, Nick Bostrom (2014) apresenta uma série de argumentos para justificar a ideia de que precisamos ser cautelosos em relação a (...) criação de inteligência artificial avançada ou inteligência artificial geral. Contudo, muito dos argumentos levantados, em suas versões originais (i.e., convergência instrumental e ortogonalidade (OMOHUNDRO, 2008), são baseados em noções “vagas” de conceitos complexos (i.e., “inteligência”, “racionalidade”, “agência”). O objetivo deste resumo (apresentação) será introduzir o leitor/ouvinte ao campo de Segurança da Inteligência Artificial. Nesse campo, questões como o “Problema de controle” (i.e., evitar construir inadvertidamente uma inteligência artificial geral que prejudicará seus criadores) e o “Problema de Alinhamento” (i.e., criar sistemas de inteligência artificial que permaneçam seguros mesmo quando atuando de forma autônoma no ambiente real), que são questões muitas vezes debatidas apenas dentro da Filosofia ou Ficção Científica, ganham um aspecto muito mais real e formal (AMODEI et al., 2016, HUBINGER et al., 2019). A criação de alguns dos modelos de inteligência artificial mais avançados já criados (e.g., AlphaGo, GPT-3) (SILVER el al., 2016; BROWN et al., 2020), está ligado a utilização de dois paradigmas da área de Aprendizagem de Máquina, i.e., Aprendizagem Profunda e Aprendizagem por Reforço. Dentro deste contexto, podemos definir “um sistema autônomo inteligente” como “um sistema que implementa uma política ótima (tecnicamente "ϵ-greedy optimal") para alguma função de recompensa” (ORSEAU et al., 2018). Podemos também definir tais sistemas como “maximizadores de utilidade esperada” (VON NEUMANN; MORGENSTERN, 1944). Um sistema de IA maximizando uma função de recompensa (i.e., objetivo) especificada erroneamente pode vir a causar danos reais quando interagindo no ambiente real, seja por erros de especificação (i.e., Efeitos Colaterais Negativos, Hackeamento de Recompensa, Interrupção Segura), ou quando o domínio de treinamento é diferente do domínio de implantação (i.e., Exploração Segura e Mudança de Domínio). Ao mesmo tempo, especificar objetivos complexos (e.g., preferências e valores humanos) é uma tarefa extremamente complexa, e quando visamos a possibilidade de inteligência artificial avançada agindo no mundo real, é imperativo que tais sistemas estejam: (1) alinhados com nossos objetivos; e (2) desenvolvidos com um design que evite os problemas citados acima. Contudo, tais problemas permanecem em aberto. Por fim, gostaria de ressaltar que no cerne desta problemática, não temos apenas problemas técnicos de aprendizagem de máquina, mas uma importante questão de cunho “Moral”: “O que é a coisa ‘certa” a fazer”? “Qual o objetivo correto a ser perseguido”? “Como podemos especificar isso”? Perguntas como essas prometem um fértil campo para pesquisas interdisciplinares envolvendo inteligência artificial, aprendizagem de máquina, ciências da computação e filosofia moral. (shrink)

A AI Robotics Ethics Society (AIRES) é uma organização sem fins lucrativos fundada em 2018 por Aaron Hui, com o objetivo de se promover a conscientização e a importância da implementação e regulamentação ética da AI. A AIRES é hoje uma organização com capítulos em universidade como UCLA (Los Angeles), USC (University of Southern California), Caltech (California Institute of Technology), Stanford University, Cornell University, Brown University e a Pontifícia Universidade Católica do Rio Grande do Sul (Brasil). AIRES na PUCRS é (...) o primeiro capítulo internacional da AIRES, e como tal, estamos empenhados em promover e aprimorar a Missão AIRES. Nossa missão é focar na educação dos líderes da IA de amanhã em princípios éticos, para assegurar que a IA seja criada de forma ética e responsável. Como ainda existem poucas propostas de como devemos implementar princípios éticos e diretrizes normativas na prática do desenvolvimento de sistemas de IA, o objetivo deste trabalho é tentar diminuir esta lacuna entre o discurso e a práxis. Entre princípios abstratos e implementação técnica. Neste trabalho, buscamos introduzir o leitor ao tema da Ética e Segurança da IA. Ao mesmo tempo, apresentamos uma série de ferramentas para auxiliar desenvolvedores de sistemas inteligentes a desenvolver “bons” modelos. Este trabalho é um guia em desenvolvimento publicado em inglês e português. Contribuições e sugestões são bem vindas. (shrink)