Sem referências: o ChatGPT sob a perspectiva latouriana do duplo clique

Abstract

A Inteligência Artificial Generativa tem despertado grande interesse na população, e o ChatGPT é um exemplo notável desse fenômeno, devido à sua ampla cobertura midiática. Entretanto, ao analisarmos as principais controvérsias em torno da versão 3.5 do ChatGPT, fica evidente que a ausência de referências confiáveis é um problema alarmante. Em alguns casos, a ferramenta gera informações imprecisas ou falsas, que alguns autores chamam de 'alucinações'. Este artigo foca na problemática das fontes e referências, que o ChatGPT frequentemente não fornece e, em alguns casos, até falsifica. Com a crescente disseminação do uso da ferramenta, a questão da falta de fontes e ou referências pode se tornar ainda mais grave. Os usuários podem considerar o ChatGPT como um oráculo infalível, aumentando sua confiabilidade pelo simples hábito de uso. Nesse sentido, analisamos esse comportamento à luz do conceito de Duplo Clique, presente na obra 'Investigação sobre os modos de existência: Uma antropologia dos modernos', de Bruno Latour. Abordando a ignorância das mediações durante o processo de conversação (saídas) com a IA e seus possíveis efeitos para a sociedade, caso acreditar cegamente em saídas com falta de referências (um duplo clique) se torne um hábito.

Generative Artificial Intelligence has aroused great interest in the population, and ChatGPT is a notable example of this phenomenon, due to its wide media coverage. However, when analyzing the main controversies surrounding version 3.5 of ChatGPT, it is clear that the lack of reliable references is an alarming problem. In some cases, the tool generates inaccurate or false information, which some authors call 'hallucinations'. This article focuses on the problem of sources and references, which ChatGPT often fails to provide and in some cases even falsifies. As the use of the tool becomes more widespread, the issue of missing sources and or references may become even more serious. Users may consider ChatGPT as an infallible oracle, increasing its reliability by the simple habit of use. In this sense, we analyze this behavior in the light of the concept of Double Click, present in the work 'Investigation into the modes of existence: an anthropology of the modern', by Bruno Latour. Addressing the ignorance of mediations during the process of conversation (outputs) with AI and its possible effects for society, if blindly believing in outputs with lack of references (a double click) becomes a habit.

La Inteligencia Artificial Generativa ha despertado un gran interés en la población, y ChatGPT es un ejemplo notable de este fenómeno, debido a su amplia cobertura mediática. Sin embargo, al analizar las principales polémicas que rodean a la versión 3.5 de ChatGPT, queda claro que la falta de referencias fiables es un problema alarmante. En algunos casos, la herramienta genera información inexacta o falsa, que algunos autores denominan "alucinaciones". Este artículo se centra en el problema de las fuentes y referencias, que ChatGPT a menudo no proporciona y, en algunos casos, incluso falsifica. Con la creciente difusión del uso de la herramienta, el problema de la falta de fuentes y/o referencias puede llegar a ser aún más grave. Los usuarios pueden considerar ChatGPT como un oráculo infalible, aumentando su fiabilidad por el simple hábito de uso. En este sentido, analizamos este comportamiento a la luz del concepto de Doble Clic, presente en la obra 'Investigación sobre los modos de existencia: una antropología de lo moderno', de Bruno Latour. Abordando el desconocimiento de las mediaciones durante el proceso de conversación (outputs) con la IA y sus posibles efectos para la sociedad, si creer ciegamente en outputs con falta de referencias (un doble clic) se convierte en un hábito.