Imagem de fundo

Assinale a alternativa em que a palavra entre parênteses...

INSTRUÇÃO: Leia o texto I para responder às questões de 01 a 08.

Texto I

A falsa promessa do ChatGPT

Versão mais proeminente de Inteligência Artificial codifica uma concepção errônea de linguagem e conhecimento


Noam Chomsky

Ian Roberts

Jeffrey Watumull*


Hoje, nossos avanços supostamente revolucionários em inteligência artificial são, de fato, motivo de preocupação e otimismo. Otimismo porque a inteligência é o meio pelo qual resolvemos problemas. Preocupação porque tememos que o tipo mais popular e moderno de IA – o aprendizado de máquina – degrade nossa ciência e rebaixe nossa ética ao incorporar, em nossa tecnologia, uma concepção fundamentalmente falha de linguagem e conhecimento.

O ChatGPT da OpenAI, o Barddo Google e o Sydney da Microsoft são maravilhas do aprendizado de máquina. De modo geral, eles coletam uma grande quantidade de dados, procuram padrões neles e tornam-se cada vez mais eficientes em gerar respostas estatisticamente prováveis – como linguagem e raciocínio parecidos com os de seres humanos. Esses programas foram saudados como os primeiros lampejos no horizonte da inteligência artificial geral – aquele momento há muito profetizado em que as mentes mecânicas ultrapassarão os cérebros humanos não apenas quantitativamente, em termos de velocidade de processamento e tamanho da memória, mas também qualitativamente, em termos de percepção intelectual, criatividade artística e todas as outras faculdades distintamente humanas.

Esse dia pode chegar, mas ainda não amanheceu, ao contrário do que se lê em manchetes hiperbólicas e é recebido com investimentos imprudentes. [...]

A mente humana não é, como o ChatGPT e seus semelhantes, uma pesada máquina estatística para encontrar padrões semelhantes, devorando centenas de terabytes de dados e extrapolando a resposta mais provável numa conversa ou a resposta mais plausível para uma pergunta científica. Pelo contrário, a mente humana é um sistema surpreendentemente eficiente e até elegante que opera com pequenas quantidades de informação; procura não inferir correlações brutas entre pontos de dados, mas criar explicações. [...]

De fato, tais programas estão presos numa fase pré-humana ou não humana da evolução cognitiva. Sua falha mais profunda é a ausência da capacidade mais crítica de qualquer inteligência: dizer não somente o que é o caso, o que foi o caso e o que será o caso – isso é descrição e previsão –, mas também o que não é o caso e o que poderia e não poderia ser o caso. Esses são os ingredientes da explicação, a marca da verdadeira inteligência.

Aqui está um exemplo. Suponha que você esteja segurando uma maçã. Então você deixa a maçã cair. Você observa o resultado e diz: “A maçã cai”. Isso é uma descrição. Uma previsão poderia ter sido a afirmação “A maçã cairá se eu abrir minha mão”. Ambos são valiosos e ambos podem estar corretos. Mas uma explicação é algo mais: inclui não apenas descrições e previsões, mas também conjecturas contrafactuais como “Qualquer objeto parecido cairia”, além da cláusula adicional “por causa da força da gravidade” ou “por causa da curvatura do espaço-tempo”, ou coisa parecida. Essa é uma explicação causal. “A maçã não teria caído se não fosse pela força da gravidade”. Isso é raciocínio.

O ponto crucial do aprendizado de máquina é a descrição e a previsão; ele não sugere quaisquer mecanismos causais ou leis físicas. Claro, qualquer explicação em estilo humano não é necessariamente correta; somos falíveis. Mas isso faz parte do que significa pensar: para estar certo, deve ser possível estar errado. A inteligência consiste não apenas em conjecturas criativas, mas também em críticas criativas. O pensamento no estilo humano se baseia em possíveis explicações e correção de erros, processo que gradualmente limita as possibilidades que podem ser consideradas racionalmente. [...]

Mas o ChatGPT e programas semelhantes são, por desígnio, ilimitados no que podem “aprender” (ou seja, memorizar); são incapazes de distinguir o possível do impossível. Ao contrário dos humanos, por exemplo, que são dotados de uma gramática universal que limita as línguas que podemos aprender àquelas com um certo tipo de elegância quase matemática, esses programas aprendem línguas humanamente possíveis e humanamente impossíveis com a mesma facilidade. Enquanto os humanos são limitados nos tipos de explicações que podemos conjeturar racionalmente, os sistemas de aprendizado de máquina podem aprender tanto que a Terra é plana quanto que é redonda. Eles apenas lidam com probabilidades que mudam ao longo do tempo.

Por esse motivo, as previsões dos sistemas de aprendizado de máquina sempre serão superficiais e duvidosas. [...]

A verdadeira inteligência também é capaz de pensamento moral. Isso significa restringir a criatividade ilimitada de nossas mentes com um conjunto de princípios éticos que determinam o que deve e o que não deve ser (e, é claro, submeter esses próprios princípios à crítica criativa). Para ser útil, o ChatGPT deve ter o poder de gerar resultados inovadores; para ser aceitável para a maioria de seus usuários, ele deve evitar conteúdo moralmente censurável. Mas os programadores do ChatGPT e de outras maravilhas do aprendizado de máquina têm dificuldade – e continuarão tendo – para atingir esse tipo de equilíbrio. [...]

Resumindo, o ChatGPT e seus irmãos são constitucionalmente incapazes de equilibrar criatividade com restrição. Eles supergeram (ao mesmo tempo produzindo verdades e falsidades, endossando decisões éticas e antiéticas) ou subgeram (demonstrando falta de compromisso com quaisquer decisões e indiferença com as consequências). Dada a amoralidade, a falsa ciência e a incompetência linguística desses sistemas, podemos apenas rir ou chorar de sua popularidade.

CHOMSKY, N.; ROBERTS, I. e WATUMULL, J. A falsa promessa do CHAT GPT. Disponível em: https://www1.folha.uol. com.br/tec/2023/03/a-falsa-promessa-do-chatgpt.shtml. Acesso em 14. ago. 2023. (Adaptado).

Assinale a alternativa em que a palavra entre parênteses não tem o mesmo sentido da palavra destacada no trecho.


A

Hoje, nossos avanços supostamente revolucionários em inteligência artificial são, de fato, motivo de preocupação e otimismo. (HIPOTETICAMENTE)


B

Esse dia pode chegar, mas ainda não amanheceu, ao contrário do que se lê em manchetes hiperbólicas e é recebido com investimentos imprudentes. (PAUTADAS)


C

De fato, tais programas estão presos numa fase pré-humana ou não humana da evolução cognitiva. (MENTAL)


D

Mas o ChatGPT e programas semelhantes são, por desígnio, ilimitados no que podem “aprender” (ou seja, memorizar); são incapazes de distinguir o possível do impossível. (INTENTO)