Repercutimos interessante reflexão do professor Pedro Dotto, publicado no site do Estadão, onde o mesmo identifica limitações da Inteligência Artificial, na contemporaneidade.
“Enquanto a IA generativa funciona por correlações estatísticas, o pensamento humano nasce da experiência, do espanto e da curiosidade, da indagação e da pesquisa, da busca apaixonada pela verdade”. (por Pedro Dotto)
Assim como Platão testemunhou a transição de uma cultura oral para a era da escrita, uma revolução tecnológica com implicações culturais, sociais, comunicacionais e cognitivas de vasto alcance, também nós, hoje, nos confrontamos com a ascensão acelerada de inteligências artificiais capazes de produzir textos, imagens, planilhas e vídeos, influenciar decisões, alterar rotinas pessoais e moldar processos empresariais.
Surpreendentemente, é na crítica platônica à technē da escrita, articulada por volta de 2.500 anos atrás na Atenas clássica, que encontramos algumas pistas para entender os paradoxos e perigos da nossa atualidade com o advento dos modelos mais sofisticados desta nova technē do século 21, a IA generativa.
No diálogo Fedro, Platão apresenta, por meio de um mito egípcio, duas advertências basilares sobre a natureza e as limitações do texto escrito. Tais ressalvas, formuladas em um período histórico situado no limiar da passagem da oralidade à escrita, adquirem uma força renovada para jogar luzes no debate contemporâneo sobre a IA generativa.
Ao mimetizar o raciocínio humano e acarretar a proliferação de conteúdo burilado, consistente e convincente sobre qualquer tópico, a IA convida a um olhar atento às advertências platônicas sobre a technē da escrita a fim de descortinar os impasses do nosso tempo presente.
Aprofundemo-nos, então, sobre o teor da crítica à escrita de Platão como uma chave interpretativa para decifrar a IA generativa.
A primeira fragilidade estrutural da escrita, observada no mito egípcio do Fedro (274c5-275b2, na citação canônica dos diálogos platônicos segundo a paginação Stephanus, fruto do trabalho editorial de Henri Estienne na última quadra do século XVI) é particularmente pertinente para o entendimento dos riscos que a IA generativa oferece.
Platão distingue a mnēmē, a memória viva exercitada pela alma, da hupomnēsis, a rememoração externa mediada por registros escritos. A invenção da escrita, nessa linha, apresentaria o risco de atrofia da memória pela confiança excessiva em registros externos e pela negligência da capacidade mnemônica.
A escrita, nesse contexto, surgiria como uma espécie de “prótese mnemônica” que, ao externalizar as informações, paradoxalmente enfraqueceria a capacidade natural de rememorar em razão da falta de exercício da memória.
Para Platão, o conhecimento genuíno não reside em proposições fixadas em um suporte material, diligentemente memorizadas e mecanicamente recitadas. O discurso que realmente importa é aquele que é “escrito com conhecimento na alma” (276a5-7), nas palavras de Sócrates no diálogo.
No cenário contemporâneo, percebemos um fenômeno paralelo, mas amplificado exponencialmente. A atrofia não se limitaria à memória, senão que se estenderia ao próprio pensamento e a um rol mais amplo de nossas competências cognitivas. A distinção se estabeleceria entre respostas geradas por algoritmos e o pensamento independente, forjado pelo esforço intelectual e pessoal. Assim, a IA pode atuar como uma “prótese cognitiva” ainda mais sedutora e insidiosa do que a escrita. Sua facilidade em prover respostas prontas pode substituir o trabalho do pensamento de formular problemas originais e desenvolver argumentos, testar a consistência de um dado raciocínio e chegar a conclusões inéditas.
Aliás, um estudo recente de pesquisadores do MIT Media Lab sugere que tecnologias como o ChatGPT podem enfraquecer a potência do pensamento, evidenciado pelo menor engajamento neural e pior desempenho cognitivo entre os seus usuários. A pesquisa alerta para as consequências deletérias desta técnica na autonomia intelectual e no desenvolvimento de aptidões cognitivas, especialmente para mentes em formação.
Enquanto a IA generativa funciona por correlações estatísticas, o pensamento humano nasce da experiência, do espanto e da curiosidade, da indagação e da pesquisa, da busca apaixonada pela verdade.
O segundo ponto da crítica platônica à escrita se refere à produção de um simulacro de conhecimento (“doxosophoi”, “sábios de aparência”, é como Platão os chama para diferenciá-los dos “philosophoi”, os “filósofos” ou amantes do saber). A crítica platônica se dirige a um tipo de pseudo-sabedoria, uma erudição superficial e aparente, desprovida de compreensão genuína. Se a escrita já permitia a indivíduos parecerem sábios e galgarem a reputação de conhecedores, a IA eleva este fenômeno à enésima potência.
Considere-se a celeridade com que sistemas de IA geram textos aparentemente lúcidos e coerentes. Essa capacidade, impressionante por si só, dissimula precisamente o perigo apontado por Platão: a simulação de saber sem compreensão real do conteúdo. Além disso, a ilusão de que o conhecimento pode ser simplesmente “baixado” ou “acessado” como um arquivo digital ofuscaria uma distinção essencial entre informação e conhecimento, dados e sabedoria.
A IA generativa, ao prometer respostas instantâneas, ameaça eliminar o tempo constitutivo da formação intelectual, ou seja, o tempo da perplexidade, da reflexão, do erro e da retificação. A instantaneidade das respostas da IA compromete o tempo necessário ao amadurecimento intelectual em troca da geração de um “saber” aparente e transitório. As informações geradas são prontamente absorvidas e, com igual agilidade, relegadas ao esquecimento.
Para Platão, ao contrário, a educação (paideia) não é mero intercâmbio de informações, mas um processo longo e formativo que envolve o ser em sua inteireza.
A tecnologia da escrita era, para Platão, um pharmakon, uma “droga”, simultaneamente remédio e veneno. A IA pode ser vista como um pharmakon digital de intensidade turbinada, capaz de processar um vastíssimo volume de dados em uma velocidade vertiginosa. Sendo assim, a advertência do mito egípcio no Fedro ganha renovada urgência: técnicas inventadas para auxiliar nossas capacidades cognitivas podem, paradoxalmente, enfraquecê-las. O desafio, no meu entender, não é rejeitar a tecnologia, mas cultivar uma certa atitude de curiosidade e cautela, num empenho para compreender suas funções e limitações de modo a assegurar que esta nova technē não substitua o trabalho do pensamento vivo e do exercício dialético, de dar e receber razões, empobrecendo a nossa vida intelectual de maneira irremediável.
Contudo, seria simplista ignorar as capacidades que a IA generativa aparenta ter, superando inclusive algumas das limitações que Platão imputava à palavra escrita. Enquanto o texto fixo permanecia mudo diante das interrogações do leitor, os sistemas de IA respondem de forma didática e dinâmica, formulando conteúdos contextualizados e aparentemente adaptados à demanda (prompt). Se a escrita tradicional se restringia à repetição cristalizada, a IA produz variações incontáveis sobre os mesmos temas, remodelando explicações conforme as solicitações. E, enquanto o texto escrito jaz desamparado, incapaz de defender-se ou esclarecer ambiguidades sem seu autor, a IA parece capaz de elaborar clarificações e responder a objeções.
Entretanto, uma análise mais rigorosa do funcionamento da IA generativa revela que essa superação é, na melhor das hipóteses, aparente e parcial. Por mais sofisticadas que se mostrem suas respostas, a IA generativa funciona com base no processamento estatístico de vastos repositórios de dados textuais (data sets), combinando e recombinando padrões linguísticos de acordo com probabilidades estatísticas. Tal modus operandi conforma o que a literatura especializada denomina de “papagaio estocástico” (stochastic parrot), uma vez que a IA generativa se limitaria ao rearranjo padrões linguísticos aprendidos em seu treinamento e replicado segundo escalas de probabilidade.
Assim, enquanto a escrita platônica padecia do silêncio, a IA generativa responde sem compreensão; onde havia fixidez, ela oferece variação estatística; e, em vez do desamparo do texto, surge a ilusão de assistência. A ilusão de assistência que a IA oferece pode, em cenários extremos, levar à “terceirização” irrefletida de processos decisórios complexos, com implicações éticas e sociais profundas, especialmente quando se trata de vieses inerentes aos dados de treinamento ou da opacidade de seus mecanismos internos, para não mencionar o definhamento das nossas capacidades cognitivas.
Os sistemas de aprendizado de máquina baseados em modelos de linguagem de grande escala (LLM) que sustentam os modelos atuais de IA têm uma limitação inerente, qual seja, a dependência de padrões preexistentes. A IA é uma técnica de compressão informacional (“compressão”, de “comprimir”, o que é muito diferente da “compreensão”, de “compreender”), que identifica e reproduz regularidades com base em dados pretéritos. Tal procedimento, fundado em correlações algorítmicas sobre massivos volumes de dados, suscita questões prementes como as de plágio e direitos autorais em textos, imagens e vídeos produzidos por essas IAs. Mas isso nos levaria para um outro debate.
Na discussão atual sobre IAs, é essencial não perder de vista a distinção entre téchne e sophia, entre “técnica” e “sabedoria”.
Essa diferença se insinua entre o acesso facilitado à informação e o entendimento genuíno, ou entre a manipulação probabilística de vastos conjuntos de dados e o desenvolvimento de capacidades cognitivas pessoais, que são, como tais, intransferíveis.
A aparente superioridade da IA em relação à escrita, baseada em sua velocidade e no volume de processamento de dados, pode gerar uma falsa sensação de inteligência sobre-humana desses sistemas computacionais. Mas a IA generativa não deixa de ser um processador estatístico extremamente eficiente, e sua “inteligência” é categoricamente diferente da cognição humana.
Autor: Pedro Dotto. Doutor em filosofia pela The New School for Social Research (NSSR) e pesquisador de pós-doutorado na Faculdade de Filosofia, Letras e Ciências Humanas (FFLCH) da USP, com bolsa da FAPESP.
Edição: A. R.
Uma interessante reflexão do professor Pedro Dotto, publicado no site do Estadão, onde o mesmo identifica limitações da Inteligência Artificial, na contemporaneidade.