Brownstone » Diário do Instituto Brownstone » O que as pessoas ignoram no debate sobre IA
ChatGPT

O que as pessoas ignoram no debate sobre IA

COMPARTILHAR | IMPRIMIR | O EMAIL

Tem sido interessante observar o que tem sido escrito sobre Inteligência Artificial (IA) nas últimas semanas, principalmente no que diz respeito ao hype em torno do ChatGPT. Tanto quanto posso julgar, a maior parte disso equivale essencialmente à percepção, ou medo, de que a IA ultrapassou os humanos no que diz respeito à inteligência. Dr Harvey Risch conta reveladora de sua 'conversa' com uma IA demonstrou amplamente que essa é uma percepção errônea e, no entanto, parece persistir de qualquer maneira. 

Uma experiência recente que tive com um entusiasta do ChatGPT transmite a mesma impressão sobre a crença generalizada de que o último AGI (Artificial General Intelligence) é igual, senão superior aos humanos no departamento de inteligência. Ocorreu por ocasião de uma palestra que dei aos membros de uma organização cultural sobre o tema até que ponto o trabalho de Freud e Hannah Arendt pode fornecer informações sobre o atual crescimento de medidas totalitárias insidiosas de controle globalmente. 

Um desses desenvolvimentos reveladores é a tentativa da Organização Mundial da Saúde de roubar a soberania dos países, alterando com sucesso sua constituição. Essa tentativa falhou dois anos atrás, quando os países africanos se opuseram às emendas propostas, mas em 2024 a OMS tentará novamente, tendo feito lobby vigoroso entre os líderes africanos.

Após minha palestra, alguém relacionou o tema à IA. Especificamente, isso diz respeito à minha afirmação de que os conceitos de Eros (pulsão de vida) e Thanatos (pulsão de morte) de Freud, por um lado, e as noções de Arendt de natalidade (todo ser humano traz algo único ao mundo ao nascer) e pluralidade (todos os humanos são diferentes), por outro, lançam luz sobre a natureza do totalitarismo. Também se relacionava com a questão de saber se o totalitarismo pode ser sustentado por aqueles que o promovem. Acontece que, depois que o tópico da minha palestra circulou, ele pediu ao ChatGPT para comentá-lo e trouxe a 'resposta' da IA ​​para a reunião em formato impresso para me mostrar.

Previsivelmente, para uma máquina de pesquisa preditiva e habilitada para reconhecimento de padrões linguísticos com um enorme banco de dados (que é o que realmente é o ChatGPT), não foi difícil descompactar com precisão o que significam os conceitos freudianos e arendtianos relevantes – qualquer aluno poderia encontrar isso na internet ou em uma biblioteca também. Mas onde a IA vacilou em relação ao vínculo que estabeleci entre as ideias desses pensadores e os eventos atuais que se desenrolam no espaço global.

Lembre-se de que eu havia empregado os conceitos de Freud e Arendt heuristicamente em relação ao que, indiscutivelmente, são sinais de 'movimentos' totalitários sendo feitos em várias áreas institucionais hoje. ChatGPT – novamente previsivelmente – fez (e sem dúvida poderia) não elaborou a conexão que eu sugeri no título divulgado de minha palestra, e simplesmente 'afirmei' que havia 'alguma' relação entre as ideias desses dois pensadores e o totalitarismo.

A razão para isso deve ser imediatamente aparente. Em nenhum lugar no banco de dados do ChatGPT há qualquer informação - no formato de uma interpretação legível – do que eventos como a tentativa sustentada da OMS de se tornar o órgão governante do mundo (referido acima) são sintomáticos, ou seja, um incipiente regime totalitário global. Para que o ChatGPT (ou qualquer outra IA) pudesse chegar a tal 'interpretação', ela teria que ser inserida em seu banco de dados por seus programadores - o que é improvável, se não impensável, dada a crítica implícita da própria constelação de poderes que deu origem à construção do ChatGPT – ou a IA teria de possuir a capacidade que todos os seres humanos 'normais' têm, nomeadamente ser capaz de interpretar o mundo experiencial que os rodeia. Claramente, nenhuma IA tem essa capacidade por causa de sua dependência de ser programada. 

O meu interlocutor contestou esta resposta explicativa da minha parte, argumentando que o ChatGPT mostra a sua capacidade de 'raciocinar' em cada 'resposta' que dá às questões que se possam colocar. Isso, ressaltei, não é uma descrição precisa do que a IA faz. Lembre-se: o ChatGPT produz respostas antropomórficas em linguagem cotidiana às perguntas que lhe são feitas. Ele faz isso usando exemplos detectados nos colossais conjuntos de dados aos quais tem acesso e que permitem prever palavras sucessivas em frases. Resumindo: ele é capaz de encontrar padrões estatísticos nesses enormes bancos de dados, usando 'aprendizado de máquina'. 

Isso não é raciocínio, como todo estudante que estudou lógica e história da filosofia deve saber – como René Descartes argumentou no século XVIIth século, o raciocínio é uma combinação de insights intuitivos e inferência ou dedução. Começa-se com um insight intuitivo – digamos, que as luzes se apagaram – e infere-se a partir daí que, ou alguém as desligou, ou o fornecimento de eletricidade foi interrompido. Ou pode-se raciocinar (por dedução) a partir de um conjunto de dados (o insight intuitivo) que outro é provável ou improvável. Em nenhum momento alguém recorre a quantidades massivas de dados que examinam padrões que exibem semelhanças e aventuram previsões antecipadas com base nisso.

No entanto, como se pode verificar por cientistas da computação, como Dr. Arvind Narayanan, professor de ciência da computação na Universidade de Princeton, as pessoas (como meu interlocutor) são facilmente enganadas por uma IA como o ChatGPT porque parece tão sofisticado, e quanto mais sofisticados eles se tornam, mais difícil será para os usuários identificar suas deficiências em relação pseudo-raciocínio, bem como seus erros.

Como indica o Dr. Narayanan, as respostas do ChatGPT a algumas perguntas do exame de ciência da computação que ele fez foram espúrias, mas foram formuladas de maneira tão ilusória que sua falsidade não foi imediatamente aparente, e ele teve que verificá-las três vezes antes de ter certeza de que isso foi o caso. Tanto para a alardeada capacidade do ChatGPT de 'substituir' humanos.

Deve-se lembrar, no entanto, que o que foi discutido até agora em termos comparativos é o tópico, se uma IA como o ChatGPT opera da mesma forma que os humanos no nível de inteligência, que diz respeito a diferenças como raciocínio em oposição ao reconhecimento de padrões, e assim por diante. Pode-se formular a questão em termos de inferioridade e superioridade também, é claro, e alguns argumentam que humanos ainda aparecem para enganar a IA, mesmo que uma IA possa realizar cálculos matemáticos mais rápido que os humanos. 

Mas é somente quando se desloca o terreno que as diferenças fundamentais entre um ser humano, visto de forma holística, e uma IA, por mais inteligente que seja, podem ser vistas em perspectiva. Isso é negligenciado principalmente por pessoas que se envolvem no debate sobre humanos em oposição à inteligência 'artificial', pela simples razão de que a inteligência é não tudo que importa

Para ilustrar o que quero dizer, pense no que aconteceu entre o campeão mundial de xadrez Garry Kasparov e Deep Blue, o 'supercomputador' da IBM, em 1997. Tendo sido derrotado por Kasparov em 1996, Deep Blue conseguiu a primeira vitória sobre um ser humano por uma máquina no ano seguinte, e também – como acontece com o ChatGPT hoje – houve lamentação universal sobre o suposto 'morte' da raça humana, representado por Kasparov sendo superado por um computador ( uma IA). 

Como hoje em relação ao ChatGPT, essa reação foi emblemática do erro cometido pela grande maioria das pessoas ao julgar a relação entre IA e humanos. Normalmente, essa avaliação é feita em termos de cognição, avaliando quem é mais 'inteligente' – humanos ou máquinas. Mas deve-se perguntar se a inteligência era a medida apropriada – e muito menos a mais adequada – para comparar humanos e computadores (como representantes da IA) naquela época e, de fato, agora. 

Compreensivelmente, a humilhação de Kasparov pela máquina foi relatada em todos os lugares na época, e lembro-me de ter encontrado um relato em que o escritor mostrou uma compreensão aguçada do que tenho em mente quando me refiro ao direito ou aos parâmetros apropriados para comparação entre humanos e IA. Tendo reconstruído os detalhes deprimentes da derrota histórica de Kasparov por Deep Blue, este escritor recorreu a uma fantasia bem-humorada, mas contando pouco.

Após a derrota simbólica do humano, ela ou ele fabula, a equipe de engenheiros e cientistas da computação que havia projetado e construído Deep Blue saiu para a cidade para celebrar seu triunfo memorável. Seria errado escrever 'a vitória de sua máquina' porque, estritamente falando, foi a equipe humana que conquistou a vitória por meio de 'seu' computador.

A piada foi preparada para quando o escritor perguntou, retoricamente, se Deep Blue, também saiu para pintar a cidade de vermelho com Light Pink para saborear sua conquista. Desnecessário enfatizar, a resposta a esta pergunta retórica é negativa. Foi seguido pela piada, que afirmava o óbvio; a saber, que 'os humanos celebram; computadores (ou máquinas) fazem não.

Olhando para trás, é surpreendente que este escritor tenha sido uma espécie de visionário, empregando uma ficção para destacar o fato de que, embora os humanos e a IA compartilhem 'inteligência' (embora de tipos diferentes), isso não acontece. não marcam as diferenças mais óbvias e irredutíveis entre a IA e as pessoas. Existem outras diferenças muito mais decisivas entre humanos e IA, algumas das quais foram exploradas SUA PARTICIPAÇÃO FAZ A DIFERENÇA e SUA PARTICIPAÇÃO FAZ A DIFERENÇA



Publicado sob um Licença Internacional Creative Commons Attribution 4.0
Para reimpressões, defina o link canônico de volta ao original Instituto Brownstone Artigo e Autor.

Autor

  • Bert Oliver

    Bert Olivier trabalha no Departamento de Filosofia da Universidade do Estado Livre. Bert faz pesquisa em psicanálise, pós-estruturalismo, filosofia ecológica e filosofia da tecnologia, literatura, cinema, arquitetura e estética. Seu projeto atual é 'Entendendo o sujeito em relação à hegemonia do neoliberalismo'.

    Ver todos os posts

Doe hoje

Seu apoio financeiro ao Instituto Brownstone vai para apoiar escritores, advogados, cientistas, economistas e outras pessoas de coragem que foram expurgadas e deslocadas profissionalmente durante a turbulência de nossos tempos. Você pode ajudar a divulgar a verdade por meio de seu trabalho contínuo.

Assine Brownstone para mais notícias

Mantenha-se informado com o Instituto Brownstone