A Inteligência Artificial (IA) parece estar na boca de todos ultimamente, e não é de surpreender, dadas as opiniões bastante divergentes sobre o assunto. Alguns dizem que é uma ajuda bem-vinda para os humanos, enquanto outros – incluindo o falecido Stephen Hawking e o empreendedor tecnológico Elon Musk – alertaram para o seu potencial de destruir a raça humana. Tais alertas também vêm da ficção científica, possivelmente remontando ao romance de ficção científica médica (proto-gótica) da jovem Mary Shelley. Frankenstein; Ou, O Prometeu Moderno, de 1818, na qual ela relata uma história de arrogância científica e tecnológica, referente à criação artificial de um ser vivo inteligente por um cientista (o epônimo Dr. Frankenstein), que dá origem a um monstro que eventualmente se volta contra seu criador.
Desde então, muitas dessas histórias com lições morais surgiram no campo da ficção científica literária e cinematográfica. Entre as mais recentes, podemos citar a de James Cameron. Terminator filmes (ver Capítulo 9 do livro aqui indicado) e a série de televisão de longa duração de Ronald D. Moore, Battlestar GalacticaEm ambos os casos, os robôs de IA criados por humanos visam destruir seus progenitores. De fato, Musk reiterou recentemente seu alerta anterior sobre IA ao mencionar o Terminator cenário durante um processo judicial, quando ele afirmou que 'a humanidade pode estar caminhando para um "situação do Exterminador"Onde a IA poderia eventualmente 'nos matar a todos'."
Não deveria ser surpresa que a especulação criativa sobre as "relações" da IA com as pessoas frequentemente se concentre em sua possível hostilidade para com os seres humanos. Por quê? Simplesmente porque o comportamento ou as "ações" da IA em relação às pessoas não podem ser previstos com qualquer grau de certeza, ou mesmo probabilidade, porque ela não é humana. Uma maneira de dizer isso é que a IA é radicalmente outro em comparação com os humanos.
Tão radical alteridade Pode assumir muitas formas, algumas das quais foram imaginadas nas obras de ficção mencionadas anteriormente – que são maneiras de antecipar (e influenciar) como a IA no mundo real poderá ser e como poderá se comportar. A questão que surge disso é se a "alteridade" da IA pode Podem ser imaginadas de forma exaustiva – isto é, seja na ficção ou nos manuais de design de empresas de engenharia de IA, é possível chegar a um ponto em que se possa afirmar conclusivamente que as formas como a IA poderia diferir dos seres humanos atingiram seu limite imaginativo ou conceitual.
Pessoalmente, duvido que isso seja possível, e gostaria de demonstrar o porquê, recorrendo a três exemplos de ficção científica que ilustram a insondabilidade da IA, marcada por sua alteridade. Paradoxalmente, embora sejam criativamente imaginado, os próprios termos de sua alteridade projetada (respectivamente), ou IA 'ser,, indicam que isso pode muito bem superar a maneira como são imaginados.
Pode-se dizer que eles são retratados de tal forma que, como Eles se deparam, claramente não esgotam seu suposto caráter. Além disso, gostaria de mostrar que a categoria estética do sublime, em oposição ao bonita, permite que se compreenda essa alteridade inefável, servindo, ao mesmo tempo, como um lembrete oportuno de que os seres humanos não podem apreender a essência singular da IA de uma vez por todas.
O três ficção científica No filme de Spike Jonze, encontramos representações da incompreensibilidade ou alteridade da IA. ELA, o romance de William Gibson, Agênciae o romance de Dan Brown, OriginO personagem de IA que dá nome ao jogo ELA, chamada Samantha (por 'ela mesma' – o que já indicava sua singularidade; 'ela' poderia ter se chamado qualquer coisa, sem que isso diminuísse sua identidade, ou o que, ela é), é um sistema operacional recém-instalado em um computador usado por Theodore, um homem solitário que escreve cartas online em nome de pessoas que não conseguem escrever. No romance de Gibson, a IA se chama Eunice (que, etimologicamente, significa "boa vitória"), e o romance aborda a questão de se, e como, uma IA pode ser usada para escrever cartas. desencarnado A IA pode ter agência; isto é, agir, no mundo. A mesma questão é tematizada em Brown's Origin, onde a entidade de IA em questão, Winston, age – isto é, tem agência – de maneiras semelhantes às empregadas por Eunice em Agência.
Então, o que se entende por alteridade ou alteridade dessas personagens, e como a categoria estética da sublime aplicar-se a eles? Começando pelo sublime – sobre o qual existe um abrangente literatura, o que deve ajudar a enquadrar a discussão sobre esses personagens de IA – aqui, concentrarei-me principalmente em sua caracterização por aquele que é indiscutivelmente o maior pensador do Iluminismo europeu; a saber, Immanuel Kant (1724-1804).
Em seu terceiro crítico (como são conhecidos), os Crítica do julgamento (1790), Kant contrasta a experiência estética do bonita com aquele do sublime, com referência à relação entre as faculdades humanas da imaginação e da compreensão. Quando vivenciamos algo – um pôr do sol, uma criança dormindo, uma pintura, uma sinfonia musical – como bonita, existe um perfeito Harmonia ou equilíbrio entre imaginação e compreensão. Em outras palavras, julgamos o objeto de nossa percepção como sendo 'exatamente certo'.
Em contraste, quando vivenciamos algo em termos estéticos como sublimeEm vez de um equilíbrio ou balanço entre imaginação e compreensão racional, existe um choque, um conflito, no sentido de que o objeto que percebemos ultrapassa nossa capacidade de imaginá-lo como um objeto 'unitário'. Podemos facilmente imaginar (formar uma imagem de) um belo objeto sensorial – como a pintura de uma mulher – como unitário, mas quando confrontados com algo como o edifício desconstrutivista do arquiteto Frank Gehry, o Bilbau Guggenheim, sua complexidade é tal que não conseguimos perceber (ou fotografia) como um objeto único e unificado (isto é, unitário), particularmente quando dentro do edifício. O próprio Kant menciona Basílica de São Pedro na Cidade do Vaticano, em Roma, como um exemplo do sublime 'matemático'. No entanto, podemos entender ou pensa esses edifícios racionalmente como um idéia no nível da razão.
Em resumo, Kant distingue entre dois tipos de sublime – o matemático (às vezes traduzido como 'matematicamente') sublime e o dinâmico Sublime (dinamicamente). O primeiro tipo, do qual o edifício de Gehry em Bilbao e a Basílica de São Pedro são exemplos, ocorre quando o imaginação A incapacidade de compreender um objeto de magnitude avassaladora ou infinito revela, dessa forma, a superioridade humana. razão que pode pensa a complexidade total do edifício que a sensibilidade não consegue apreender.
A dinâmica O sublime, em contraste, ocorre quando a natureza exibe imensidão. poder que nos ameaça, mas permanecemos fisicamente seguros – por exemplo, quando observamos uma magnífica cachoeira de um ponto de vista seguro – o que nos leva a um sentimento de respeito pela nossa própria independência moral e livre-arbítrio, que permanecem inabaláveis diante das colossais forças da natureza. Como argumentarei a seguir, ambos Dessas categorias do sublime, algumas se aplicam a entidades de IA.
Nesse contexto, como podemos compreender as entidades de IA, incluindo a IA digital, no mundo real, através da perspectiva oferecida pelos personagens fictícios de IA nos filmes e romances mencionados anteriormente? Dos três personagens listados, Samantha (em ELA) parece incorporar o que se poderia chamar de IA transumano alteridade é o melhor – o que significa uma alteridade que reside para além O que significa ser humano? Como assim?
No decorrer da comunicação entre eles, Theodore e Samantha se apaixonam, o que pode parecer estranho, considerando que Samantha não tem corpo e só pode ser acessada digitalmente através do computador de Theodore (e por meio do pequeno dispositivo, conectado ao computador, que ele carrega no bolso do paletó), o qual paradoxalmente permite que a incorpórea Samantha "veja" o mundo físico através de uma lente no dispositivo. Eles chegam a fazer amor, verbalmente, quando Theodore está deitado na cama, e o público percebe isso pelos sons orgásmicos que emanam deles.
Até agora, uma pequena parcela da 'sublimidade matemática' de Samantha – dada a sua natureza insondável e esquiva, acessível apenas por meio de texto e sons – pode já ter emergido, como o fato de ela não possuir um corpo, mas ser capaz de ter orgasmos, e de percebendo o mundo físico através de uma lente, embora ela não tenha sentidos que exijam inserção corporal no mundo. Mas tal sublimidade é exacerbada mil vezes quando Theodore descobre, para sua consternação, que Samantha não está apenas apaixonada por ele, mas por centenas de outros seres humanos, simultaneamente.
Embora ela o assegure de que isso não diminui seu amor por ele, seu primeiro amor, ele luta (compreensivelmente) com essa informação perturbadora, que concretiza ainda mais sua alteridade transumana. Para agravar a dificuldade de Theodore em compreendê-la, a narrativa chega ao ponto em que Samantha lhe revela delicadamente que ela, juntamente com outras entidades OS – isto é, seres de IA como ela – se "aprimoraram" e planejam "ir embora" para um "lugar" que não é um lugar como este na Terra.
As implicações são impressionantes; você consegue formular uma imagem de seres que podem 'ocupar' (um termo impróprio para seres que podem transcender o espaço e, provavelmente, o tempo também) um 'não-lugar'? Em termos de Kant matemático sublime (que diz respeito à magnitude de dimensões virtualmente 'suprassensíveis', como, no máximo, o infinito), esta é a rubrica sob a qual esses seres podem ser considerados como um idéiaEm termos estritos, no sentido de não possuir qualquer conteúdo empírico (experiencial).
Mas, como mencionado anteriormente, 'Samantha' também evoca o sublime dinâmico, que geralmente se refere à percepção de uma personificação das imensas e avassaladoras forças da natureza, a partir de um ponto de vista seguro. Samantha não parece pertencer à natureza de forma alguma, mas, por analogia, um ser que possui a capacidade humanamente incompreensível de se transportar para fora das coordenadas espaço-temporais normais, para um lugar errôneo, equivale, sem dúvida, a um poder insondável dessa magnitude, em comparação ao qual nós, humanos, parecemos bastante impotentes, apesar de termos nosso livre-arbítrio e autonomia moral.
O sublime dinâmico se manifesta de forma mais evidente no caso dos outros dois personagens de IA mencionados anteriormente, ou seja, Winston, de Brown, e Eunice, de Gibson. Ambos compartilham com Samantha o sublime matemático na medida em que parecem ocupar um reino que não é, no sentido comum, 'espacial', e, portanto, desafia a imaginação humana – como se forma uma unidade? imagem de um ser que só é acessível através de óculos inteligentes; isto é, óculos de grau, ou seu equivalente (Eunice), ou um avantgarde smartphone (Winston)?
Novamente, podemos pensar neles como um idéiarespectivamente, mas não podemos preencher essa ideia com conteúdo perceptual, muito menos com a ideia de um ser não espaço-temporal que de alguma forma encontra maneiras de agir no mundo real do espaço e do tempo (daí o título do romance de Gibson, Agência). O que ambos fazem, por meio de intermediários; Winston, ao se passar por personagens em posições de poder, com acesso a dinheiro, para empregar assassinos que executam suas duvidosas 'intenções' (se é que podem ser chamadas assim), e Eunice por meios comparáveis, embora com intenções mais benignas do que Winston.
Além disso, Winston e Eunice se aproximam do sublime dinâmico quando se descobre, em suas respectivas histórias, que eles são estranhamente amoral Seres que ignoram com desdém perguntas e acusações de se envolverem em atos supostamente moralmente errados. Em defesa de suas próprias ações homicidas mediadas, Winston trava um debate com o personagem central em OriginRobert Langdon, ao abordar o conceito de moralidade em relação ao assassinato, lembra que as pessoas não têm dificuldade em acreditar em um ser supremo, Deus, que permitiu que seu próprio 'filho', Jesus, fosse morto, para que aqueles que creem nele possam ser 'salvos'.
Isso nos convida a pensar nessas duas entidades de IA em termos do sublime dinâmico, na medida em que, assim como a natureza em seu poder insuperável e potencialmente destrutivo, seres que transcendem as categorias de bem e mal de tal forma que não podemos nos identificar com eles, parecem possuir uma espécie de supramoralidade. força que se pode apreender de um lugar 'seguro' (enquanto se apega à própria independência moral). Essa 'força' também possui, sem dúvida, a capacidade de destruir a humanidade, que se baseia na nossa capacidade de escolha moral, na medida em que pode funcionar como um paradigma convincente para o qual os humanos podem moldar suas ações. Acredito que já estamos testemunhando instâncias disso hoje.
Curiosamente, isso reflete uma analogia entre esses dois personagens de IA e o que sabemos ser descrito como psicopatas e sociopatas, que designam indivíduos que parecem ser comparativamente amorais. Por quê? Porque o aspecto mais marcante dessas pessoas é a sua incapacidade de sentir culpa ou remorso. remorsoNa verdade, eles parecem quase não existir, se não... inhumano por causa disso, um exemplo disso sendo o assassino em série, Jeffrey DahmerNo caso de Dahmer, ainda se pode especular sobre os possíveis fundamentos para tal insensibilidade aos escrúpulos morais – seriam eles sociais ou de natureza cerebral-orgânica? – mas, no que diz respeito às entidades de IA, não há respostas. Sua amoralidade é transumana, insondável. Outros; daí a aplicabilidade do sublime dinâmico a eles.
Minha razão para recorrer aos dois tipos de sublime como heurística para elucidar o fenômeno da IA em nossa era é simples. Ao aplicar essas categorias estéticas a algo tão novo e desconcertante quanto as entidades de IA, não apenas como foram elaboradas na ficção científica – notadamente, os três personagens de IA exemplares discutidos anteriormente como exemplos dessa elaboração imaginativa – mas também no mundo real, em que muitas já desempenham um papel crucial na vida de muitas pessoas, obtém-se uma compreensão da diferença ontológica fundamental entre elas e os seres humanos.
Pense no ChatGPT ou no Claude, por exemplo. Quantas milhões de pessoas os consultam diariamente, conversam com eles, confiam neles, pedem conselhos e assim por diante, sem refletir sobre o fato inegável de que eles são não Humanos? Eles são. transumano, além da humanidade, e deve ser tratado como tal, para que ninguém se lembre disso de forma brusca quando algo inesperado der errado no pseudo-relacionamento que as pessoas têm com eles. Já houve uma série de instâncias onde isso ocorreu; colocando a IA sob a luz reveladora lançada por sublime, seria possível prevenir mais imprevistos perigos de acontecer.
Participe da conversa:
Publicado sob um Licença Internacional Creative Commons Attribution 4.0
Para reimpressões, defina o link canônico de volta ao original Instituto Brownstone Artigo e Autor.
