Alertas apocalípticos sobre IA desviam a atenção de preocupações mais iminentes relacionadas à IA.

A inteligência artificial está em toda parte. Está sendo incorporada a tudo. Isso é simplesmente progresso, nos dizem. E, portanto, precisamos abraçá-la, para não parecermos luditas e deixarmos a China vencer (seja lá o que isso signifique). No entanto, simultaneamente, muitas pessoas também têm medo da IA. Muito medo. E, às vezes, nos dizem que também deveríamos ter medo. Contudo, no discurso público sobre IA, muitas vezes faltam detalhes sobre o que especificamente devemos temer. Às vezes, nem mesmo fica claro o que se entende pelo termo "IA".

Tecnicamente falando, como eu tenho tocado em Anteriormente, podia-se argumentar (como fazem alguns cientistas da computação mais experientes) que IA é um termo genérico para uma família de algoritmos baseados em matemática que, por vezes, remontam a mais de meio século. 

Na prática, diversos programas com os quais convivemos há anos, como o Google Maps e o sistema de recomendação da Amazon, podem ser considerados IA, apesar de não serem novidade. No entanto, no discurso público, o termo IA tende a se referir à IA generativa (por exemplo, ChatGPT), bem como a inúmeros programas hipotéticos futuros que farão tudo o que os humanos fazem, só que melhor, e que, portanto, resolverão todos os nossos problemas, ao mesmo tempo que deixarão a maioria de nós desempregados, e que, eventualmente, poderão se transformar em uma Skynet, a menos que decidam que não valemos o esforço.

(Parece bem sexy. Talvez alguém devesse fazer uma série de filmes sobre isso. Talvez as pessoas até gostem de dois dos cinco.)

Infelizmente, porém, essas representações mais hiperbólicas e de ficção científica das ameaças representadas pela IA tendem a receber mais atenção do que, e consequentemente a desviar a atenção de, ameaças mais realistas e iminentes relacionadas à privacidade, liberdade, autonomia e até mesmo ao estilo de vida que muitos de nós passamos a apreciar. Automático licença chapa leitores, reconhecimento facial, avós digitais, direção sob efeito de álcool e distraída obrigatória programas de detecção, qualquer uma das tecnologias sobre as quais o “neto” estava falando em “Robô de entrega autônomo, "E dispositivos de gravação vestíveis Transcrever e processar conversas presenciais para pessoas antissociais e facilmente distraídas é apenas um exemplo das ameaças mais realistas que me vêm à mente. (E esta lista está longe de ser completa).

Portanto, costumo apreciar quando membros da nossa classe dominante podem dedicar uma manhã para ter uma conversa ponderada sobre as ameaças bem definidas representadas por essa tecnologia (ou conjunto de tecnologias), como aconteceu na reunião de 4 de junho do Subcomitê de Segurança Cibernética e Proteção de Infraestrutura da Câmara dos Representantes dos EUA. reunião sobre o “Panorama da Segurança da IA”.  

Superficialmente, a discussão da reunião poderia ser enquadrada em termos de: "A maior ameaça representada pela IA é externa, na forma de hackers estrangeiros que buscam explorar vulnerabilidades no software que controla a infraestrutura crítica dos Estados Unidos, ou é interna, decorrente da falta de regulamentação e responsabilização pelo uso da IA ​​no país?"

Ao observar a discussão, porém, pareceu menos uma questão de "ou um ou outro" e mais uma resposta incontestável de "Sim, e...".

Sandra Joyce, do Google, Chris Meserole, diretor executivo do Frontier Model Forum, e Jack Cable, CEO e cofundador da Corridor Security Inc., prestaram depoimento sobre como a IA está transformando o cenário da segurança cibernética, à medida que as armas digitais caem nas mãos dos cibercriminosos que as usarão para encontrar vulnerabilidades em nossa infraestrutura crítica e/ou lançar ataques de ransomware.

“Essa tecnologia impactou a segurança cibernética de maneiras profundas, tanto para o defensor quanto para o atacante”, afirmou Joyce.

“Os hackers têm ferramentas mais poderosas do que nunca”, observou Cable, citando especificamente o Mythos e o GPT-5.5.

“Esses modelos não são apenas propaganda”, alertou ele. “Eles estão realmente começando a rivalizar ou superar os humanos em tarefas de segurança e o fazem em uma escala sem precedentes.”

Joyce sugeriu que os "agentes de ameaça" nem precisam de algo como o Mythos e podem ser bastante capazes de causar muitos danos com um programa mais antigo.

Enfatizando as ameaças internas, Matthew Guariglia, analista sênior de políticas da Electronic Frontier Foundation, afirmou: "A questão não é como controlar a IA, mas sim como controlar as agências que querem liberar a IA sobre o público americano?"

Em seu depoimento, Guariglia destacou como o aparato de segurança nacional dos EUA já utiliza uma variedade de ferramentas que coletam dados sobre pessoas sem justa causa e que podem fazer “inferências sobre a política, a vida pessoal, a religião e a geolocalização de uma pessoa, às vezes de forma imprecisa e com consequências graves”. 

Além disso, Guariglia afirmou: "A IA também tem um histórico de erros, desde citações falsas em documentos jurídicos até um grande erro de IA que enviou recrutas do DHS para o campo sem o treinamento adequado." 

“Provavelmente existem exemplos mais relevantes que nem sequer conhecemos devido à classificação que impediria uma contabilização mais completa”, acrescentou.

Da mesma forma, a deputada Delia Ramirez (D-IL) observou: "Estamos vendo sistemas de monitoramento baseados em IA se espalharem para escolas, conjuntos habitacionais populares e hospitais, sem transparência sobre como funcionam, sem possibilidade de contestação e sem recurso quando estão errados."

Em uma troca de mensagens posterior sobre um possível cenário em que um programa de IA classifica o abastecimento de água de uma cidade como comprometido quando, na verdade, está em boas condições, e subsequentemente restringe o acesso à água para os moradores da cidade, Guariglia e Ramirez sugeriram que, dentro dos limites da legislação americana vigente, a transparência sobre como o problema ocorreu provavelmente ficaria a critério da cidade que implementa o sistema, enquanto a questão de quem pode ser responsabilizado é bastante nebulosa.

Apesar de não ser tão empolgante quanto lutar contra T-800s nas ruas pela nossa vida e pelo nosso sustento, mais ataques de ransomware, uma erosão ainda maior da nossa privacidade e a falta de transparência e responsabilidade quando o HAL comete um erro e corta o abastecimento de água de todos parecem coisas bem sérias, mesmo que não justifiquem histeria coletiva ou uma franquia de filmes. Talvez sejam até suficientes para justificar preocupações razoáveis ​​sobre a situação atual. Zeitgeist Incorporar a IA em tudo. E talvez, só talvez, isso nos dê motivos para repensar nossa decisão de conectar tudo na vida moderna à internet.