Seria “Philip Cross” uma IA?

Ao lado do autor de Brownstone Jennifer Sey, recebi menção honrosa em Breathless de Walter Bragman Contexto importante: E-mails vazados do Brownstone Institute revelam apoio ao trabalho infantil e ao fumo de menores. Bragman optou por anexar a hashtag #ArquivosBrownstone numa óbvia referência ao Arquivos do Twitter, mas é um pouco menos impactante. No momento da redação deste artigo, havia um total de dois tweets subsequentes, ambos hostis a Bragman. 

Bragman relatórios que nos e-mails vazados que ele viu, “Blumen contou uma anedota sobre páginas de ativistas antiguerra sendo editadas por um único usuário potencialmente automatizado lentamente ao longo do tempo”. 

Bragman está correto. Mencionei a história de Philip Cross em um e-mail interno na lista de autores de Brownstone. A história é importante, na qual eu não pensava muito desde 2018, quando estourou pela primeira vez. À luz das notícias recentes, esta história parece bem diferente do que era há cinco anos. Vou revisitar essa história neste artigo atual e seguir com algumas análises de como o mundo mudou nos últimos cinco anos. 

A história surgiu em 2018, quando o ex-parlamentar britânico George Galloway, há muito conhecido por seu visões anti-guerra, chamou um misterioso editor da Wikipedia chamado “Philip Cross” por fazer alterações pouco lisonjeiras em sua página da Wikipedia. BBC News coberto A guerra de palavras de Galloway com um misterioso editor da Wikipédia.

O alvo da ira de Galloway é um prolífico editor da Wikipedia que atende pelo nome de “Philip Cross”. Ele tem sido alvo de um grande debate na enciclopédia da internet – um dos sites mais populares do mundo – e também no Twitter. E ele foi acusado de preconceito por interagir, às vezes negativamente, com algumas das pessoas cujas páginas da Wikipédia ele editou.

A conta Philip Cross foi criada exatamente às 18:48 GMT em 26 de outubro de 2004. Desde então, ele fez mais de 130,000 edições em mais de 30,000 páginas (sic). É uma quantia substancial, mas não muito incomum – não são edições suficientes, por exemplo, para colocá-lo entre os 300 principais editores da Wikipédia.

Mas é o que ele edita que tem preocupado políticos e jornalistas anti-guerra. Em suas 10 páginas mais editadas estão o músico de jazz Duke Ellington, o jornal The Sun e o editor do Daily Mail, Paul Dacre. Mas também nesse top 10 estão vários críticos vocais da política externa americana e britânica: o jornalista John Pilger, o líder do Partido Trabalhista Jeremy Corbyn e o diretor de estratégia de Corbyn, Seamus Milne.

Seus críticos também dizem que Philip Cross fez edições favoráveis ​​em páginas sobre figuras públicas que apóiam a intervenção militar ocidental no Oriente Médio. 

...

“Suas edições são impiedosamente direcionadas a pessoas que se opõem à guerra do Iraque, que se opõem às guerras de intervenção subseqüentes… na Líbia e na Síria, e pessoas que criticam Israel”, diz Galloway. 

Mintpress publicado em um excelente resumo de comentários sobre esta questão e cita Ron McKay no Edimburgo Sunday Herald:

Você não precisa ser um teórico da conspiração para ver que há pontos em comum aqui. Todos esses [alvos] são… ativistas proeminentes nas mídias sociais e na grande mídia questionando vigorosamente nossa política externa. 

O ex-embaixador do Reino Unido Craig Murray, também conhecido por suas opiniões anti-guerra e por sua apoio do fundador do Wikileaks, Julian Assange, fez uma observação semelhante: 

[…] o objetivo da operação “Philip Cross” é sistematicamente atacar e minar a reputação daqueles que são proeminentes em desafiar a narrativa dominante da mídia corporativa e estatal, particularmente em assuntos externos. 

Site anti-guerra medialens.org perguntou: 

Outras vozes anti-guerra notáveis tais como Noam Chomsky, Edward S. Herman (co-autor do livro Consentimento de fabricação), E Rania Khalek também estavam sujeitos à implacável campanha de desfiguração de Cross. 

Amb Murray, observou os seguintes fatos surpreendentes: 

O editor não identificado, “conta é responsável por 20.4% de todas as edições” da página de Galloway (que Cross editou mais de 1800 vezes), disse a BBC, que continua a detalhar o conteúdo de edições específicas que foram inteiramente na direção negativa ou desfavorável.

ATUALIZAÇÃO “Philip Cross” não teve um único dia de folga na edição da Wikipedia em quase cinco anos. “Ele” editou todos os dias de 29 de agosto de 2013 a 14 de maio de 2018. Incluindo cinco dias de Natal. São 1,721 dias consecutivos de edição.

Assim, 133,612 edições na Wikipedia foram feitas em nome de “Philip Cross” ao longo de 14 anos. São mais de 30 edições por dia, sete dias por semana. E eu não uso isso figurativamente: as edições da Wikipédia são cronometradas e, se você as traçar, o cartão de tempo para a atividade da Wikipédia de “Philip Cross” é surpreendente se for um indivíduo:

A operação funciona como um relógio, sete dias por semana, a cada hora de vigília, sem variação significativa.

Amb Murray fornecido o seguinte gráfico da produtividade de “Philip Cross” na alteração de páginas da Wikipédia por dia da semana em média ao longo dos 14 anos de atividade: 

Quem é ou foi esse Philip Cross? Após o artigo da BBC mencionado acima, Cross se aposentou de sua carreira de vandalismo classificado # 308 entre os editores mais ativos da Wikipédia de todos os tempos. Dele a antiga conta do Twitter @philipcross63 não existe mais. Ninguém que sabe, conta. galloway pensa que Cross é uma “pessoa real e vulnerável”. 

Amb Murray notas que Galloway a certa altura ofereceu uma recompensa de £ 1,000 pela identidade dessa pessoa ou entidade, "para que ele também possa tomar medidas legais". MediaLens estados que "a BBC Trending conseguiu estabelecer que ele mora na Inglaterra e que Philip Cross não é o nome pelo qual ele normalmente usa fora da Wikipedia." Estados Everipedia.org “Cross é um entusiasta do jazz e do drama.” Suspeito que ele provavelmente também goste de longas caminhadas na praia e de se aconchegar em frente à lareira com uma cópia do New York Times. 

Amb Murray ofertas: 

Existem três opções aqui. “Philip Cross” é uma pessoa muito estranha, de fato, ou é uma pessoa falsa disfarçando uma operação paga para controlar o conteúdo da wikipedia, ou é uma verdadeira pessoa de fachada para tal operação em seu nome.

e

Minha opinião é que Philip Cross provavelmente é uma pessoa real, mas que ele lidera um grupo que atua sob seu nome. É inegavelmente verdade, de fato o governo se gabou, que tanto o MOD quanto o GCHQ têm operações de “ciberguerra” com o objetivo de defender a narrativa “oficial” contra a mídia alternativa, e esse é exatamente o objetivo do “Philip Cross” operação na Wikipédia. A extrema regularidade da produção argumenta contra “Philip Cross” ser um homem ou uma operação voluntária. Não descarto, no entanto, a possibilidade de que ele realmente seja apenas um fanático de direita extremamente obcecado.

Um editor da Wikipédia em um canal lateral preocupação expressa que a reputação da Wikipedia (tal como é) pode ser quando a luz foi lançada sobre as atividades incomuns de “Philip Cross”. 

A história teve um final feliz? Em agosto de 2018, reportado por Cinco Filtros, “O comitê de arbitragem da Wikipédia (ArbCom) finalmente votou a favor editor de proibição Philip Cross do tópico da 'política britânica pós-1978'.” Mas espere - não tão rápido. “Em um movimento insignificante, no entanto, o comitê de arbitragem da Wikipedia decidiu que também puniria o editor que tentou alertar a comunidade sobre a conduta de Philip Cross.”

Eu sabia da história de Philip Cross quando estourou em 2018. Na época, não tinha uma explicação para isso. Parecia estranhamente estranho para mim e eu não estava pensando em bots ou automação de linguagem natural. 

As recentes revelações inovadoras no Twitter sobre a existência e escala maciça de um complexo censor-industrial organizado (CIC) tornam as suspeitas de censura do setor oficial, talvez em uma iteração anterior há cinco anos, muito mais plausíveis. FiveFilters.org escreveu em 2018, “Quase toda a Wikipedia é escrita por apenas 1% de seus editores”. A mesma peça cita um artigo de Daniel Oberhaus em Vice de 2017 sobre a concentração da edição da Wikipédia:

Mas à medida que a enciclopédia crescia e o número de colaboradores crescia com ela, surgiu um quadro de editores obstinados que foram responsáveis ​​pela maior parte do crescimento da Wikipédia desde então.

Matei e seu colega Brian Britt, professor assistente de jornalismo na South Dakota State University, usaram um algoritmo de aprendizado de máquina para rastrear o quarto de bilhão de logs de edição publicamente disponíveis da primeira década de existência da Wikipedia. Os resultados desta pesquisa, publicados em setembro como um livro, sugere que, apesar de toda a pretensão da Wikipédia de ser um site produzido por uma rede de pares que colaboram livremente, “alguns pares são mais iguais do que outros,”

A peça longa em racket.news cita várias instâncias de atores CIC usando IA e processamento de linguagem natural. O Projeto de Bens Públicos, Por exemplo, 

use IA e processamento de linguagem natural para 'identificar, rastrear e responder a narrativas, tendências e questões urgentes', a fim de 'executar verificação de fatos' e 'estratégias de mudança de comportamento de força'.

Uma história recente sobre a subpilha de Igor Chodov, Chatbots de IA financiados por Bill Gates promoveram vacinas COVID (você pode tê-los encontrado em redes sociais) que cita um artigo da nature.com Eficácia dos chatbots na confiança e aceitação da vacina COVID na Tailândia, Hong Kong e Cingapura fornece mais informações sobre o uso de bots a serviço do controle de narrativas. 

O recente surgimento de grandes modelos de linguagem de alto desempenho torna a ideia de automação mais plausível. Se não em 2018, um LLM agora poderia reescrever facilmente um determinado texto para incliná-lo na direção solicitada. 

Havia modelos que poderiam fazer isso naquela época? As futuras campanhas para controlar as narrativas da Wikipédia dependem dessa tecnologia? Qual é o futuro de uma base de conhecimento de crowdsourcing, como a Wikipedia, que depende do alto custo em tempo humano e interação social de fazer uma edição em um tópico controverso quando a capacidade de automatizar isso o torna quase gratuito?