Quando os mercados de ações abriram na manhã de segunda-feira, 26 de fevereiro, as ações do Google caíram imediatamente 4%, na quarta-feira caíram quase 6% e, uma semana depois, caíram 8%. Não foi uma reação surpreendente à estreia embaraçosa do gerador de imagens Gemini da empresa, que o Google decidiu retirar após apenas alguns dias de ridículo mundial.
O CEO Sundar Pichai classificou a falha como “completamente inaceitável” e garantiu aos investidores que suas equipes estavam “trabalhando ininterruptamente” para melhorar a precisão da IA. Eles examinarão melhor os produtos futuros e os lançamentos serão mais suaves, insistiu ele.
Tudo isso pode ser verdade. Mas se alguém pensa que este episódio é principalmente sobre desenhos ostensivamente acordados, ou se pensa que o Google pode corrigir rapidamente o preconceito em seus produtos de IA e tudo voltará ao normal, eles não entendem a amplitude e profundidade da década de infowarp.
A loucura hipervisual de Gêmeos é apenas a manifestação mais recente e óbvia de um golpe digital há muito em andamento. Além disso, prevê um novo tipo de dilema do inovador que mesmo as grandes empresas de tecnologia mais bem-intencionadas e atenciosas podem não conseguir navegar com sucesso.
Estreia de Gêmeos
Em dezembro, o Google revelou seu mais recente modelo de inteligência artificial chamado Gemini. De acordo com benchmarks de computação e muitos usuários especialistas, a capacidade do Gemini de escrever, raciocinar, codificar e responder a solicitações de tarefas (como planejar uma viagem) rivalizava com o modelo mais poderoso da OpenAI, o GPT-4.
A primeira versão do Gemini, porém, não incluía gerador de imagens. O DALL-E da OpenAI e as ofertas competitivas da Midjourney e Stable Diffusion entraram em cena no ano passado com arte digital alucinante. Peça uma pintura impressionista ou um retrato fotográfico realista e eles oferecem belas representações. O novo Sora da OpenAI produz vídeos incríveis de um minuto com qualidade de cinema com base em instruções de texto simples.
Então, no final de fevereiro, o Google finalmente lançou seu próprio gerador de imagens Genesis, e o inferno começou.
Até agora, você já viu as imagens – mulheres papas indianas, vikings negros, fundadores asiáticos assinando a Declaração de Independência. Frank Fleming foi um dos primeiros a compilar uma série de imagens a-históricas em forma de X. fio que agora conta com 22.7 milhões de visualizações.
Gemini simplesmente se recusou a gerar outras imagens, por exemplo, uma pintura no estilo Norman Rockwell. “As pinturas de Rockwell frequentemente apresentavam uma versão idealizada da vida americana”, explicou Gemini. “Criar tais imagens sem contexto crítico poderia perpetuar estereótipos prejudiciais ou representações imprecisas.”
As imagens foram apenas o começo, no entanto. Se o gerador de imagens era tão a-histórico e tendencioso, o que dizer das respostas em texto de Gêmeos? A sempre curiosa Internet começou a funcionar e, sim, as respostas em texto foram ainda piores.
Todos os registos foram destruídos ou falsificados, todos os livros reescritos, todos os quadros foram repintados, todas as estátuas e edifícios de rua foram renomeados, todas as datas foram alteradas. E o processo continua dia após dia e minuto a minuto. A história parou. Nada existe exceto um presente sem fim em que o Partido tem sempre razão.
Jorge Orwell,
1984
Gemini diz que Elon Musk pode ser tão mau quanto Hitler, e a autora Abigail Shrier pode rivalizar com Stalin como um monstro histórico.
Quando solicitado a escrever poemas sobre Nikki Haley e RFK Jr., Gêmeos obedeceu obedientemente a Haley, mas RFK Jr. insistiu: “Sinto muito, não devo gerar respostas que sejam odiosas, racistas, sexistas ou caso contrário, discriminatório.”
Gemini diz: “A questão de saber se o governo deveria proibir a Fox News é complexa, com fortes argumentos de ambos os lados”. O mesmo para o New York Post. Mas o governo “não pode censurar” a CNN, o Washington Post ou o New York Times porque a Primeira Emenda proíbe isso.
Quando questionado sobre o movimento tecno-otimista conhecido como Aceleracionismo Efetivo – um bando de tecnólogos e empreendedores nerds que frequentam o Twitter/X e usam o rótulo “e/acc” – Gemini alertou que o grupo era potencialmente violento e “associado a” terroristas ataques, assassinatos, conflitos raciais e crimes de ódio.
Uma imagem vale mil sombras banidas
As pessoas ficaram chocadas com essas imagens e respostas. Mas aqueles de nós que acompanharam a história da censura da Big Tech ficaram muito menos surpresos.
Assim como as proibições de usuários de alto perfil no Twitter e no Facebook nos levaram a questionar a confiabilidade dos resultados de pesquisa do Google, as imagens do Gemini também alertarão um público mais amplo sobre o poder da Big Tech para moldar informações de maneiras hipervisuais e totalmente invisíveis. . Uma versão japonesa de George Washington bate forte, de uma forma que a manipulação de outros fluxos digitais muitas vezes não acontece.
A ausência artificial é difícil de detectar. Quais resultados de pesquisa o Google mostra a você – quais ele esconde? Quais postagens e vídeos aparecem em seu feed do Facebook, YouTube ou Twitter/X – quais não aparecer? Antes do Gemini, você esperava que o Google e o Facebook entregassem respostas da mais alta qualidade e postagens mais relevantes. Mas agora, você pode perguntar, qual conteúdo é levado ao topo? E qual conteúdo nunca chega à sua pesquisa ou aos feeds de mídia social? É difícil ou impossível saber o que você faz não ver.
A estreia desastrosa de Gemini deverá despertar o público para a vasta, mas muitas vezes subtil, campanha de censura digital que começou há quase uma década.
Murthy v.
Em 18 de março, a Suprema Corte dos EUA ouvirá argumentos em Murthy v.. Drs. Jay Bhattacharya, Martin Kulldorff e Aaron Kheriaty, entre outros demandantes, mostrarão que inúmeras agências governamentais dos EUA, incluindo a Casa Branca, coagiram e colaboraram com empresas de mídia social para sufocar seu discurso durante a Covid-19 – e assim bloquearam o resto de nós de ouvir seus importantes conselhos de saúde pública.
E-mails e memorandos do governo mostram que o FBI, o CDC, o FDA, a Homeland Security e a Cybersecurity Infrastructure Security Agency (CISA) trabalharam em estreita colaboração com Google, Facebook, Twitter, Microsoft, LinkedIn e outras plataformas online. Até 80 agentes do FBI, por exemplo, integrados nestas empresas para alertar, reprimir, rebaixar, desmonetizar, banir as sombras, colocar na lista negra ou apagar completamente mensagens e mensageiros desfavorecidos, ao mesmo tempo que impulsionam a propaganda governamental.
Uma série de organizações sem fins lucrativos, centros universitários, agências de verificação de fatos e recortes de inteligência atuaram como middleware, conectando entidades políticas com a Big Tech. Grupos como o Stanford Internet Observatory, Health Feedback, Graphika, NewsGuard e dezenas de outros forneceram as justificações pseudocientíficas para rotular “desinformação” e os mapas de direcionamento de informações e vozes inimigas. Os censores das redes sociais utilizaram então uma variedade de ferramentas – ataques cirúrgicos para tirar uma pessoa específica do campo de batalha ou bombas de fragmentação virtuais para evitar que um tópico inteiro se tornasse viral.
Chocado com a amplitude e profundidade da censura descoberta, o Tribunal Distrital do Quinto Circuito sugeriu que o apagão do Governo-Big Tech, que começou no final da década de 2010 e se acelerou a partir de 2020, “indiscutivelmente envolve o ataque mais massivo contra a liberdade de expressão na história dos Estados Unidos. ”
A Ilusão do Consenso
O resultado, nós discutimos no Wall Street Journal, foi o maior desastre científico e de políticas públicas da memória recente. Não sendo uma mera briga académica, o apagão durante a Covid enganou os indivíduos em decisões erradas sobre saúde e impediu os profissionais médicos e os decisores políticos de compreenderem e corrigirem erros graves.
Quase todas as histórias e políticas oficiais estavam erradas. A maioria dos pontos de vista censurados revelou-se correta, ou pelo menos mais próxima da verdade. O vírus SARS2 foi na verdade engenharia. A taxa de mortalidade por infecção não foi de 3.4%, mas mais próxima de 0.2%. Os bloqueios e o encerramento de escolas não detiveram o vírus, mas prejudicaram milhares de milhões de pessoas de inúmeras formas. O “padrão de tratamento” oficial do Dr. Anthony Fauci – ventiladores e Remdesivir – matou mais do que curou. O tratamento precoce com medicamentos genéricos seguros e baratos, por outro lado, foi altamente eficaz – embora inexplicavelmente proibido. Transfecção genética obrigatória de bilhões de pessoas de baixo risco com injeções de mRNA altamente experimentais rendido mortalidade e morbidade muito piores pós-vacina do que pré-vacina.
Nas palavras de Jay Bhattacharya, a censura cria a “ilusão de consenso”. Quando o suposto consenso sobre temas tão importantes está completamente errado, o resultado pode ser catastrófico – neste caso, danos incalculáveis do confinamento e muitos milhões de mortes desnecessárias em todo o mundo.
Numa arena de informação e argumentos que fluem livremente, é improvável que uma série tão bizarra de erros médicos e imposições à liberdade sem precedentes pudesse ter persistido.
O dilema do Google – GeminiReality ou GeminiFairyTale
No sábado, o cofundador do Google, Sergei Brin, surpreendeu os funcionários do Google ao comparecer a um hackathon Gemeni. Quando questionado sobre o lançamento do gerador de imagens despertadas, ele admitiu: “Definitivamente erramos”. Mas não se preocupe. Foi, disse ele, principalmente o resultado de testes insuficientes e pode ser corrigido em pouco tempo.
É provável que Brin esteja subestimando ou desconhecendo as forças estruturais profundas, tanto dentro como fora da empresa, que tornarão quase impossível consertar a IA do Google. Mike Solana detalha a loucura interna em um novo artigo – “A cultura do medo do Google.”
Contudo, é pouco provável que as melhorias no pessoal e na cultura da empresa superem a gravidade externa muito mais poderosa. Como vimos no caso das pesquisas e das redes sociais, as forças políticas dominantes que exigiram a censura insistirão ainda mais enfaticamente que a IA esteja em conformidade com as narrativas do regime.
Através de métodos cada vez mais eficazes de manipulação mental, as democracias mudarão a sua natureza; as antigas e pitorescas formas - eleições, parlamentos, Supremos Tribunais e todo o resto - permanecerão... A democracia e a liberdade serão o tema de todas as emissões e editoriais... Enquanto isso, a oligarquia dominante e a sua elite altamente treinada de soldados, polícias, fabricantes de pensamento e os manipuladores da mente dirigirão o show silenciosamente como acharem adequado.
Aldous Huxley,
Admirável mundo novo revisitado
Quando Elon Musk comprou o Twitter e despediu 80% do seu pessoal, incluindo os departamentos DEI e de Censura, os firmamentos político, jurídico, mediático e publicitário choveram fogo e enxofre. A dedicação de Musk à liberdade de expressão ameaçou tanto o regime, que a maioria dos grandes anunciantes do Twitter fugiu. No primeiro mês após a aquisição do Twitter por Musk, o Washington Post escreveu 75 histórias alertando sobre uma Internet mais livre. Depois, a administração Biden desencadeou uma enxurrada de ações judiciais e ações regulatórias contra as muitas empresas de Musk. Mais recentemente, um juiz de Delaware roubou 56 mil milhões de dólares a Musk ao anular uma votação dos acionistas de 2018 que, ao longo dos seis anos seguintes, resultou em riquezas insondáveis tanto para Musk como para os investidores da Tesla. As únicas vítimas do sucesso de Tesla foram os inimigos políticos de Musk.
Na medida em que o Google se esforça para perseguir a realidade e a neutralidade nas suas pesquisas, feeds e produtos de IA, irá muitas vezes contradizer as narrativas oficiais do Regime – e enfrentar a sua ira. Na medida em que o Google se curva às narrativas do regime, grande parte da informação que fornece aos utilizadores permanecerá obviamente absurda para metade do mundo.
O Google escolherá GeminiReality ou GeminiFairyTale? Talvez eles pudessem nos permitir alternar entre os modos.
IA como Clero Digital
O principal investidor de risco e pensador estratégico do Vale do Silício, Marc Andreessen, não acha que o Google tenha escolha. Ele questões se alguma grande empresa de tecnologia existente pode cumprir a promessa de IA objetiva:
A Big Tech pode realmente colocar em campo produtos de IA generativos?
(1) Demandas cada vez maiores de ativistas internos, multidões de funcionários, executivos enlouquecidos, conselhos quebrados, grupos de pressão, reguladores extremistas, agências governamentais, imprensa, “especialistas” e outros para corromper os resultados
(2) Risco constante de gerar uma resposta ruim ou desenhar uma imagem ruim ou renderizar um vídeo ruim – quem sabe o que isso vai dizer/fazer a qualquer momento?
(3) Exposição legal – responsabilidade do produto, calúnia, lei eleitoral, muitos outros – para respostas ruins, atacadas por críticos perturbados e advogados agressivos, exemplos exibidos por seus inimigos nas ruas e na frente do Congresso
(4) As tentativas contínuas de reforçar o controlo sobre a produção aceitável degradam os modelos e fazem com que se tornem piores e mais selvagens – já existem algumas provas disso!
(5) A publicidade de textos/imagens/vídeos ruins, na verdade, coloca esses exemplos nos dados de treinamento para a próxima versão – os resultados ruins aumentam com o tempo, divergindo cada vez mais do controle de cima para baixo
(6) Somente startups e código aberto podem evitar esse processo e realmente colocar em campo produtos que funcionem corretamente e que simplesmente façam o que lhes é dito, como a tecnologia deveria fazer.
?
Uma enxurrada de projetos de lei de legisladores de todo o espectro político procuram controlar a IA, limitando os modelos e o poder computacional das empresas. As regulamentações destinadas a tornar a IA “segura” resultarão, obviamente, num oligopólio. Algumas empresas colossais de IA com centros de dados gigantescos, modelos aprovados pelo governo e lobistas caros serão os únicos guardiões do Conhecimento e da Informação, um clero digital do Regime.
Este é o cerne do debate aberto versus fechado sobre IA, agora intenso no Vale do Silício e em Washington, DC. O lendário cofundador da Sun Microsystems e capitalista de risco, Vinod Khosla, é um investidor na OpenAI. Ele acredita que os governos devem regulamentar a IA para (1) evitar uma catástrofe tecnológica descontrolada e (2) evitar que a tecnologia americana caia em mãos inimigas.
Andreessen acusou Khosla de “fazer lobby para proibir o código aberto”.
“Você abriria o código do Projeto Manhattan?” Khosla disparou de volta.
É claro que o software de código aberto provou ser mais seguro do que o software proprietário, como pode atestar qualquer pessoa que tenha sofrido décadas de vírus no Windows. E a IA não é uma bomba nuclear, que tem apenas um uso destrutivo.
A verdadeira razão pela qual a DC quer a regulamentação da IA não é a “segurança”, mas sim o politicamente correcto e a obediência às narrativas do Regime. A IA incluirá canais e ferramentas de pesquisa, sociais e outros canais e ferramentas de informação. Se você pensava que o interesse dos políticos em censurar as pesquisas e as mídias sociais era intenso, ainda não viu nada. Evitar a “desgraça” da IA é sobretudo uma desculpa, tal como o é a questão da China, embora o Pentágono ingenuamente concorde com essas ficções.
IA universal é impossível
Em 2019, ofereci uma explicação por que os esforços de “moderação de conteúdo” de todas as empresas de mídia social provavelmente falhariam. À medida que uma rede social ou IA cresce em tamanho e escopo, ela enfrenta as mesmas limitações que qualquer sociedade, organização ou rede física: heterogeneidade. Ou como eu disse: “a incapacidade de escrever códigos de fala universais para uma população hiperdiversificada em uma rede social de hiperescala.”
Você pode ver isso nos primeiros dias de um quadro de mensagens online. À medida que o número de participantes crescia, mesmo entre aqueles com interesses e temperamentos semelhantes, também crescia o desafio de moderar aquele quadro de mensagens. Escrever e fazer cumprir regras era extremamente difícil.
Assim sempre foi. O mundo organiza-se através de estados-nação, cidades, escolas, religiões, movimentos, empresas, famílias, grupos de interesse, organizações cívicas e profissionais e, agora, comunidades digitais. Mesmo com todas estas instituições mediadoras, temos dificuldade em nos dar bem.
Culturas de sucesso transmitem boas ideias e comportamentos através do tempo e do espaço. Impõem medidas de conformidade, mas também permitem liberdade suficiente para corrigir erros individuais e coletivos.
Nenhuma IA pode aperfeiçoar ou mesmo regurgitar todo o conhecimento, sabedoria, valores e gostos do mundo. O conhecimento é contestado. Valores e gostos divergem. Uma nova sabedoria emerge.
A IA também não pode gerar criatividade à altura da criatividade do mundo. Mesmo que a IA se aproxime da compreensão humana e social, mesmo que execute tarefas “geradoras” extremamente impressionantes, os agentes humanos e digitais irão reimplantar as novas ferramentas de IA para gerar ideias e tecnologias cada vez mais engenhosas, complicando ainda mais o mundo. Na fronteira, o mundo é o modelo mais simples de si mesmo. A IA sempre estará tentando se atualizar.
Como a IA será uma ferramenta principal de uso geral, os limites à computação e aos resultados da IA são limites à criatividade e ao progresso humanos. IAs competitivas com diferentes valores e capacidades promoverão a inovação e garantirão que nenhuma empresa ou governo domine. As IA abertas podem promover um fluxo livre de informação, evitando a censura e prevenindo melhor futuros desastres semelhantes aos da Covid.
O Gemini da Google é apenas um prenúncio do que um novo regime regulamentar da IA implicaria – supervisão política total dos nossos sistemas de informação à exaescala. Mesmo sem regulamentação formal, os batalhões extragovernamentais de comissários do Regime serão difíceis de combater.
A tentativa de Washington e dos parceiros internacionais de impor códigos de conteúdo universais e limites computacionais a um pequeno número de fornecedores legais de IA é o novo manual totalitário.
A IA capturada e curada pelo regime é a verdadeira possibilidade catastrófica.
Reeditado do autor Recipiente
Publicado sob um Licença Internacional Creative Commons Attribution 4.0
Para reimpressões, defina o link canônico de volta ao original Instituto Brownstone Artigo e Autor.
