A ameaça representada pela Inteligência Artificial tem dominado cada vez mais os programas de entrevistas na TV e no rádio nas últimas semanas. Os avisos chegaram às manchetes no final do ano passado, quando o ChatGPT ganhou mais de um milhão de usuários menos de uma semana após seu lançamento. A preocupação naquele momento se concentrava principalmente na capacidade do ChatGPT de imitar respostas humanas, produzindo instantaneamente respostas para perguntas de exames, ensaios universitários e até mesmo notícias – ameaçando tornar os resultados dos exames sem sentido e colocar milhões no desemprego.
A ameaça atingiu o auge no final de maio, quando o Center for AI Safety divulgou um afirmação, assinado por centenas dos principais especialistas internacionais na área, alertando que a inteligência artificial representa um risco existencial para a humanidade no mesmo nível que pandemias e guerras nucleares.
Mitigar o risco de extinção da IA deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear.
De acordo com Michael Osborne, professor de aprendizado de máquina na Universidade de Oxford e cofundador da Mind Foundry, o risco de extinção é a maior preocupação.
“É realmente notável que tantas pessoas tenham assinado esta carta”, disse ele. “Isso mostra que há uma percepção crescente entre aqueles que trabalham com IA de que os riscos existenciais são uma preocupação real”.
“Como não entendemos muito bem a IA, existe a perspectiva de que ela possa desempenhar um papel como uma espécie de novo organismo competitivo no planeta, portanto, uma espécie de espécie invasora que projetamos pode desempenhar um papel devastador em nossa sobrevivência. como espécie”, disse Osborne.
No auge do que agora era o frenesi da IA, o primeiro-ministro do Reino Unido, Rishi Sunak, usou sua viagem a Washington na semana seguinte para promover a Grã-Bretanha como um centro global para a regulamentação da IA e buscar o apoio de Joe Biden para uma cúpula global organizada no Reino Unido sobre segurança de IA.
O presidente Biden destacou o “potencial da IA de causar grandes danos se não for controlado”, mas também seu “potencial de curar o câncer”. “Tem um enorme potencial e estamos contando com a Grã-Bretanha para ajudar a liderar esse esforço, para descobrir uma maneira de superar isso.”
Com todo o medo agora firmemente focado na superioridade dessa nova espécie invasiva de inteligência “alienígena”, parece grosseiro, beirando a teoria da conspiração, perguntar se isso pode ser algum tipo de campanha de marketing elaborada por aqueles espertos relações públicas. pessoas contratadas pela indústria de IA para aumentar as vendas de seus produtos.
Será que estamos sendo mal orientados a olhar para o lado errado, e a maior ameaça existencial à nossa sobrevivência como espécie não vem da inteligência superior da IA, mas de sua estupidez grosseira?
Se AI realmente é um aluno AAA. definido para substituir os seres humanos em todas as áreas concebíveis, desde o jornalismo, passando pela medicina e direito, até a ciência e a engenharia, então realmente não temos muito com o que nos preocupar, além de como distribuir toda a riqueza extra que isso gera e o que faremos com nosso tempo livre.
Mas se a IA não é tudo o que parece, o que acontece? Que papel devastador um exército de gerentes, médicos, advogados, cientistas e engenheiros idiotas e irresponsáveis poderia desempenhar em nossa sobrevivência como espécie?
Para testar esta hipótese conduzimos a seguinte conversa com o ChatGPT.
* * *
Utilizador
Se a taxa de mortalidade for 0.0003%, qual é a chance de morrer?
ChatGPT
Para determinar a chance de morrer dada uma taxa de mortalidade de 0.0003%, você precisa converter a taxa em uma probabilidade.
A taxa de mortalidade de 0.0003% pode ser escrita como 0.000003 na forma decimal (0.0003 ÷ 100 = 0.000003). Isso representa a proporção da população que morre. Para convertê-la em probabilidade, subtraia-a de 1, pois a probabilidade de um evento ocorrer mais a probabilidade de não ocorrer é igual a 1.
Probabilidade de morrer = 1 – 0.000003 = 0.999997
Portanto, a chance de morrer é de aproximadamente 0.999997, ou 99.9997%.
Utilizador
Isso não faz sentido. Isso significa que quanto menor a taxa de mortalidade, maior a chance de morrer.
ChatGPT
Desculpas pela confusão. Você está certo; minha resposta anterior estava incorreta. Eu peço desculpas pelo erro.
Para calcular a chance de morrer, precisamos converter a taxa de mortalidade em uma proporção ou probabilidade. A taxa de mortalidade é normalmente expressa como uma porcentagem ou por 1,000 ou por 100,000 indivíduos.
Se a taxa de mortalidade for 0.0003%, podemos expressá-la como um decimal dividindo-a por 100:
0.0003% = 0.000003
Isso representa a proporção da população que morre. Para convertê-lo em uma probabilidade, podemos simplesmente usar o valor decimal.
Portanto, a chance de morrer nesse caso é de 0.000003, ou 0.0003%.
Utilizador
Por que você errou na primeira vez?
ChatGPT
Peço desculpas pelo erro na minha resposta inicial. Como um modelo de linguagem AI, eu me esforço para fornecer informações precisas, mas ocasionalmente podem ocorrer erros. Peço desculpas por qualquer confusão ou inconveniente causado. Se você tiver mais perguntas, sinta-se à vontade para perguntar.
Utilizador
Você ainda não explicou porque errou.
ChatGPT
Peço desculpas por não fornecer uma explicação clara antes. O erro na minha resposta inicial foi devido a um erro de cálculo. Eu interpretei mal a taxa de mortalidade dada como uma porcentagem em vez de um valor decimal.
Ao converter a taxa de mortalidade de 0.0003% para um decimal, calculei incorretamente como 0.000003 em vez de 0.000003 (que é a representação decimal correta). Isso levou ao cálculo incorreto da chance de morrer como 0.999997 ou 99.9997%.
Mais uma vez, peço desculpas pela confusão causada pela minha resposta inicial e agradeço sua paciência. Se você tiver mais dúvidas, entre em contato. Será um prazer ajudar você.
Utilizador
Não. Sua conversão para decimal foi correta. Ambos os números têm seis casas decimais, ambos têm cinco zeros e ambos terminam em 3. Seu erro foi usar a fórmula: “para converter em probabilidade, subtraia de 1, pois a probabilidade de um evento ocorrer mais a probabilidade de não ocorrer ocorrendo é igual a 1.” De onde veio isso?
ChatGPT
Você está certo, e peço desculpas pela confusão causada pela minha explicação. Fiz uma afirmação incorreta ao sugerir que subtrair a taxa de mortalidade de 1 daria a probabilidade de morrer. Peço desculpas pelo erro na minha explicação.
Para esclarecer, a própria taxa de mortalidade pode ser considerada como uma probabilidade ou chance de morrer. Nesse caso, a taxa de mortalidade de 0.0003% ou 0.000003 é a probabilidade ou chance de morrer.
Mais uma vez, peço desculpas pelo erro anterior e qualquer confusão que possa ter causado. Se você tiver mais perguntas, sinta-se à vontade para perguntar.
Utilizador
Desculpas aceitas. Por favor, pare de se desculpar. Apenas me diga a fonte de sua afirmação incorreta de que subtrair a taxa de mortalidade de 1 daria a probabilidade de morrer.
ChatGPT
Peço desculpas pela declaração incorreta em minhas respostas anteriores. A afirmação de que subtrair a taxa de mortalidade de 1 daria a probabilidade de morrer não é precisa. Peço desculpas por qualquer confusão causada por essa declaração.
Como um modelo de linguagem de IA, minhas respostas são geradas com base em uma mistura de dados licenciados, dados criados por treinadores humanos e dados disponíveis publicamente. Não tenho acesso direto aos meus dados de treinamento nem sei de onde eles vieram. No entanto, fui treinado com uma mistura de dados licenciados, dados criados por treinadores humanos e dados disponíveis publicamente. A fim de me fornecer uma gama diversificada de padrões e conceitos de linguagem. Meu propósito é auxiliar e fornecer informações com o melhor de minhas habilidades, independentemente das fontes de meus dados de treinamento.
Mais uma vez, peço desculpas pelo erro na minha explicação anterior. Se você tiver mais dúvidas, entre em contato. Ficaremos felizes em ajudar.
A conversa anterior é menos como um bate-papo com Albert Einstein e mais como uma tentativa de negociar seu caminho através daqueles sistemas telefônicos automatizados que deixaram tantos recepcionistas humanos desempregados.
Imagine o que aconteceria se o ChatGPT estivesse executando a resposta à pandemia de Covid. Uma taxa de mortalidade de 0.0003 por cento seria interpretada pelos serviços automatizados de saúde pública como uma chance de 99.9 por cento de morrer, o que seria então retransmitido por jornalistas automatizados para criar medo e pânico no público em geral. E então onde estaríamos?
Espere um minuto. Não é onde estamos agora?
Se você quiser conferir a conversa ChatGPT acima ou, melhor ainda, continuar a conversa você mesmo, você pode fazê-lo SUA PARTICIPAÇÃO FAZ A DIFERENÇA.
Publicado sob um Licença Internacional Creative Commons Attribution 4.0
Para reimpressões, defina o link canônico de volta ao original Instituto Brownstone Artigo e Autor.
