Skynet warning

[Antonio Jozzolino]

Fernando Ulrich (@fernandoulrich) Tweetou para 2:45 PM on qua., mar. 29, 2023:
INTERROMPAM TODOS OS EXPERIMENTOS DE INTELIGÊNCIA ARTIFICIAL GIGANTE: Uma Carta Aberta.

Esse é o título da carta assinada por Elon Musk, Steve Wozniak e muitos outros, propondo uma pausa de seis meses em todos os grandes experimentos de IA mais potentes que GPT-4.

👇👇
(https://twitter.com/fernandoulrich/status/1641134403689627648?t=NmbWDaQs_7iPRwcY0EHTLw&s=03) 

[Irapuan Martinez]

Consta que um conjunto de cientistas peticionou ao governo dos EUA para que adiasse o voo para a Lua em dez anos, de forma que a pesquisa tornasse a viagem mais cientificamente aproveitável, mais segura e menos cara, e não mera propaganda política.

Surtiu tanto efeito quanto as notas de repúdio que o Bolsonaro recebeu.

Ilón, que antes de comprar o brinquedinho novo, o Twitter, falava de Marte o tempo todo, claro que conhece a história dessa petição. Logo, me sugere que ele quis emprestar seu prestígio (???) para esta carta não por preocupações com a condição humana, mas para que o bonde da AI não o atropele.

Hoje soube que ele esteve na gênese do OpenAI, mas saltou fora. Se ele ainda fosse investidor, me pergunto qual seria sua preocupação com riscos da AI.

Mas sério, o que poderia acontecer em seis meses? Não me parece tempo suficiente para se criar alguma espécie de "Leis da Robótica", noves fora que legislações tem aquela teimosia de jurisdição enquanto a trecologia, não sofre com problemas de fronteira. O país que implicar com desenvolvimento de AI só vai se ver para trás da corrida, pois seu vizinho que não implica vai receber o capital intelectual desta indústria.

Hoje se discute que as big techies criaram um abismo industrial que se tornou intransponível para a concorrência. Engraçado, pois a OpenAI surgiu mesmo assim. Claro que ela foi turbinada por barões dos bits, mas ainda assim, não nasceu deste abismo, quer dizer, de dentro dessas empresas inalcançaveis.

E daqui um tempo, AI vira commodity. Essa carta, se conseguisse seu intento, só está atrasando chegar a esta condição.

[Antonio Jozzolino]

Asimov profetico. Urge implemementar as 3 leis da robotica, antes q os livros sejam queimados talvez ate por ordem, influencia da AI, ou pelo menos reescritas.

Lembrem-se: apos a conciencia, a primeira tarefa dada a AI será criar uma mais poderosa q ela propria. 

--
Você recebeu essa mensagem porque está inscrito no grupo "ArqHP - Arquitetura de home pages" dos Grupos do Google.
Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para arqhp+un...@googlegroups.com.
Para ver essa discussão na Web, acesse https://groups.google.com/d/msgid/arqhp/CAFu4B9pFU1cK0qEQA_sdkA-50aJYXz08G7i4pzZ%2Bj%2BnxiVmPZQ%40mail.gmail.com.

[Irapuan Martinez]

Em qua., 29 de mar. de 2023 20:06, Antonio Jozzolino <ant...@jozzolino.com.br> escreveu:

Asimov profetico. Urge implemementar as 3 leis da robotica, antes q os livros sejam queimados talvez ate por ordem, influencia da AI, ou pelo menos reescritas.

Hoje quem propõe danificar livros é exatamente o pessoal mais próximo do Charles Ludd do que do Alan Turing.

Guardar os livros nas máquinas seria uma esplêndida maneira de preservar sua integridade.

Lembrem-se: apos a conciencia, a primeira tarefa dada a AI será criar uma mais poderosa q ela propria. 

Boa sorte em tentar definir uma coisa que estamos trabalhando há uns 25 séculos e até hoje não conseguimos sequer provar que o meu vizinho tem consciência.

Consciência é uma experiência subjetiva. Não é uma condição objetiva. Computadores não tem como alcançar isto.

E aí invés de, sei lá, a gente resolver os problemas da humanidade com a ajuda desta ferramenta, vamos assinar cartas contra uma singularidade que não tem como existir.

[Antonio Jozzolino]

https://youtu.be/iyWHg5Zpy4k

--

Você recebeu essa mensagem porque está inscrito no grupo "ArqHP - Arquitetura de home pages" dos Grupos do Google.
Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para arqhp+un...@googlegroups.com.

Para ver essa discussão na Web, acesse https://groups.google.com/d/msgid/arqhp/CAFu4B9ohHzoDVKbhkP61%2BPDJmFVo9vudNpVfFe2n_ga8%3DtQAYw%40mail.gmail.com.

[Antonio Jozzolino]

Gpt4 seria uma IA fraca, apenas simula, imita humanos.

Lambda seria uma IA forte, capaz de compor uma simfonia, criar, ao contrario do Will Smith... 

[Irapuan Martinez]

On Wed, Mar 29, 2023 at 8:36 PM Antonio Jozzolino <ant...@jozzolino.com.br> wrote:

Gpt4 seria uma IA fraca, apenas simula, imita humanos.

Lambda seria uma IA forte, capaz de compor uma simfonia, criar, ao contrario do Will Smith... 

Hollywood é uma indústria tecnológica bilionária que produz conteúdo… Atacando a ciência e o capitalismo. Não é o melhor lugar para pescar argumentos.

Em todo caso, o filme "Eu, Robô" guarda semelhança com o livro do Asimov, apenas no título. O livro é uma compilação de contos curtos, cuja única personagem em comum é a Dra. Calvin — e no filme, é uma personagem secundária. O personagem do Smith, sequer existe.

Tem uns bons 20 anos que li, mas pelo que me lembre, não tange a questão de consciência dos robôs, mas as implicações das três leis.

Criar sinfonias prova consciência? Música é uma mera instrução matemática. A teoria musical é uma relação matemática entre acordes e harmonia. Por erro e tentativa um programa pode compor exatamente como humanos. E como humanos, 90% vai ser um lixo.

Existe um episódio do Star Trek Next Generation, "A Medida de um Homem", onde desejam desmontar um andróide único, Data, para replicar seu modelo e cada nave contar com seus serviços. Seus companheiros o defendem, alegando que ele é parte da equipe e não pode ser desmantelado para a engenharia reversa. O episódio se arrasta sobre como provar a identidade de Data como ser consciente e portanto, deveria ser protegido.

A solução? A abolição da escravatura. Escravos, ao longo da história, não eram reconhecidos como indivíduos, podendo ser vendidos, comprados, mal tratados. Antes tinham apenas um papel utilitário e posteriormente, lhes foi garantido o reconhecimento como indivíduos.

Então periga a humanidade fornecer um CPF para AI, ou qualquer outra atribuição como indivíduos que lhes garantam um apanhado de direitos, e ainda assim, se embananar em definir o que se trata ser consciência e como provar que ela existe. Não saberemos diferenciar consciência de uma imitação muito boa.

AI vai se virar contra a humanidade? Por que ela faria isto? Se é um ser vivo, existe um imperativo evolucionário. Este imperativo nunca foi sobre força, mas estar melhor preparado à mudança de ambientes. Não diz respeito a exterminar um nicho ecológico — bem estamos vendo quando humanos se metem a fazer isso, piora muito para eles

Todo o medo da AI hoje é exclusivamente oriunda de… Hollywood.

[Irapuan Martinez]

On Wed, Mar 29, 2023, 19:41 Irapuan Martinez <ira...@gmail.com> wrote:

Ilón, que antes de comprar o brinquedinho novo, o Twitter, falava de Marte o tempo todo, claro que conhece a história dessa petição. Logo, me sugere que ele quis emprestar seu prestígio (???) para esta carta não por preocupações com a condição humana, mas para que o bonde da AI não o atropele.

https://www.businessinsider.com/elon-musk-twitter-investment-generative-ai-project-2023-4

Elon Musk is moving forward with a new generative-AI project at Twitter after purchasing thousands of GPUs

Matéria está fechada a assinantes, mas o resumo é que Musk fez um senhor investimento em CPUs para inteligênça artificiar e tirou alguns engenheiros de AI da concorrência.

“Suspender o desenvolvimento da AI por seis meses” my eggs.

Pior que tinha gente bem intencionada assinando a carta. Bem intencionada mas equivocada. Como descobrir se se está nesta condição?

Simples: Se Musk apoia, é Ogun, orixá da forja e da tecnologia, te dando a dica para pular fora.

[Irapuan Martinez]

On Wed, Mar 29, 2023, 20:22 Irapuan Martinez <ira...@gmail.com> wrote:

Hoje quem propõe danificar livros é exatamente o pessoal mais próximo do Charles Ludd do que do Alan Turing.

Ned Ludd. O Charles era o Lynch.

Erro honesto, os dois gostavam de quebrar coisas. Um era humanos, o outro, robôs.

[Irapuan Martinez]

On Wed, Apr 12, 2023, 00:04 Irapuan Martinez <ira...@gmail.com> wrote:

“Suspender o desenvolvimento da AI por seis meses” my eggs.

4 meses depois de pedir moratória de 6 meses, Ilón anunciou sua própria iniciativa de AI:

https://arstechnica.com/information-technology/2023/07/musk-announces-new-ai-company-that-seeks-to-understand-the-universe/

Muito modestamente, ele disse que a iniciativa é para “entender o universo”. Daí fica faltando só entender a vida e tudo mais.

Depois de marcar a troca de sopapos com o Zucka, Musk acusou este de ter roubado engenheiros do Twitter para montar o seu Gorjeio, o Thread.

Como se Musk não tivesse demitido todo mundo quando entrou segurando uma pia no Twitter, né. Reengenharia é bom, mas o pessoal vai trabalhar para seu concorrente.

Mas o interessante é como ele montou a xAI:

That list includes Igor Babuschkin (formerly of DeepMind), Manuel Kroiss (DeepMind), Tony Wu (University of Toronto), Christian Szegedy (Google Research).

[Guilherme Silva]

Quando eu disse que um prêmio nobel falando que a bitcoin morreu era um sinal de compra, em dezembro do ano passado, a bitcoin valia 17.1 k Bidens.

Hoje, 31,3k. 

Obrigado.

Ninguém me perguntou ainda como faz para comprar ou se eu fiquei milionário com BTC, então acho que tem espaço para continuar subindo. Sinceramente, não estou lendo as notícias para saber se já estão pipocando artigos "fique rico com criptos" por aí, que é o claro sinal de venda.

Agora, pra quê alguém apoiaria uma moeda inflacionável e bloqueável tendo à disposição outra(s)? Pra mim, é nonsense.

Com sentido ou não, fato é que pessoas batem palmas, e gostam quando é o seu próprio ditador é quem assume o poder. Melhor o Bozo que o Ladrão. Melhor o Ladrão que o Bozo. Melhor o terrivelmente evagélico. Melhor o advogado da quadrilha. O experiente ou o estreante, tanto faz.

Enfim... pessoas acreditando no governo.

Mas como disse a rainha Ayn Rand (citando de memória,  as palavras não devem ser essas. Até porque ela nunca falou pt-br): você pode ignorar a realidade o quanto quiser, mas não consegue ignorar a consequência de ignorar a realidade.

--

Você recebeu essa mensagem porque está inscrito no grupo "ArqHP - Arquitetura de home pages" dos Grupos do Google.
Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para arqhp+un...@googlegroups.com.

Para ver essa discussão na Web, acesse https://groups.google.com/d/msgid/arqhp/CAFu4B9qyBK58f%3DN5hDWn-%2BvGEDUnW3rJT8uJBUduWH8Ebc%2B%3Djw%40mail.gmail.com.

[Irapuan Martinez]

On Thu, Jul 13, 2023, 20:11 Guilherme Silva <guilherm...@gmail.com> wrote:

Quando eu disse que um prêmio nobel falando que a bitcoin morreu era um sinal de compra, em dezembro do ano passado, a bitcoin valia 17.1 k Bidens. Hoje, 31,3k. 

Desempenho de um ativo não são apenas recortes, qualquer conservador iria dizer.

Sim, reconheço o bom desempenho da crypto, quebrando azinimigas e azinvejosas. Mas Bitcoin testa os limites. Papéis tradicionais sucumbem apesar de toda regulamentação e Bitcoin não conta com nenhuma, exceto suas regras internas, todas de aspecto técnico, não legais.

Entropicamente, Bitcoin não deveria estar aonde está. Mas continua lá.

Acompanho com interesse, mas não tenho um centavo lá. Não por algum faro, eu que não sou investidor mesmo.

Agora, pra quê alguém apoiaria uma moeda inflacionável e bloqueável tendo à disposição outra(s)? Pra mim, é nonsense.

Porque o Real Digital, se lançado, vai ser de curso legal. Ninguém te obriga a usar curso legal (kind of — contratos eventualmente estabelecem o uso), só é muito prático.

Li uma vez um cara dizendo que precisava fazer uma transferência internacional, tinha pressa, usar bancos geraria taxas e demora, Blockchain levaria horas pra validar e então ele transferiu usando Shiba, uma memecoin.

Ele não estava defendendo estacionar ativos numa LOLcoin, só contou com a praticidade.

Pix e cartões de crédito deixam rastro que é o pesadelo de qualquer paranóico da privacidade. Mas cedemos pela praticidade.

Real digital é trazer o Pix para desbancarizados. Hoje, num semáforo, um pedinte ostentava uma faixa pedindo colaboração. No rodapé, uma chave Pix. Não sei em qual instituição, mas manter contas bancárias geram atrito e um pedinte não está no momento pra suportar algum.

Mas se rende pela praticidade. Com o Pix, limita a argumentação “estou sem reserva fracionada de curso legal em espécie no momento”.

Com sentido ou não, fato é que pessoas batem palmas, e gostam quando é o seu próprio ditador é quem assume o poder.

Não tenha a menor dúvida disso.

Enfim... pessoas acreditando no governo.

Centralizar liderança dá tão certo que a evolução premiou lobos e abelhas. 

Governos podem ser produtivos (em alguma parte do tempo. A maior parte do tempo, sorry, só na livre concorrência), mas o problema é o fator humano. Exatamente ilustrado no seu argumento anterior: O eleitor quer uma figura paterna que resolva os problemas e o da sua preferência, pode ter as falhas que for — vide o cara da camiseta da CBF, tão cioso em proteger as criancinhas, mas não disse um “A” quando o Bolsonaro disse que “viu uma garotinha de 14 anos e pintou um clima”.

Ou Lula conclamando “uma frente democracia ampla” e depois, dizendo que democracia é relativa. Queria muito ver o Lula participando de alguma frente democrática sobre ele não fosse a ponta de lança, pra testar uma tese.

Se o senso crítico fosse tão presente quanto gente dizendo que é patriota ou democrática, a gente teria chance de recair nos termos do governo sendo produtivo em alguma parte do tempo.