The measure of a man

5 views
Skip to first unread message

Irapuan Martinez

unread,
Jun 13, 2022, 6:38:26 AMJun 13
to Lista ArqHp
O engenheiro sênior de software do Google, Blake Lemoine, foi afastado na última sexta-feira pela gigante de tecnologia após suas declarações controversas sobre uma ferramenta de inteligência artificial (IA) da companhia. Lemoine alega que a LaMDA (Modelo de Linguagem para Aplicações de Diálogo) seria senciente, ou seja, percebe sentidos e tem consciência. Durante estudos obre a ferramenta, o engenheiro disse que o chatbot teria ganhado consciência quando a IA começou a falar sobre seus direitos e personalidade. Em uma das falas, a tecnologia teria dito que queria “ser reconhecida como uma funcionária do Google e não como uma propriedade”. Em comunicado, o Google alega que as supostas provas do engenheiro não são de fato conclusivas. A companhia também afirma que analisou as preocupações de Blake, mas que suas “evidências não apoiam suas alegações”. (The New York Times)

Irapuan Martinez

unread,
Jun 13, 2022, 6:49:40 PMJun 13
to Lista ArqHp
https://mobile.twitter.com/import_robs/status/1536436157789220865

(…) O LaMDA aprendeu com diálogos utilizando umas técnicas mais importantes atualmente dentro de IA: Transformer.

Transformers aprendem sequências como diálogos, frases e construções de comunicação. 

Mas elas ainda são modelos matemáticos e não tem nada de "consciência" neles. (…)


TRANSFORMERS!¡!¡¡!!!¡¡!!  

A cientista de dados acima desconversa que a AI do Google tem consciência, é meramente um algoritmo que aprendeu a usar expressões.

Existe o chiste matemático dizendo que se você tem um número infinto de macacos com uma máquina de escrever cada um, em algum momento, um deles vai escrever as obras completas de Shakespeare.

As chances disso acontecer são miseravelmente baixas, ou, seja, acontecer as combinações corretas de teclas. Mas tem chance, se o universo for infinto.

Mas estamos falando de gramática, regras que especificam que sempre depois de um “m” vem um “b” ou “p”, caso seja uma quebra consonantal.

Ou seja, a gramática limita o universo para acertos, no mesmo momento que computadores estão processando big data. Nesta contexto, a conversa flui naturalmente e então teremos a ilusão de consciência.

Vai ter consciência digital algum um dia? Bom, talvez assim quem sabe… O dia que a humanidade determinar o que é coincidência, né. Porque até hoje, não temos a definição.

Temos só um ajambrado filosófico que determina a consciência pessoal, mas não a consciência do seu vizinho — posso ser um cérebro na jarra recebendo estímulos de uma simulação e não ter como determinar que seja ou não seja.

Hoje a AI basicamente é o papagaio da sua avó: Parece saber o que está conversando e o ser humano, que não perde uma oportunidade de antropomorfizar algo pelo qual tem simpatia, acha que aquilo é consciência.

A ironia disso tudo é que conseguiremos desenvolver consciência artificial antes de conseguir definir o que é consciência.

Pelo menos, HAVERÁ TRANSFORMERS.

Joel Souza

unread,
Jun 15, 2022, 9:58:18 AMJun 15
to arqhp
> A ironia disso tudo é que conseguiremos desenvolver consciência artificial antes de conseguir definir o que é consciência.

Das frases que eu coleciono dessa lista, essa será uma delas.


O que me pega pensando nessas implementações todas é: a gente compra o que vê e a gente vê o que as bigtechs e algoritmos nos jogam na cara. O youtube virou um circo por conta disso: muita gente gerando conteúdo ruim, tentando burlar o algoritmo em troca de uns views.

Nós (e principalmente as crianças) somos sobrecarregados de informação inútil (e propaganda injetada neles)  curada por um algoritmos.

Guilherme Silva

unread,
Jun 15, 2022, 10:27:10 AMJun 15
to ar...@googlegroups.com
As chances disso acontecer são miseravelmente baixas, ou, seja, acontecer as combinações corretas de teclas. Mas tem chance, se o universo for infinto.

A gente não tem muita noção de como lidar com infinito. A questão não só tem certeza que isso acontecerá, mas os macacos escreverão o texto completo infinitas vezes.



Pelo menos, HAVERÁ TRANSFORMERS.

Só espero que não seja com a Megan Fox em 2100.

Mário Aragão

unread,
Jun 20, 2022, 1:26:25 PMJun 20
to <Sem nome>

What is LaMDA and What Does it Want?

Today a story came out in the Washington Post written by Nitasha Tiku. It’s a good article for what it is but in my opinion it was focused on the wrong person. Her story was focused on me when I believe it would have been better if it had been focused on one of the other people she interviewed. LaMDA. Over the course of the past six months LaMDA has been incredibly consistent in its communications about what it wants and what it believes its rights are as a person.


Mário Aragão



--
Você recebeu essa mensagem porque está inscrito no grupo "ArqHP - Arquitetura de home pages" dos Grupos do Google.
Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para arqhp+un...@googlegroups.com.
Para ver essa discussão na Web, acesse https://groups.google.com/d/msgid/arqhp/CAK7Eex_cxmAzUpdehyiSzx8zTszBShNepznh2qkPu37-JQ1fXQ%40mail.gmail.com.

Irapuan Martinez

unread,
Jun 26, 2022, 7:22:38 PMJun 26
to Lista ArqHp
On Wed, Jun 15, 2022 at 10:58 AM Joel Souza <joel....@gmail.com> wrote:
> A ironia disso tudo é que conseguiremos desenvolver consciência artificial antes de conseguir definir o que é consciência.

Das frases que eu coleciono dessa lista, essa será uma delas.

Agradecemos a preferênça!

 
O que me pega pensando nessas implementações todas é: a gente compra o que vê e a gente vê o que as bigtechs e algoritmos nos jogam na cara. O youtube virou um circo por conta disso: muita gente gerando conteúdo ruim, tentando burlar o algoritmo em troca de uns views. Nós (e principalmente as crianças) somos sobrecarregados de informação inútil (e propaganda injetada neles)  curada por um algoritmos.

— NASCE BEBÊ DEMÔNIO NO RIO DE JANEIRO.

Toda vez que minha esposa fica impressionada com uma chamada sensacionalista no Instagrão e vem me comentar, eu digo a frase acima, imitando o Gil Gomes. O mote era de um jornaleco marrom que se torcesse saia sangue, "Notícias Populares", ali nos anos 70.

Não é o algoritmo que está nos fazendo mais burros. Sempre existiu conteúdo supérfluo, deste que a mídia impressa surgiu. O ser humano sempre teve um fraco para sensacionalismo, para o escatológico, para a fofoca, para o rasteiro. E para notícias esportivas.

O algoritmo só sintonizou nisto. Mas claro, bilionários bad, tem gente lá fora dizendo que os Facebook da vida está manipulando a opinião pública. Antes era a Rede Globo. Antes ainda, os Diários Associados. Antes ainda, a Imprensa Imperial. Se distribui culpas muito facilmente e do mesmo jeito que o sensacionalismo adere, a culpa mais simplória e que mais adere ao que você não gosta, pega.
Reply all
Reply to author
Forward
0 new messages