Should we be afraid of AI?

58 views
Skip to first unread message

Joao Marcos

unread,
May 9, 2016, 5:32:08 PM5/9/16
to Lista acadêmica brasileira dos profissionais e estudantes da área de LOGICA

Marcelo Finger

unread,
May 10, 2016, 9:56:56 AM5/10/16
to logi...@dimap.ufrn.br
Oi JM.

Adorei este post pois, de certa forma, sistematizou uma perene discussão que eu travo com um AItheista do nosso depto, talvez v já tenha o prazer de discutir com ele, o Prof Valdemar Setzer.

[]s

Marcelo

2016-05-09 18:32 GMT-03:00 Joao Marcos <boto...@gmail.com>:

https://aeon.co/essays/true-ai-is-both-logically-possible-and-utterly-implausible

JM

--
Você recebeu essa mensagem porque está inscrito no grupo "LOGICA-L" dos Grupos do Google.
Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para logica-l+u...@dimap.ufrn.br.
Para postar nesse grupo, envie um e-mail para logi...@dimap.ufrn.br.
Acesse esse grupo em https://groups.google.com/a/dimap.ufrn.br/group/logica-l/.
Para ver essa discussão na Web, acesse https://groups.google.com/a/dimap.ufrn.br/d/msgid/logica-l/CAO6j_Lj5T0ADyNqVQWeK4iD1_S49CXq-zcieiC%3DoLnWEx7CvBg%40mail.gmail.com.



--
 Marcelo Finger
 Departament of Computer Science, IME    
 University of Sao Paulo
 http://www.ime.usp.br/~mfinger

Hermógenes Oliveira

unread,
May 10, 2016, 5:07:25 PM5/10/16
to logi...@dimap.ufrn.br
Apesar de alegar o contrário, creio que o autor do texto tende mais para
o lado dos "AItheists" (ênfase minha):

"The success of our technologies depends largely on the fact that, while
we were speculating about the possibility of ultraintelligence, we
increasingly enveloped the world in so many devices, sensors,
applications and data that it became an IT-friendly environment, where
*technologies can replace us without having any understanding, mental
states, intentions, interpretations, emotional states, semantic skills,
consciousness, self-awareness or flexible intelligence*. Memory (as in
algorithms and immense datasets) outperforms intelligence when landing
an aircraft, finding the fastest route from home to the office, or
discovering the best price for your next fridge. [...] What’s the
difference? The same as between you and the dishwasher when washing the
dishes."

Um "AItheist" como Searle estaria perfeitamente safisfeito com o
parágrafo acima. Mas há um problema nessa visão: discriminar os agentes
na atribuição de intensões, habilidades semânticas e etc com base na
natureza do mecanismo operante.

O mecanismo operante por trás do comportamento de agentes humanos é,
presumivelmente, de natureza biológica. Na maoria das máquinas atuais,
o mecanismo operante é de natureza eletromagnética. Aparentemente, o
autor crê que, ainda que completamente equiparáveis em termos de
comportamento, os únicos agentes dignos de intenção, habilidade
semântica e etc. são os de natureza biológica! Nisso, ele está
equivocado!

A maneira mais apropriada (e talvez mesmo a única maneira) de descrever
e compreender o comportamento de certas máquinas *é* atribuindo-lhes
intensões, intrepretações e etc. Assim, por exemplo, dizemos que "o
AlphaGO assumiu uma estratégia mais pacífica na primeira partida", ou
que "AlphaGO pretendeu com aquela jogada manter os grupos do oponente
desconectados", ou que "o AlphaGO desistiu da partida nº 4 na jogada 180
após concluir que tinha pouca chance de vencer".

A questão se submarinos podem nadar é realmente pouco informativa, pois,
ainda que eles sejam bastante eficientes em transladar grandes massas de
água, seres humanos não aprendem muito sobre natação observando
submarinos. O mesmo pode ser dito sobre máquinas e o exercício do
pensamento *em geral*: não há muito o que se aprender sobre o pensamento
observando o mecanismo eletromagnético dos computadores. Contudo, o
paralelo não se estende a muitas áreas de emprego da IA: *há muito o que
se aprender do AlphaGO sobre o GO*. E é por isso que o parelelo que o
autor do texto faz com a lava-louça *não* é apropriado.

Agora, por que negar a atribuição de intensões, interpretação ou
qualquer outro conteúdo semântico à IA se, para todos os efeitos, seu
comportamento é digno de tal atribuição? Muitos argumentam que o
problema é que IAs epecializadas não apresentam inteligência *flexível*.
Essa objeção me parece muito rasa, pois, afinal, ninguém está atribuindo
ao AlphaGO a intensão de preparar um sanduíche de presunto ou ponderar
sobre injustiças sociais. Além do mais, há uma tendência nesses debates
em comparar IAs particulares com o ser humano, onde este último
representa o máximo denominador comum da espécie inteira. Kim Peek
possuia uma inteligência impressionante, porém muito pouco flexível.
Alguns diziam que era difícil atribuir-lhe estados emocionais. Porém
duvido que algém negasse, por princípio, lhe atribuir intensão,
consciência e etc. desde que seu comportamento fizesse jus.

Resumindo, não vejo porque negar conteúdo semântico à IAs por motivos
espúrios quando a atribuição desses conteúdos é muito mais natural e
plausível. Sem contar que a alternativa abre a porta para uma avalanche
de cenários e argumentos céticos.

--
Hermógenes Oliveira

Walter Alexandre Carnielli

unread,
May 10, 2016, 6:42:20 PM5/10/16
to logi...@dimap.ufrn.br
Caro Hermógenes:
(Sem copia para a Lista)
Considero suas opiniões muito pertinentes. Gostaria de saber um pouco mais sobre a sua especialização: pelo que vi sua área de trabalho é filosofia da lógica? Ou lógica propriamente? Voce  tem uma posição ( professor ou pos-doc) na Alemanha?


Acho que nós deveríamos sugerir ao Marcos Silva que cada participante da lista preenchesse algum tipo de questionário mínimo p, ou colocasse o seu site ou CV Lattes,  pada que todos  nos conhecêssemos, que tal?

Abraços de Veneza, "sporca" por turistas...

Walter
--
Você está recebendo esta mensagem porque se inscreveu no grupo "LOGICA-L" dos Grupos do Google.

Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para logica-l+u...@dimap.ufrn.br.

Marcos Silva

unread,
May 12, 2016, 11:36:26 AM5/12/16
to logical logical
Olá, Hermogenes,

Resumindo, não vejo porque negar conteúdo semântico à IAs por motivos
espúrios quando a atribuição desses conteúdos é muito mais natural e
plausível.  Sem contar que a alternativa abre a porta para uma avalanche
de cenários e argumentos céticos.

eu acho  "plausibilidade" e "naturalidade" critérios frágeis para o desenvolvimento de (quaisquer) visões filosóficas. Além disso, eu não tenho problemas com cenários céticos. Acho que a filosofia se enriquece muito justamente em reação a argumentos céticos. A história da filosofia oferece vários exemplos seminais deste diálogo. 

Me arrisco em uma generalização perigosa: talvez toda grande filosofia é um levar a sério e se confrontar com desafios céticos. Dois exemplos marcantes: Descartes e os argumento do sonho e do gênio maligno e Kant acordando do "sono dogmático".

Eu particularmente também gostei da analogia do Floridi comparando a relação entre computadores super-inteligentes e seres humanos com uma máquina de lavar e ele. (Adicionando o fato que eu tenho severa e permanente preguiça para lavar louças.)

++++

Achei um bom artigo de divulgação. Bem escrito, bem-humorado e bem argumentado. (Aliás, a revista parece ser bem interessante. Eu não conhecia, não. Obrigado, JM!)

O Floridi é um destes "top philosophers" da atualidade. Tudo que escreve é imediatemente consumido. E parece ter aquele talento metafísico peculiar de alguns de estar em vários lugares (eventos) ao mesmo tempo.

++++

Fico contente em ver como a gente vive um momento muito generoso de problemas para a filosofia. Problemas eminentemente contemporâneos, como: dinâmica de cultura e sociedades globalizadas, ética aplicada e tecnologias, logicas não clássicas e racionalidade, primatologia e antropologia, problema variados sobre mente, consciência e neurociências, IA e cognição, etc. etc. 

É uma platitude, mas vale notar que grandes filósofos do passado simplesmente não viveram este momento. Eles reagiram aos problemas contemporâneas a eles, se apropriando de conceitos de outros "mighty dead" do passado, sem se perderem em trabalho exclusivo de exegese. Acho que a gente pode fazer algo correlato hoje.

sem medo do ceticismo. ;-)

++++

O Floridi mencionou o Searle. Ele vai estar na indefectível Bochum falando exatamente sobre o livro novo dele:

Searle é outro cara impressionante, tudo que escreve parece virar um clássico imediato. 

++++

Voltando pra IA, muitos acham que o que impede o desenvolvimento dela em outro patamar é o próprio paradigma cartesiano (broadly construed) em que está inserida desde sua fundação. 

Neste contexto, eu tenho muita simpatia pelo enativismo e o anti-representacionalismo para pensar a consciência e inteligencia em base naturalizada e dinâmica.

Destaco os recentes trabalhos do Daniel Hutto e Erik Myin.

Fiz uma resenha, com colegas da computação da UFC, do livro deles mais recente para a "philosophos" de Goiania.
Para quem tiver curiosidade sobre o "Radicalizing Enactivism":

++++

O Daniel Hutto que parece, ter o talento metafísico mencionado acima, provavelmente vai visitar Fortaleza ano que vem para lançar livro novo pela prestigiosa MIT. 

Tratar-se-á do desafio de pensar a relação de juízos com a base perceptual em um contexto de enativismo radical. 

Esta vertente nega que, para cognição básica, haja qualquer conteúdo conceitual que imponha quaisquer condições de satisfatiblidade ao mundo. 

++++

Abraços,
Marcos

--
Você está recebendo esta mensagem porque se inscreveu no grupo "LOGICA-L" dos Grupos do Google.
Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para logica-l+u...@dimap.ufrn.br.
Para postar neste grupo, envie um e-mail para logi...@dimap.ufrn.br.
Visite este grupo em https://groups.google.com/a/dimap.ufrn.br/group/logica-l/.
Para ver esta discussão na web, acesse https://groups.google.com/a/dimap.ufrn.br/d/msgid/logica-l/87futp62rd.fsf%40camelot.oliveira.



--
Marcos Silva
Philosophie macht Spaß!

Hermógenes Oliveira

unread,
May 12, 2016, 4:28:34 PM5/12/16
to logi...@dimap.ufrn.br
Marcos Silva <marcos...@gmail.com> escreveu:

> Olá, Hermogenes,

Olá, Marcos.

> eu acho "plausibilidade" e "naturalidade" critérios frágeis para o
> desenvolvimento de (quaisquer) visões filosóficas. Além disso, eu não
> tenho problemas com cenários céticos. Acho que a filosofia se
> enriquece muito justamente em reação a argumentos céticos. A história
> da filosofia oferece vários exemplos seminais deste diálogo.
>
> Me arrisco em uma generalização perigosa: talvez toda grande filosofia
> é um levar a sério e se confrontar com desafios céticos. Dois exemplos
> marcantes: Descartes e os argumento do sonho e do gênio maligno e Kant
> acordando do "sono dogmático".

Sim, plausibilidade e naturalidade não são lá grande coisa. No que
diz respeito a esse primeiro, contudo, o autor do texto que tanto lhe
agradou não parece concordar conosco (minhas ênfases):

"Machines seem to be getting smarter and smarter and much better at
human jobs, yet *true AI is utterly implausible*. Why?"

"Like all faith-based views, Singularitarianism is irrefutable
because, in the end, it is unconstrained by reason and evidence. *It
is also implausible*, since there is no reason to believe that
anything resembling intelligent (let alone ultraintelligent) machines
will emerge from our current and foreseeable understanding of computer
science and digital technologies."

"True AI is not logically impossible, but *it is utterly
implausible*. We have no idea how we might begin to engineer it, not
least because we have very little understanding of how our own brains
and intelligence work."

"Unless, that is, someone provides evidence to the contrary, and shows
that there is something in our current and foreseeable understanding
of computer science that should lead us to suspect that the emergence
of artificial ultraintelligence is truly *plausible*."

Mas isso não importa, pois, caso você não tenha notado, meu argumento
não está baseado em plausibilidade ou naturalidade. Ele começa logo
após a citação textual da passagem que considero problemática e vai,
mais ou menos, até "*E é por isso* que o paralelo que o autor do texto
faz com a lava-louça não é apropriado."

Na minha mensagem original, o que se segue depois disso são tentativas
caridosas de compreender o porquê de negar, *por princípio*, conteúdo
semântico e intenções a agentes artificiais. Caridade era tudo o que eu
tinha à disposição, uma vez que Floridi (no seu sono dogmático ;-)) não
oferece muitos argumentos para afirmações como "No conscious,
intelligent entity is going to emerge from a Turing Machine" ou "The
point is not that our machines are conscious, or intelligent, or able to
know something as we do. *They are not*" Exceto, é claro, considerações
de plausibilidade que, você concorda comigo, são "critérios frágeis para
o desenvolvimento de quaisquer visões filosóficas".

É interessante observar como Floridi, após criticar o dogmatismo dos
"AItheists", não resiste a tentação de asserir categoricamente a
profissão de fé dos mesmos. :-D

Quanto ao ceticismo, concordo que, historicamente, tenha sido
estimulante para a filosofia. Não obstante, creio que a imunidade à
ataques céticos é sinal da robustez de uma posição filosófica, e não
da nossa covardia frente ao cético[1]. Afinal, é dever do cético
atacar as nossas posições dogmáticas, mas não somos obrigados a
assumir a posição mais conveniente ao ataque.

O mais desagradável no ceticismo é mesmo o próprio cético, pois ele
geralmente não acredita realmente nas posições que defende nem duvida
realmente das posições que ataca. Decartes começou duvidando da
existência de si mesmo (como ser corpóreo), mas terminou demonstrando
a existência de Deus. Hume era certamente muito mais agradável em
volta da mesa de sinuca, onde estava completamente satisfeito com a
indução, do que sentado à sua escrivaninha, onde mantinha que
argumentos indutivos eram infundados.

É praticamente impossivel reduzir um cético ao absurdo (embora muitas
vezes ele mesmo concorra, senão verbalmente, ao menos pragmaticamente,
que a sua posição é absurda) pois suas asserções, assumindo que sequer
assira algo, não são acompanhadas do mesmo compromisso que acompanha
as asserções dos demais mortais: é como um jogo de linguagem perverso
no qual o seu interlocutor não está constrangido pelas mesmas regras
que você.

Uma figura comumente contada entre os grandes filósofos que você
menciona escreveu o seguinte, caricaturando filósofos que "levam a
sério" os desafios céticos (Da Certeza, §467):

"Estou sentado com um Filósofo no jardim; ele diz, repetidamente: 'Eu
sei que isto é uma árvore', enquanto aponta para uma árvore nos
arredores. Um passante o escuta e eu digo a ele: 'Este sujeito não
está louco: estamos filosofando'."

Mas vai saber. O escárnio e a chacota certamente estão entre os
"critérios frágeis para o desenvolvimento de visões filosóficas".
Talvez até mais frágeis que a plausibilidade e a naturaildade...

Abraços,


P.S. Para aqueles que acompanham a discussão e porventura estejam sob
influência pesada da mentalidade hollywoodiana "mocinho vs bandido":
Eu gostei do artigo do Floridi. Como disse o Marcos, o artigo é bem
escrito, bem humorado, bem argumentado e agradável. Caso contrário,
não seria possível criticá-lo tão pontualmente. Também aprecio muito
os trabalhos de Searle, alguns dos quais li com cuidado. Na minha
opinião, ambos são instâncias do que se pode chamar de boa filosofia.

++

[1] Exceto, obviamente, se assumirmos a posição mais robusta apesar de
não acreditarmos nela, com o único propósito de evitar o cético. Eu
não aprovo essa estratégia, mas seria um deleite observar alguém
adotar o método do cético e fazê-lo provar um pouco do próprio
remédio. :-)

--
Hermógenes Oliveira
Reply all
Reply to author
Forward
0 new messages