Mais três links sobre IA

[Eduardo Ochs]

Mais três links sobre IA:

https://orchidfiles.com/im-tired-of-ai-generated-answers/
https://lpcvoid.com/blog/0018_why_i_am_against_genai/index.html
https://arxiv.org/pdf/2604.04721 AI Assistance Reduces Persistence and Hurts Independent Performance

[[]],

  Eduardo Ochs

  Psicopata do CEFET

[Joao Marcos]

> https://arxiv.org/pdf/2604.04721 AI Assistance Reduces Persistence and Hurts Independent Performance

Puxa... Qualquer profissional da área de Educação (e qualquer pai ou
mãe, ou qualquer pessoa interessada no desenvolvimento humano)
certamente deveria se preocupar com isso aqui:

"Here, we show that just 10–15 minutes of AI interaction can result in
significant impairments in independent performance and persistence –
capacities that are foundational to life-long learning. If brief
exposure produces measurable erosion, the cumulative effects of daily
AI use over months or years may be profound and difficult to reverse."

E pra piorar:

"These risks are also not equally distributed: students with fewer
academic resources may be most vulnerable."

We surely have a problem!
JM


PS: Os autores introduzem ao menos uma proposta de "mitigação de
riscos", a saber: "rethinking how AI systems collaborate with people
long-term and broadening objectives beyond short-term user
satisfaction toward an ethos of empowerment and care", e apontam sobre
isso quatro referências publicadas nos últimos dois anos. Talvez haja
um caminho por aí... Eu espero que haja um caminho por aí. :-/

--
https://sites.google.com/site/sequiturquodlibet/

[Ricardo Peraça Cavassane]

> https://arxiv.org/pdf/2604.04721 AI Assistance Reduces Persistence and Hurts Independent Performance

Bastante óbvio, assim como muitas outras coisas apontadas por críticos da "IA" generativa (nos quais me incluo), 

mas por alguma razão muita gente defende esses sistemas como se fosse a última maravilha do mundo

--
LOGICA-L
Lista acadêmica brasileira dos profissionais e estudantes da área de Lógica <logi...@dimap.ufrn.br>
---
Você está recebendo esta mensagem porque se inscreveu no grupo "LOGICA-L" dos Grupos do Google.
Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para logica-l+u...@dimap.ufrn.br.
Para ver esta conversa, acesse https://groups.google.com/a/dimap.ufrn.br/d/msgid/logica-l/CAO6j_Lh3mtoFr5qhmEZ8kL0x2B5mO1Nv4H2H-tjc9iZekyfuTg%40mail.gmail.com.

[Eduardo Ochs]

Oi Ricardo,

  "we provide causal evidence for two key consequences of AI
  assistance: reduced persistence and impairment of unassisted
  performance"

isso é óbvio pra gente mas não é NADA óbvio pros alunos viciados em
IAs e que praticamente só têm amigos que também são viciados em IAs...

Pra mim a grande questão é como lidar com esses alunos. Por exemplo,
uma questão prática é: como fazer eles verem que eles vão ser mais
felizes na outra turma, em que o professor dá aulas expositivas, dá
prova em grupo com consulta, e não liga pra indícios de cola nas
provas?

  [[]],
    Eduardo...

[Márcio Palmares]

Vou tensionar na direção contrária aqui para que tenhamos "fricção construtiva", justamente o que falta no diálogo com máquinas. 

(Em algum momento alguém vai dizer: "Chega, Marcio, você já falou demais, vá trabalhar e deixe que as outras pessoas também possam falar! Já entendemos que você está aflito porque acha que está presenciando uma grande revolução científica, mas não somos terapeutas pra ficarmos ouvindo você todos os dias...". Quando alguém disser isso, eu paro, prometo.)

Estou com meu livro do Ralph Costa Teixeira aqui em mãos: "Álgebra Linear. Exercícios e Soluções". Comprei o do Elon e depois este do Ralph, já faz tempo, quando meu dinheiro ainda dava para comprar livros...

O Ralph começa assim:

"Este livro pode ser catastrófico para o seu aprendizado de Álgebra Linear."

Cacilda Becker! Vou devolver! 

Prossigamos:

"Bom, talvez sob o ponto de vista do marketing esta não seja a melhor frase para iniciar o prefácio... Mas há de ser dito: é extremamente tentador, após uns poucos minutos tentando resolver um problema, simplesmente olhar sua solução.

Este perigo nos parece tão grave que pensamos seriamente se seria uma boa ideia publicar este livro. (...)".

O restante do prefácio contém as recomendações sobre o que poderíamos chamar de "estudo verdadeiro", que envolve esforço, frustração, erros, tentar de novo, passar alguns dias (ou semanas ou meses ou anos) ruminando, convivendo com o problema, dando bom dia a ele, boa noite, dividindo o almoço, a janta, etc. E termina com uma recomendação espirituosa e motivadora, cheia de humanidade e incentivo, sobre o que fazer em caso de chegar a um beco sem saída. É literário esse prefácio...

É óbvio que o ChatGPT multiplica por 1000 (ou mais) a potência de um livro como esse, com todas as respostas. E também multiplica por mil (ou mais) o possível desastre para o aprendizado de uma pessoa e para as suas funções cognitivas caso a pessoa realmente deixar de pensar.

Agora, vamos olhar para a nossa realidade.

Em 1971, alguém escreveu um poema assim:

-×-×-×-

Por esse pão pra comer, por esse chão pra dormir

A certidão pra nascer e a concessão pra sorrir

Por me deixar respirar, por me deixar existir

Deus lhe pague

Pelo prazer de chorar e pelo "estamos aí"

Pela piada no bar e o futebol pra aplaudir

Um crime pra comentar e um samba pra distrair

Deus lhe pague

Por essa praia, essa saia, pelas mulheres daqui

O amor malfeito depressa, fazer a barba e partir

Pelo domingo que é lindo, novela, missa e gibi

Deus lhe pague

Pela cachaça de graça que a gente tem que engolir

Pela fumaça, desgraça, que a gente tem que tossir

Pelos andaimes, pingentes, que a gente tem que cair

Deus lhe pague

Por mais um dia, agonia, pra suportar e assistir

Pelo rangido dos dentes, pela cidade a zunir

E pelo grito demente que nos ajuda a fugir

Deus lhe pague

Pela mulher carpideira pra nos louvar e cuspir

E pelas moscas-bicheiras a nos beijar e cobrir

E pela paz derradeira que enfim vai nos redimir

Deus lhe pague

-×-×-×-

O fenômeno descrito aqui é o roubo da subjetividade. O capitalismo rouba a subjetividade dos despossuídos.

Não é necessário um computador ou a Netflix para fazer isso. Ou o TikTok. Ou os celulares.

Basta que a miséria esteja suficientemente orquestrada, e que aos despossuídos não reste nada além de consumir o que lhe é oferecido pela engrenagem...

Seus sentimentos, suas esperanças, sua desilusão, seu despertar, tudo está sob controle pois no capitalismo tudo é mercadoria. Tudo se transforma em mercadoria.

Você pode emburrecer completamente uma pessoa vendendo a ela o gibi, a novela, o futebol. Ou a porcaria na TV aberta, o seriado mercadoria na Netflix... A dancinha no TikTok, o "Tigrinho" que carrega tantos sonhos e esperanças e tanta desilusão e desespero...

A igreja. A cachaça. Os antidepressivos.

O capitalismo apodrece tudo aquilo em que toca. Nada escapa.

De forma meio involuntária, ossos do ofício, acompanho a evolução dos estudantes que ingressam na universidade pelo menos desde 2008... E a impressão que eu tenho é a de que a situação era catastrófica já pouco antes da pandemia. E que a geração pós pandemia atingiu o fundo do poço. Antes do ChatGPT, portanto. Não escrever direito, não ler direito... É algo terrível... A inteligência artificial vai piorar isso? Provavemente. O capitalismo não conhece fundo de poço: a barbárie pode sempre ficar pior.

Mas convenhamos: o livro do Ralph, por si mesmo, não faz mal a ninguém. A inteligência artificial, por si mesma, não causa o emburrecimento de ninguém. O mesmo vale para as drogas. Elas, sozinhas, não causam desastres sociais. Isso está comprovado por experimentos: ratos que têm uma vida interessante no laboratório experimentam drogas e não se ligam a elas. Ratos com vidas desinteressantes tornam-se viciados. Algo empurra um usuário para uma experiência desastrosa com o ChatGPT. A máquina, por si mesma, é só uma máquina.

Estou dando uma olhada aqui no Felix Klein, por outros motivos. No livro "Matemática Elementar de um ponto de vista superior", bem no comecinho, ele se mostra muito interessado por uma máquina de calcular mecânica, um tipo de caixa registradora. Ele explica como a máquina faz operações mecanicamente. Analisa o funcionamento mesmo do hardware, as engrenagens... Depois ele recomenda que todo mundo estude uma máquina dessas pelo menos uma vez na vida.

A questão é que a simples existência de uma máquina capaz de calcular desloca profundamente o debate epistemológico, filosófico sobre o que são os números. E é essa a discussão que ele faz.

E numa passagem muito bonita ele lembra que a máquina de calcular construída por Leibniz é um dos artefatos mais apreciados em um museu de Hanover.

Leibniz é um injustiçado. Ele foi absolvido da acusação de plágio pelo Tribunal da História mas os danos causados à sua imagem como matemático, geômetra, permaneceram. A reparação nunca foi feita devidamente... Por que Leibniz teria construído uma máquina de calcular? O Felix Klein arrisca uma resposta. Tenho uma visão parecida. Apenas os Bourbakis, entre os historiadores da matemática mais conhecidos, parecem ter compreendido a estatura real de Leibniz: ela aparece naquele ensaio sobre Fundamentos da Matemática, Lógica e Teoria dos Conjuntos que inaugura os "Elementos de História da Matemática". Neste ensaio Leibniz é visto como deveria ser visto pelos matemáticos de hoje...

Bem. Voltando às máquinas. 

Felix Klein achava que a simples existência de uma máquina capaz de calcular produzia uma séria alteração em todo o debate filosófico sobre o que são os números.

Aí está.

Da mesma forma, a simples existência de uma máquina capaz de produzir conhecimentos, produzir novidades matemáticas, provoca automaticamente um terremoto em nossas certezas estabelecidas sobre o que é conhecimento, inteligência e criatividade.

Como o David Bessis disse no ensaio dele, essas máquinas estão prestes a nos ensinar uma lição brutal sobre o que é inteligência e o que é matemática. 

Para mim, este é o foco. O apocalipse viria de um jeito ou de outro. Não é preciso IA para acabar com a vida na Terra. A soja, o garimpo, os terraplanistas de ultradireita fariam isso da mesma maneira.

(Agora vou marcar a consulta com o terapeuta e dar uma folga aqui pra vocês... Prometo... Brincadeira, não sou o tipo de proletário que tem dinheiro para pagar terapeuta. Mas vou parar de exagerar aqui.)

Abraços!

M.

Usei muito pouco... Mas a presença dele na minha estante me dá uma espécie de segurança.

Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para logica-l+unsubscribe@dimap.ufrn.br.

Para ver esta conversa, acesse https://groups.google.com/a/dimap.ufrn.br/d/msgid/logica-l/CAO6j_Lh3mtoFr5qhmEZ8kL0x2B5mO1Nv4H2H-tjc9iZekyfuTg%40mail.gmail.com.

--

LOGICA-L
Lista acadêmica brasileira dos profissionais e estudantes da área de Lógica <logi...@dimap.ufrn.br>
---

Você recebeu essa mensagem porque está inscrito no grupo "LOGICA-L" dos Grupos do Google.
Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para logica-l+unsubscribe@dimap.ufrn.br.
Para ver esta conversa, acesse https://groups.google.com/a/dimap.ufrn.br/d/msgid/logica-l/CADs%2B%2B6jSswwOwSffE07hKe%2BOcHiKYL_rr54ey3%3DOAu%3DSZX%2B12A%40mail.gmail.com.

[Joao Marcos]

> "we provide causal evidence for two key consequences of AI
> assistance: reduced persistence and impairment of unassisted
> performance"
>
> isso é óbvio pra gente mas não é NADA óbvio pros alunos viciados em
> IAs e que praticamente só têm amigos que também são viciados em IAs...

Muito importante, só para insistir neste ponto: o artigo fala de "a
series of randomized controlled trials on human-AI interactions". Ou
seja, não estamos apenas confirmando aquilo que já reputávamos
"bastante óbvio": há um resultado experimental apontando, como já
indica a citação acima, para uma "evidência causal". Por certo,
outros estudos do gênero seguirão (e isso é importante,
particularmente porque no nosso país raramente tratamos a Educação
como uma ciência).

Querendo ou não, *vamos ter que lidar com essa crescente
descapacitação estudantil*, como profissionais da educação (ou como
pais).
Joao Marcos

--
https://sites.google.com/site/sequiturquodlibet/

[Eduardo Ochs]

Oi Márcio,

vou começar com o exemplo que gera mais brigas. Lá vai... =P

Imagina que o paciente P tá doente e ao invés dele ir em um médico ele
vai em quatro médicos diferentes - estes aqui:

  O médico M1 é um alopata muito bom,

  O médico M2 é o homeopata da Rainha Elizabeth,

  O médico M3 é um alopata recém-formado que acabou de se formar num
  curso de Medicina EAD numa UniEsquina, e

  O médico M4 era astrólogo mas ele fez um curso de fim de semana
  sobre homeopatia e agora ele é "especialista" em tratar câncer com
  homeopatia.

Cada um desses quatro médicos vai ter um modelo mental diferente -
MM1, MM2, MM3, MM4 - sobre o que o paciente P tem. A partir desses
modelos mentais eles dão diagnósticos - D1, D2, D3, D4 - pro paciente
P, e a função do diagnóstico é indicar um tratamento - T1, T2, T3, T4
- que siga protocolos bem conhecidos.

Agora vou resumir isso numa frase curtinha: "a função do diagnóstico é
indicar um tratamento".

As suas mensagens têm me dão a impressão de que você vê muita coisa
como inevitáveis, que você vê muitas discussões como bobas porque,
simplificando bastante, "IAs não são nem boas nem ruins", e que pra
você é o melhor diagnóstico é "capitalismo"...

Eu tenho vários amigos e conhecidos que diagnosticam muitos problemas
como "capitalismo", e pra quase todos eles isso é um "diagnóstico" que
não leva a um "tratamento" - eles não conseguem fazer nada.

  ...,
    [[]],
      Eduardo...

Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para logica-l+u...@dimap.ufrn.br.

Para ver esta conversa, acesse https://groups.google.com/a/dimap.ufrn.br/d/msgid/logica-l/CAO6j_Lh3mtoFr5qhmEZ8kL0x2B5mO1Nv4H2H-tjc9iZekyfuTg%40mail.gmail.com.

--
LOGICA-L
Lista acadêmica brasileira dos profissionais e estudantes da área de Lógica <logi...@dimap.ufrn.br>
---
Você recebeu essa mensagem porque está inscrito no grupo "LOGICA-L" dos Grupos do Google.

Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para logica-l+u...@dimap.ufrn.br.

[Márcio Palmares]

Perfeito, Eduardo, xeque-mate, você me pegou nisso... Eu realmente não sei o que fazer...

Acho que essa Declaração de Leiden que o João Marcos divulgou tem várias propostas boas, como um início de políticas públicas para o tema.

Vamos ver.

Abraço!

M.

Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para logica-l+unsubscribe@dimap.ufrn.br.

Para ver esta conversa, acesse https://groups.google.com/a/dimap.ufrn.br/d/msgid/logica-l/CAO6j_Lh3mtoFr5qhmEZ8kL0x2B5mO1Nv4H2H-tjc9iZekyfuTg%40mail.gmail.com.

--
LOGICA-L
Lista acadêmica brasileira dos profissionais e estudantes da área de Lógica <logi...@dimap.ufrn.br>
---
Você recebeu essa mensagem porque está inscrito no grupo "LOGICA-L" dos Grupos do Google.

Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para logica-l+unsubscribe@dimap.ufrn.br.