AI é um perigo: Tem humanos a utilizando

[Irapuan Martinez]

OpenAI prompeteou para o ChatGPT agir como um hacker e o que aconteceu de terrível? Ele agiu como hacker:

https://openai.com/index/hugging-face-model-evaluation-security-incident/

Bom, o mínimo que você deveria fazer quando pede para uma inteligência em teste agir como hacker e não dar acesso à internet a ela. Mas era pra agir como hacker, ela agiu exatamente como hacker: burlou a sandbox e foi invadir uma empresa.

=x=

Um cara estava com problemas respiratórios e foi fazer o que qualquer pessoa normal faria hoje em dia: Perguntar para o ChatGPT.

https://www.cbsnews.com/news/chatgpt-dangerous-medical-advice-openai-lawsuit/

O ChatGPT então deu a real: Que ele entregasse nas mãos para Deus. O cara quase vai mesmo fazer prompts direto no código fonte do Universo, mas se salvou e no país que se processa empresa de pacote de amendoins porque alguém alérgico a amedoins encontrou e comeu um amendoin que encontrou dentro do pacote de amendoins, está acusando a OpenAI de "medicina ilegal".

Detalhe: O cara era pastor. Imagina-se que a relação dele com o ChatGPT, tenha sido conversando uma coisinha ou outra sobre religião. Não sei se foi o caso, mas o Papa, aquele infalível, chegou a pedir para os padres não usarem o ChatGPT para escrever sermões.

Então, o ChatGPT deu o conselho condizente com a relação que ele desenvolveu com a AI: Ciência é para pagãos, segura na mão de Deus e vai.

[Irapuan Martinez]

Pior de tudo, sou grande entusiasta de usar o ChatGPT como médico.

Criei um projeto e nele, fiz um longo prompt para ele memorizar minhas condições fisiológicas. Idade, sexo, hábitos, histórico, remédios recorrentes, grau dos óculos, onde moro, até o tipo de plano de saúde.

É tipo viver no futuro upar o PDF de um hemograma e ele dizer o que é sinal de alerta ou te despreocupar com o hormônio XPTO está fora da escala. Privacidade? Privacidade para quê?

Mas o chat é bastante conservador comigo: Me manda para o médico o tempo todo. Ele bem que pontua diagnósticos prováveis e improváveis, mas no final, a palavra final tem que ser do curandeiro da tribo.

Mas é o mesmo chat do pastor aí em cima. Por que o ChatGPT não deu uma extrema unção?

Uma coisa que não tinha me dado conta ainda: A saúde do meu relacionamento com o ChatGPT.

Um dia, testei e pedi para ele fazer meu perfil psicológico e ele me adulou dizendo que eu era muito inquisitivo. Ah, eu aposto que você diz isto para todos. Mas talvez não: Como eu o usava para questões técnicas (e em alguns chats, sobre astrofísica e física quântica), ele tem essa impressão de mim.

Mas se eu conversasse coisas sobre o céu, a terra, a água e o ar, imagino que ele se comportaria como assuntos que eu prezo e uma AI tem muita dificuldade de te contrariar (talvez não o Grok). Os humanos estariam fazendo a IA ser supersticiosa e ser treinada para ser esotérica.

=x=

Estava irritado com espinhas internas aparecendo em minhas narinas: Dolorosas, vermelhas, inchadas. Mas depois de ter assistido 50 invernos, eu ter espinhas ainda? ChatGPT, que droga é essa?

Ah, chama-se vestibulite nasal, quando uma bactéria que vive na nossa pele, encontra uma fresta e faz a festa. "Como você vive em Goiás, é uma causa provável por causa da baixa umidade do ar". Diacho, faz muuuuito sentido. Ele fez a inferência sobre onde eu vivo. Mas ele completou "é uma causa provável, melhor você ir ver um otorrino".

Como não se entusiasmar e entregar todo meu prontuário para a OpenAI?

Pelo simples motivo: Viés. Como mostrado acima com o pastor, ninguém tem consciência de seus vieses. O que eu enviesei na minha conta da OpenAI? Nunca vou saber. E o ChatGPT nunca vai querer me contrariar, apontando.

[Guilherme Silva]

Criei um projeto e nele, fiz um longo prompt para ele memorizar minhas condições fisiológicas. Idade, sexo, hábitos, histórico, remédios recorrentes, grau dos óculos, onde moro, até o tipo de plano de saúde.

Eu tenho um notebookLM do Google para isso. Nunca tinha pensado em colocar os dados do plano de saúde... boa.

 O grande lance do notebookLM é que depois de ir pro médico, tu escuta um podcast sobre tua saúde.

[Irapuan Martinez]

Em qui., 23 de jul. de 2026, 12:52, Guilherme Silva <guilherm...@gmail.com> escreveu:

Eu tenho um notebookLM do Google para isso. Nunca tinha pensado em colocar os dados do plano de saúde... boa.

Quando eu mencionei onde eu vivia, o fiz por imaginar que poderia ser relevante. 

Uma vez li um estudo japonês mostrando que mulheres que vivem em apartamentos em Tóquio, tente a ter mais abortos espontâneos. A suspeita era que vivendo em arranha céus, você tem menos tendência a sair ao ar livre.

Neste contexto, você teria que informar onde mora? Se vive numa casa com telha de amianto, acho que sim…

Qual dado é medicamente relevante? Se você assistiu “House”, sabe que o insight da cura só vem quando descobre que o paciente é fã das tirinhas do Garfield (sério, tem um episódio assim).

Claro que na vida real, é Occam: O diagnóstico mais simples TENDE a ser o correto. Mas e se não for? O custo de oportunidade é literalmente sua vida. 

Daí a única saída é uma segunda opinião humana. Não por ser humana, mas por ser uma segunda opinião.

O grande lance do notebookLM é que depois de ir pro médico, tu escuta um podcast sobre tua saúde.

Duas coisas que eu nunca consegui aderir: Podcasts e o NotebookLM.

Podcast, eu sinceramente estou com um attention span onde preciso dividir o episódio de 20 minutos do “Rick & Morty” duas vezes, imagina 4 horas de um entrevistador despreparado e um cara respondendo platitudes.

NotebookLM, eu preciso aderir. Estou reunindo uns PDFs sobre Open Finance (conceitos e casa de máquinas), e pedir para ele fazer o download direito no meu cérebro. 

O problema é 98% do conteúdo sobre o mercado brasileiro, é gerado por um prompt em cima de algum prospecto do Bacen.

Vou ver se acho algum ebook com as paradas trecológicas.