Oi, Eduardo...
Interessantíssima a sua mensagem e a sua fundamentação... Não resisto, vou me intrometer como ignorante.
Não conheço nada sobre teoria literária ou semiótica... Achei surpreendente você recorrer a um fundamento teórico como esse, porque a maioria das pessoas (que eu conheço) que escrevem sobre matemática fazem isso de forma espontânea, intuitiva, sem amparo ou referencial.
Meu palpite de mesa de bar:
Existem coisas que chamamos "livros" e coisas que chamamos "apostilas".
A maioria dos assim chamados "livros-textos" de matemática são, na verdade, apostilas.
Uma apostila é uma coleção de definições, teoremas, demonstrações, exemplos, exercícios... Às vezes aparecem resumos curtos de algum tópico teórico.
Um livro é algo muito superior.
Às vezes os problemas são tão bem escolhidos, os exemplos, enunciados de demonstrações, são tão bem escritos, que certas apostilas se passam por livros.
Exemplo: o Joseph J. Rotman escreveu um livro chamado "A First Course in Abstract Algebra". Alcançou três edições. Os primeiros capítulos, que cobrem o básico da teoria dos números, estão escritos num estilo de narrativa histórica... Há claramente um clima literário, o autor conversa com o leitor, mostra um panorama amplo e em diversos momentos mostra o quanto as demonstrações são importantes. Temos a impressão de estar diante de uma narrativa.
Porém, quando começa a teoria de grupos, o texto sai do ambiente de narrativa histórica e volta para o clima de apostila. É meio decepcionante, a despeito do conteúdo que é muito bom. Mas há uma mudança brusca na forma de exposição.
Depois de anos descobri o motivo. Os primeiros capítulos desse "A First Course in Abstract Algebra" foram retirados de um livro dele chamado "Journey into Mathematics: An Introduction to Proofs". Este último é um livro mesmo.
Então, do alto do meu amadorismo, eu diria que deveríamos sempre tentar escrever livros, e não apenas apostilas (embora as apostilas tenham também sua utilidade).
O trabalho do Apostol que eu citei é um livro. Para mim, é literatura didático científica. Claramente tem estrutura, identidade: o autor conta uma história. Não necessariamente no sentido de história da matemática. Ele conta uma história de conceitos.
E sobre a relação do autor com o leitor, eu diria que o essencial é permitir que o leitor participe da construção dos conceitos e tenha a sensação da descoberta. Pois quando apreciamos uma obra de arte, a apreciação é de certo modo uma reprodução do ato de criação do artista (Bronowski). Os conceitos científicos são criações também, e para nos apropriarmos deles precisamos reviver o ato de criação, participar da invenção, da descoberta (Bronowski).
E justamente esse deleite estético é roubado do leitor em quase todas as exposições que seguem a forma: "axiomas, definições, teoremas, exemplos, exercicios", porque aqui não há nenhuma aventura intelectual, há apenas uma espécie de anatomia de uma criatura (um corpo de conhecimentos) já morta, mumificada.
Bem, não ajudei nada, mas talvez ajude um pouco...
Abraço,
M.