MISHA: i moduli non danno problema alcuno per la continuità. Il modulo di una funzione continua è una funzione continua (anche in 2D)! Dunque la continuità in tutti punti di Q è gratuita.
MISHA: Va bene invece dividere la funzione per casi e osservare che gli unici punti problematici per la derivabilità sono i "punti di giuntura" dei diversi casi rappresentati in questo caso bidimensionale dalle parti degli assi contenuti nel quadrato aperto Q.
Risultato: nell'origine hai banalmente la derivabilità, dato che la funzione vale 0 sugli assi. Le due derivate parziali della f in O esistono e sono pari a 0.
Sull'asse x (sulla sua porzone contenuta in Q privata dell'origine già studiata) non hai problemi di derivabilità rispetto a x, ma perdi la derivabilità rispetto a y (usa la definizione di derivata parziale della f rispetto a y in un punto del tipo (x_0, 0) con x_0 in (-1,0) union (0,1)).
Sull'asse y (sulla sua porzone contenuta in Q privata dell'origine già studiata) non hai problemi di derivabilità rispetto a y, ma perdi la derivabilità rispetto a x (usa la definizione di derivata parziale della f rispetto a x in un punto del tipo (0, y_0) con y_0 in (-1,0) union (0,1)).
Dunque la derivabilità (i.e. l'esistenza delle derivate parziali della f rispetto a x e a y) ce l'hai solo in Q privato dei tratti degli assi contenuti in Q, eccezion fatta per l'origine.
Infine, per quanto riguarda la differenziabilità della f. Ce l'hai sicuramente in tutti i punti di Q fuori dagli assi (per il teorema C^1). Infatti le derivate parziali che ti sei calcolato sono addirittura C^infinito in tutti i punti di tale insieme. Sugli assi (ad eccezione di O) non hai differenziabilità della f, non avendo derivabilità.
Cosa succede in O?
Usa la definizione di differenzibilità di f in O=(0,0). Hai:
lim (h,k)-->(0,0) di f(h,k)-f(0,0)-ah-bk / sqrt(h^2+k^2) = (a=b=0 dato che devono essere per forza pari alle derivate di f in O) =
lim (h,k)--> (0,0) di |h|k+k|h| / sqrt(h^2+k^2) = (in polari) lim (r, t)-->0 [ r^2 (|cos t| sin t + |sin t| cos t) ] / [r] =0!
Dunque la f è differenziabile anche in O!
Fine della storia! Vedi sotto per le altre richieste.