Si existiera la derivada de $f$ en $0$, ésta vendría dada por:
$f'(0)=\lim_{h\to 0}\frac{f(h)-f(0)}{h}=\lim_{h\to 0}\frac{h\sin(1/h)}{h}=\lim_{h\to 0}\sin(1/h),$
sin embargo dicho límite no existe pues mientras $h\to 0$, $1/h\to\infty$ y por lo tanto $\sin(1/h)$ no se aproxima a ningún valor en concreto. Nótese sin embargo que $f$ sí es diferenciable en cualquier punto $x\neq 0$ (basta usar formulazo para encontrar que $f'(x)=\sin(1/x)-\frac{\cos(1/x)}{x}$, para cualquier $x\neq 0$). Lo que también es bastante curioso acerca de esta función es que es continua en todos los puntos: que sea continua en $x\neq 0$ es consecuencia de que sea diferenciable ahí, mientras que para $x=0$, tenemos que:
$\lim_{x\to 0}f(x)=\lim_{x\to 0}x\sin(1/x),$
dicho límite es igual a $0$ debido a que es el producto de una función acotada (a saber, $\sin(1/x)$) por una que tiende a cero (a saber, $x$). Por lo tanto
$\lim_{x\to 0}f(x)=0=f(0)$
y $f$ es continua (pero no diferenciable) en $0$.