Hola:
Es raro que las antilambdas en entornos matemáticos te den problemas, pueden ser varios problemas, sobre todo que tu mapa de caracteres declarado en tu documento no coincida con el de tu documento. Ahora bien, para saber si es un bug de TeXstudo o un error de codificación o de otro tipo haz lo siguiente:
- Limpia los archivos auxiliares (Herramientas>Limpiar archivos auxiliares...) en TeXstudio, basta que sean los del documento en cuestión, no toda la carpeta si es que tienes otros documentos creados en LaTeX.
- Si persiste el problema crea un documento nuevo con la clase article y en un entorno matemático intenta usar de nuevo los diples o antilambdas y compila.
- Fíjate cual es el mensaje de error que te da el compilador. LaTeX es relativamente elocuente cuando algo no sale bien y te da pistas.
Si de todos modos con lo anterior no logras dar con el error, puedes responder y copiar la expresión que te está dando problemas para ver si no es un problema de codificación o algo diferente.
Saludos