$S_3$ actúa permutando variables en $K[X_1,X_2,X_3]$, es decir, si $\sigma\in S_3$ y $f(X_1,X_2,X_3)\in K[X_1,X_2,X_3]$, entonces $\sigma.f(X_1,X_2,X_3)=f(X_{\tau(1)},X_{\tau(2)},X_{\tau(3)})$; es decir, haces un cambio de variable de acuerdo a la permutación $\sigma$.
Por ejemplo, si $\tau=(12)$ y $f(X_1,X_2,X_3)=1+2X_1-X_2+3X_3$, entonces $\tau.f(X_1,X_2,X_3)=f(X_{\tau(1)},X_{\tau(2)},X_{\tau(3)})=1+2X_2-X_1+3X_3$.
Luego, el problema es que obtengas relaciones entre los coeficientes para que el polinomio sea "simétrico" o sea un punto fijo de la acción.