Un ejemplo que a mí me gusta mucho, es pensar por ejemplo en el grupo de isometrías de $\mathbb R^2$, llamémoslo $G$. Como estamos haciendo teoría de grupos, quisiéramos pensar en $G$ de manera abstracta (olvidándonos del hecho de que los elementos de $G$ son funciones, sobre todo porque tal vez en algún momento queramos reemplazar a $G$ por algún otro grupo isomorfo a él), pero a la vez quisiéramos recordar cómo cada elemento $g\in G$ puede "aplicarse" a un vector $\vec{x}\in\mathbb R^2$ para obtener un vector distinto $g*\vec{x}\in\mathbb R^2$. Pareciera que lo que importa no es tanto multiplicar un elemento del grupo con otro elemento del grupo, sino más bien poner juntos un elemento del grupo $G$ y un elemento del conjunto $\mathbb R^2$ y de alguna manera obtener otro elemento de $\mathbb R^2$ de esta manera.
Otro ejemplo similar es cuando trabajamos con el grupo $S_n$ de permutaciones en $n$ elementos. Este grupo es muy interesante como grupo, pero a veces queremos usar esas permutaciones $\sigma\in S_n$ para aplicarlas a números y ver qué les pasa: obtener $\sigma(i)$ a partir de $\sigma$ e $i$. Desde el punto de vista abstracto, no queremos hacer uso del hecho de que los elementos de $S_n$ son funciones (sobre todo, porque tal vez en algún momento queramos sustituir $S_n$ por algún otro grupo isomorfo a él...), por lo cual preferimos hablar de manera abstracta de que tenemos una regla para obtener, dado $\sigma\in S_n$ e $i\in\{1,\ldots,n\}$, un nuevo elemento $\sigma*i\in\{1,\ldots,n\}$.
Esto justifica la definición de acción de un grupo $G$ en un conjunto $X$ como una función $G\times X\longrightarrow X$ que satisface un par de propiedades extra (nada misteriosas, simplemente quiero que la función se comporte bonito respecto de la operación de grupo). Una vez que observamos que, dado un $g\in G$ fijo, éste determina una biyección $X\longrightarrow X$ (dada por $x\longmapsto g*x$), es natural pensar en la otra definición (equivalente a la anterior) de acción del grupo $G$ en el conjunto $X$ como un homomorfismo $G\longrightarrow S_X$ (donde $S_X$ es el grupo de permutaciones (biyecciones) de los elementos de $X$) (el hecho de que esta función sea un homomorfismo corresponde exactamente con el hecho de que queremos que la acción se comporte bien respecto de la operación de grupo).