Mi respuesta está larga. No encontré algo más sencillo. Digamos que el pentágono tiene vértices A, B, C, D y E en ese orden.
Primero asumo que A, B y D coinciden con los vértices de un pentágono regular, en el que A y B comparten una arista, y D es el vértice opuesto a ésta. En caso de no ser así, se puede obtener esta propiedad a partir del pentágono original por medio de una transformación lineal biyectiva que preserve al segmento AB. La transformación lineal no necesariamente preserva el área, pero sí preserva proporciones de áreas de regiones, en particular la proporción del pentágono con cada uno de los tríangulos buscados.
Supongamos que el pentágono regular tiene por vértices A, B, C', D y E' en ese orden. Falta determinar la ubicación de los vértices C y E del pentágono original respecto a este pentágono regular.
A continuación listo una serie de proposiciones no muy difíciles de probar, y cada una de ellas restringe las regiones donde pueden ubicarse C y E en caso de buscarse un contraejemplo. El último inciso elimina la posibilidad de tal contraejemplo.
1) Si tanto el ángulo entre las rectas AB y AE como el ángulo entre las rectas AB y BC son mayores a 108 grados (3\pi / 5), entonces el triángulo del pentágono original definido por el segmento AB tiene menor área que el triángulo ABC (considérese el triángulo delimitado por las rectas AB, AE' y BC'; éste es congruente al triángulo ABD).
Como consecuencia, podemos asumir sin pérdida de generalidad que el punto C está en la región delimitada por las rectas AD y BC' (además de no estar en el mismo hemiplano de la recta BD que A).
2) Sea L la recta que pasa por el punto medio de AB y el punto medio de C'D. Entonces C se encuentra dentro de la región delimitada por L y la recta soporte de BC'. De lo contrario, el área del triángulo exterior del segmento CD es menor al área del cuadrilátero ABCD.
3) Asumiendo los incisos anteriores, si C y A se encuentran en el mismo hemiplano delimitado por la recta C'D entonces sea X la intersección de las rectas BC' y DC; y sea Y la intersección de las rectas AB y CD. Entonces el triángulo BYC tiene menor área que el cuadrilátero ABCD (comparar los triángulos BXC y BCD; y los triángulos BXY y ABD).
Así que asumimos que C se encuentra en la franja descrita por el inciso (2) en la parte que queda fuera del pentágono regular.
4) Asumiendo los incisos anteriores, si E se encuentra en el hemiplano opuesto al de B de la recta DE', entonces el triángulo exterior determinado por la arista CD tiene área menor a la del triángulo ABD (compárese con el triángulo dado por las rectas C'D, BC' y DE').
Asumimos entonces que E y B están en el mismo hemiplano determinado por la recta DE'.
5) Asumiendo los incisos anteriores, si E se encuentra en el mismo hemiplano que B de la recta C'E', entonces el triángulo exterior determinado por la arista AE tiene área menor a la del triángulo ABD (considérese el triángulo determinado por las rectas AB, DE' y AE').
6) Finalmente, asumiendo los incisos anteriores, el triángulo exterior determinado por la arista DE tiene menor área que el triángulo ABD (comparar con el triángulo delimitado por AE', C'D y DE'; usar el punto Z de intersección de DE' con AE para comparar los triángulos AED y DEZ).
