Commençons par nous limiter aux modes relatifs à des coordonnées cartésiennes, liés à une géométrie rectangulaire.
On peut alors écrire une solution de l'équation d'onde sous la forme :
où g (resp. h) est une fonction de z et de x (resp. de z et de y).
En intégrant cette solution dans l'équation d'onde paraxiale, on obtient une équation différentielle pour g et h qui admet pour solution des polynômes d'Hermite.
On peut montrer (mais on ne le fera pas ici par manque de place) que l'on obtient un ensemble complet de solutions sous la forme :
où :
m, n sont des entiers
q, R et w sont les mêmes que ceux définis pour le mode fondamental gaussien
: polynôme d'Hermite d'ordre m.
On a par exemple H0(X) = 1, H1(X) = 2X, H2(X) = 4X²-2 etc.
Pour m = n = 0, on retrouve le mode fondamental gaussien.
Pour m et n quelconques, la loi de propagation pour R, q et w est inchangée. Seuls le déphasage et la structure transverse du faisceau sont différents.
On peut observer sur les figures 19 et 20 la répartition d'intensité pour ces modes. On note la présence de « zéros », sous forme de lignes sombres, dont le nombre correspond à l'ordre considéré.
Le déphasage au bout d'un aller-retour dans une cavité à deux miroirs doit être un multiple de . En partant du terme de phase et en procédant comme au paragraphe intitulé "Fréquence des modes TEM00 dans le cavité" on obtient l'expression de la fréquence d'un mode TEMmnq .
gi est le paramètre 1-d/Ri défini pour une cavité de longueur d et les rayons de courbure des miroirs Ri. Pour m=n=0 on retrouve évidemment l'expression du paragraphe "Fréquence des modes TEM00 dans le cavité" pour le mode fondamental.
Le spectre des fréquences dépend des valeurs des rayons de courbure :
Regardons ce qui se passe pour un résonateur quasi-plan (R1 et R2 égaux et très grands devant d) :
Le terme en arccos de l'expression ci-dessus devient arccos (g) et g est proche de 1 donc on peut écrire : . Les fréquences sont très proches des fréquences . L'intervalle spectral pour ou vaut soit quelques dizaines de MHz environ.
Pour une cavité symétrique quasi-confocale (R1 = R2 = d) on trouve un écart entre les modes de c/4d et une dégénérescence des fréquences (les modes longitudinaux et certains modes transverses ont la même fréquence).