Le pouvoir séparateut d'un instrument d'optique est limité par les phénomènes de diffraction.
Pour la quasi totalité des instruments d'optique, la pupille d'entrée est circulaire.
Dans ce cas, la figure de diffraction a pour expression :
E(x) = E₀[2.J₁(π.x) / π.x]². (a)
J₁est la fonction de Bessel de première espèce et x = d.sinθ / λ (avec θ angle d'observation et d diamètre de la pupille)
La figure de diffraction ou tache d'Airy présente un premier minima nul pour x = 1,22 et la largeur du pic principal à mi-hauteur vaut 1,029.
Presque toute la lumière qui est transmise (83 %) est concentrée dans ce pic.

Le rayon angulaire de la tache de diffraction si le diamètre de la pupille est D est donc : ρ = 1,22 λ / D
Le rayon linéaire de la tache de diffraction d'une lunette de focale F et d'ouverture D est ρ = 1,22 λ.F / D

 On ne peut distinguer deux objets différents dans un appareil que si les taches de diffraction sont distinctes. On peut considérer que c'est le cas si le maximum de l'une correspond au premier minima de l'autre : c'est le critère de Rayleigh.

Utilisation
Courbes : L'intensité de chaque tache est calculée numériquement à partir de la relation (a) puis tracée en bleu. La somme des intensités est tracée en rouge.
Images : Pour limiter le temps de calcul, deux méthodes sont utilisées selon la valeur de l'écart entre les centres des taches.
Si D est supérieur à 2, le recouvrement est négligeable : chaque tache est tracée avec des cercles dont l'intensité de la couleur est proportionnelle à l'intensité lumineuse.
Si D est inférieur à 2, le recouvrement ne permet plus d'utiliser cette méthode. La zone étudiée (−1 < D < 3) est découpée en 900 carrés de côté 4 pixels. L'intensité est calculée au centre de chaque carré qui est ensuite tracé avec la couleur idoine.