Dans les systèmes optiques cohérents utilisant des schémas de modulation par déplacement de phase, la non-linéarité de la fibre constitue le principal obstacle à l'atteinte de la capacité de Shannon. En pratique, la propagation non-linéaire dans la fibre introduit un bruit de phase qui ne peut pas être complètement compensé par des égaliseurs DSP linéaires. Pour compenser ces non-linéarités, des égaliseurs non-linéaires plus performants, basés sur la Digital Backpropagation ou sur les séries de Volterra, sont souvent trop gourmands en calculs pour leur déploiement en temps réel dans les récepteurs actuels. Dans ce contexte, une alternative prometteuse aux égaliseurs non linéaires classiques réside dans l'utilisation des réseaux de neurones artificiels lesquels, par rapport aux égaliseurs non-linéaires, présentent l'avantage d'une complexité calculatoire maîtrisée. En utilisant des simulations numériques d'un DP-16QAM sur 14x100 km de fibre monomode standard, nous avons montré que, pour de longues distances, des réseaux de neurones simples potentiellement implémentables dans un récepteur ne compensent pas le bruit de phase non-linéaire aussi efficacement que les techniques classiques. De plus, ce travail montre que l'utilisation d'une fonction de coût basée sur l'erreur quadratique moyenne lors de l'entraînement introduit une déformation non-linéaire du diagramme de constellation en sortie de réseau. En particulier, pour les constellations QAM quadratiques, cette déformation se traduit géométriquement sous la forme d'une grille. Ce phénomène, que nous avons nommé MMSE-scatterplot, peut affecter significativement les traitements DSP ultérieurs de la chaîne de réception. Après une analyse théorique de ce phénomène, ce travail présente une technique innovante pour atténuer cet effet et améliorer les performances de la chaîne.