撮像レンズ系や照明光学系など、一口に『光学設計』と言っても分野は多岐に渡ります。
漠然としたゼロからのスタートより、光学系の目的に合った実績のある事例からスタートする方がより短い時間で目的を達成できることが殆どです。そういった意味では光学設計CADで実際の最適化を行う前から『最適化』は始まっているといっても過言ではありません。

撮像レンズ系の最適化では通常、光線収差やMTFといった光学指標がどの方向に設計を改良していけば改善するか、解の分布する空間の傾きを計算しながら進めていきます。普通は設計で変更出来るレンズの曲率や厚み・間隔と言ったパラメータは多数あるので、どの方向にどのパラメータを動かせば良いのかは全く分からないということもあります。
光学設計CADが裏側で全てをやってくれているので、通常はユーザがこれを意識することはありません。
(意識出来るのなら意識した方がよいですけど)

光学設計CADには大抵、複数の最適化アルゴリズムが搭載されていて、ZemaxだとDLS, OD, DLSX, PSD、OpTaliXだとKT, LMといった具合です。
私の場合、通常ZemaxではDLS、OpTaliXではLMを使用しています。これらは汎用的に使える上、収束の早いアルゴリズムだからです。
でも最適化が進むところまで進んでしまうと、あと一息、の場面でどうにもならなくなる事もありますね。
その時はメリットファンクションに矛盾が無いか、ウエイトは適切かといった調整で四苦八苦します。
それでもダメな時は最適化アルゴリズムを切り替えて悪あがきをします。

ブログを読んでくださっている皆さんも、行き詰った時は色々悪あがきをしてみてください。笑
結構、限界突破できることもありますよ。