固定絞り形状には普通、円形を使うことが殆どだと思います。
時には矩形の形状が必要なこともあります。
Zemaxの場合、面のプロパティから円形開口や矩形開口を簡単に定義することが出来ます。

このような簡単な形状のアパーチャばかりなら良いのですが、時々変な形状を使わなくてはいけない場合もあります。
その際、Zemaxではユーザ定義のアパーチャとしてテキスト形式でUDAファイルを作る必要があります。
詳細はマニュアルをご覧いただきたいと思いますが、いくつかのコマンドが用意されていて座標を指定していく形で形状を定義します。
これを拡張子がudaのテキストファイルとして作成すると開口と遮蔽の両方に使うことが出来るようになります。
恐らくビネッティングファクターとは相性が悪そうです。
というのもビネッティングファクターを使う場合、瞳の形状を楕円で近似する前提があるからです。

OpTaliXにも同様の機能が搭載されていて、簡単な形状の組み合わせやポリゴンも可能です。
こちらは拡張子がplgのファイルを作れば読み込みが可能になります。

レンズを一部、切欠いたりする場合などに使ってみてください。