SCARの部品の中に、一番ノーマルマップと相性の悪そうな形状があると思ったので試してみたら案の定・・・。
こういう形状は無理してノーマルマップにこだわらず、角の微妙な丸みを諦めてシャープエッジにするか、ポリゴンを面内に押し出して法線を安定させるか、もしくはハイポリ側をベイクしやすい形状にしたほうがいいのかもしれない。
A:ソースとなるハイポリ
B:ローポリのワイヤー構成
C:Bのシェーディング表示
D:Mayaで法線を編集して少しマシに
E:Mayaでノーマルマップをベイク
F:xNormalでベイク
法線を変更することの有用性は最近知ったばかり。もっと早く知っておくべきだった。
ちょっと世代の古いゲームからも使われているっぽい。
＊追記＊
UDKへの出力に関して、上の作業のようにスムースメッシュではないカスタマイズされた法線情報を確実にUDKに持っていくには、AutodeskのFBXプラグインを使う必要がある。
http://www.3dmotive.com/exportingqualifiednormals/
実際にSkeletalMeshのPSKでは法線情報を持ち込めなかった。