Cinema4Dのソフトエッジ・ハードエッジの構成は、ある角度以上の角全体にスムースエッジが自動処理され、必要な角のエッジにハードエッジをかける仕組み。あくまでエッジ単位の区別。
Mayaは面ごとの頂点に法線情報があり一つの頂点でも使う面ごとに法線が指定される。C4Dと同じようにエッジやフェイス単位でソフト/ハードエッジを切り替えることも可能。
C4DもMayaもハードエッジ/ソフトエッジは法線処理を使って処理されると見ていいと思う。ちなみに法線とは面の向きの定義。面ごとの頂点法線が、面から割り出された法線からの平均方向に統一されるとソフトエッジになる。異なる頂点同士の法線の違いは面の表面内でグラデーション処理されて緩和されている。
C4DからMayaにソフト/ハードエッジ情報を持たせてデータ移行するにはColladaが最適。C4DのFBXでは確実にサポートされていないようだ。
しかしこのままMayaからUDKに出力すると全てのエッジがハードエッジになっていると思う。どうやら法線とはまた違った処理でソフトエッジがかかっているらしく、「法線のロック解除」を行うと本当の法線の状態が見れる。全てがソフトエッジかハードエッジなら、まとめてどちらかの処理をかければいいが、ソフト/ハードエッジが入り乱れているモデルの場合、エッジを再設定するのは結構面倒。
「法線のロック」で構成されたソフト/ハードエッジを法線として成り立たせるには、ロックの解除をされる前の状態で一旦FBXに変換する。
・エクスポート時
オプションにあるカレント プリセットで「Autodesk Media & Entertainment」のデフォルト状態にしてエクスポート。
・インポート時
同じプリセットからジオメトリの項目で「法線ロック解除」と「頂点単位の法線を結合」にチェックを入れる。
これで法線のロック情報が法線そのものになっている。ロックの解除をしても変わらない。
何でCinema4Dからのデータ移行にこだわるのかというと、ポリゴンのモデリング・UVの処理はMayaよりCinema4Dのほうが高速にできるから。
追記
C4DからMayaへColladaを経由して読み込んだ場合、法線は全てカスタマイズ(ロック)されているものとして認識されている。
FBX形式(接線と従法線オプション)を使って出力し、UDKでTangentオプションを有効にしてインポートすれば、ロックした内容もそのまま読み込むことができる。なので上記の作業が必須というわけではない。