やっと解決

いつからかDVDをPSP向けにH.264エンコしてた動画が再生できなくなってどうしたものかと。
いろいろブログを調べてるとどうもパラメータの問題だったことが判明。
つかx264GUIのプリセットで再生できないのが…w
罠過ぎる…orz
そんなわけで行き着いたパラメータはこれ

x264 --crf 22 --qpmin 11 --qpmax 43 --qpstep 8 --scenecut 75 --min-keyint 1 --keyint 240 
--partitions p8x8,p4x4,b8x8,i4x4 --bframes 1 --ref 2 --direct auto --me umh --subme 6 
--b-rdo --no-fast-pskip --no-dct-decimate --threads auto --sar 40:33 --level 3.0

16:9、4:3の切替は「--sar」オプションで。
やっと解決。