Se puede hacer con AviUtl:
http://spring-fragrance.mints.ne.jp/aviutl/
Y recuerda que el fichero
SSFV_Reader.aui, que viene con el emulador, debe estar en la misma carpeta que
aviutl.exe.
Si no te funciona, prueba con los distintos plugings que hay en esa página.
Si no quieres usar ese formato, usa FRAPS o cualquier grabador de vídeos, que hay un montón por la red, en lenguajes más "asequibles".