Yabause es bastante exigente, tira de grafica 3D y además aún tiene que madurar.
Como tienes Windows y ese CPU modesto yo te aconsejaría mejor que pruebes con SSF.
Pagina oficial:
http://www.geocities.jp/mj3kj8o5/ssf/index.html
Link directo al emulador:
http://www.geocities.jp/mj3kj8o5/ssf/files/SSF_012_beta_R4.zip
Necesitarás la bios de Saturn si quieres mayor compatibilidad con juegos. (que no te podemos facilitar, por dudosa legalidad y normas de la web, nada de software con copyright)
La Saturn es una maquina con un hardware bastante mas complejo que lo hace muchísimo mas complicado de emular que PSX. (no pienses que si emulas PSX sobradamente el emulador de Saturn debe ir igual)
Por cierto, algún problema tienes si solo puedes usar 1.87 gb de RAM de 4gb, vale que no tengas un S.O. de 64bit, pero por lo menos debería rondar los 3gb y pico usable, y aunque quisiese echarle la culpa al robo de ram de quizá tener grafica integrada tampoco explica tanta RAM faltante.