Выбери какую-нибудь дисковую конфигурацию, загони туда РОМ-ы - и всё. У меня настроена конфигурация СРС-400, всё нормально, играю в "Пистолетова"
Хотя под виндой, думаю, лучше blueMSX.
Пишите в баг трекер к опенМСХ - http://sourceforge.net/p/openmsx/bugs/ - если это явный баг. Или лучше заходите на irc.freenode.org канал #openMSX - поговорим. Я щас типа занялся разработкой оного катапульта.