De nada Calamity, que menos que cn las molestias que te tomas, y la paciencia que tienes conmigo que intentar ayudar. Bueno al tema.
He estado haciendo pruebas, generando nuevas modelines con el xml2 limitando el valor de HfreqMax a 15.800 como me has indicado, aunque por lo que veo, y ahora verás, a mi aún me salen modelines mayores de 15,8KHz.
Estas modelines que te pego tienen los mismos defectos gráficos que antes de modificar la frecuencia horizontal. Te pego en orden (según Resviewer) los modelines que tienen el problema gráfico.
Modeline "240x240_57,4Hz 15,8KHz (57Hz)" 5.180 240 264 288 328 240 249 252 275 -hsync -vsync
Modeline "256x224_56,0Hz 15,9KHz (56Hz)" 5.580 256 280 304 352 224 245 248 283 -hsync -vsync
Modeline "257x240_57,4Hz 15,7KHz (57Hz)" 5.520 257 280 304 352 240 247 250 273 -hsync -vsync
Modeline "256x240_58,0Hz 15,7KHz (58Hz)" 5.510 256 280 304 352 240 246 249 270 -hsync -vsync
etc etc...
En esta que te pego a continuación es la única que hace que se me vuelva ¨loca¨la imagen, y casualmente es la resolución que utiliza el emu Handy (Atari Lynx) en modo Fullscreen x1, si la borro de la lista el emulador coge otra y ya funciona perfecto, por cierto. Supongo que el error vienen dado por estar a 69Hz, pero claro está no tengo idea de arreglarla, ni si sé si el MAME utiliza muchos juegos con esta resol, por lo tanto me veo obligado a borrarla para poder usar el emu Handy.
Modeline "320x200_69,2Hz 15,8KHz (69Hz)" 6.970 320 352 384 440 200 205 208 229 -hsync -vsync
Ahora tengo un caso que seguro te dirá qué problema tiene mi maldito televisor con el defecto gráfico de las lineas que se desplzan en bloque hacia la izquierda, seguro que te ayuda, el caso viene con la resolución 320X240 (la de Sega MegaDrive). Te pongo debajo su estatus
Modeline "320x240_50,0Hz 15,8KHz (50Hz)" 6.950 320 352 384 440 240 269 272 316 -hsync -vsync
Se ve PERFECTA
Modeline "320x240_54,0Hz 15,7KHz (54Hz)" 6.890 320 352 384 440 240 256 259 290 -hsync -vsync
Se ve PERFECTA
Modeline "320x240_56,0Hz 15,8KHz (56Hz)" 6.970 320 352 384 440 240 253 256 283 -hsync -vsync
Aquí empiezan los errores. Un bloque (del tamaño de un dedo) de lineas se desplazan hacia la izquierda. Vamos a poner que son 4 (número hipotético) para que veas la diferencia gradual en la que desaparecen.
Modeline "320x240_57,4Hz 15,8KHz (57Hz)" 6.950 320 352 384 440 240 249 252 275 -hsync -vsync
Tenemos un bloque de lineas que se desplaza hacia la izquierda pero menor que el anterior modo, digamos que son 3 lineas las que se desplazan
Modeline "320x240_57,6Hz 15,7KHz (58Hz)" 6.890 320 352 384 440 240 247 250 272 -hsync -vsync
Tenemos un bloque de lineas que se desplaza hacia la izquierda pero menor que el anterior modo, digamos que es 2 líneas las que se desplazan
Modeline "321x240_58,0Hz 15,7KHz (58Hz)" 6.890 321 352 384 440 240 246 249 270 -hsync -vsync
Tenemos un bloque de lineas que se desplaza hacia la izquierda pero menor que el anterior modo, en este caso una 1 línea las que se desplaza.
Modeline "320x240_59,6Hz 15,8KHz (60Hz)" 6.950 320 352 384 440 240 243 246 265 -hsync -vsync
Se muestra en pantalla EXACTAMENTE igual al modo anterior 321x240_58,0Hz 15,7KHz (58Hz)
y saliendo del modo 320x240 nos vamos al 320x255 que sería el siguiente y nos econtramos con:
Modeline "320x255_57,4Hz 15,8KHz (57Hz)" 6.950 320 352 384 440 255 256 259 275 -hsync -vsync
Aquí volvemos a tener el mismo defecto gráfico visto en 320x240_56,0Hz 15,8KHz (56Hz), un bloque de lineas desplazadas hacia la izquierda, digamos que un total de 4 (como un dedo de grande)
Yo diría que con este modo, 320x240 tiene que estar la clave
PD. Decir que he descubierto un nuevo defecto gráfico, por la parte superior la imagen se turce hacia la izquierda, como dos dedos de la pantalla que se van en curva, esto me pasa en el modo 304x264@56 si mal no recuerdo.