Pues bueno como todos sabréis Game Maker siempre tuvo problemas cuando metías demasiadas instancias en el juego, temas de procesar supongo y si pones demasiadas hay bajones muy bestias de FPS.

Cómo se puede optimizar este tema? Hay alguna forma que ya existe para manejar estos temas de optimización?

No creo que sea especialmente GM el que tenga problemas con el exceso de instancias. Una forma de optimizar un juego es monitorear la cantidad de recursos que consume cada elemento del juego mediante el debugger y así centrar los esfuerzos de optimización en lugares donde realmente se puede hacer una diferencia.