Podría ser la tarjeta gráfica, que haya cascado.
Hace poco me paso algo parecido con un MacPro 3.1. A mi en vez de rayas me salia pixelada la pantalla y se quedaba colgado.
Lo solucioné como te decian antes comprando nueva tarjeta grafica.
Compré la ATI 5770 y todo perfecto....
Con las ultimas actualizaciones de SO han cascado muchas gráficas de Mac pro entre ellas la mía. Si necesitas sacar la información inicia el ordenador con la tecla T pulsada. Así es como pude hacer uso de la información del ordenador hasta que pude comprar la nueva gráfica y ademas te aseguras de que el ordenador sigue funcionando.
Uns aludo