Consegui instalar, recriei o pendrive no Windows usando imagem raw do yosemite e instalou certinho, mas precisei habilitar o ehci na bios da gigabyte ou o sistema não sobe, na instalação subiu coma resolução nativa inclusive no boot e apos instalar e reiniciar sumia o video, apaguei as kexts de video da nvidia ae o sistema subiu, baixei o driver no site da nvidia e ficou perfeito, só no boot que a resolução não fica em full hd.
Uso o clover