det er fordi den ikke er stabil ved så højt oc... det er nok ikke pga varme som du selv siger, men snare manglen på strøm..
strøm mangel kan være to ting, 1 din psu, 2 at selve board ikke giver gpu nok strøm.. jeg ville tro det er gpu som ikke får nok strøm.. løsningen kan være volt-mod...