Hola..
Mental Ray, es un motor de render integrado a 3Ds MAX (ahora también a AutoCAD 2007 e Inventor) que permite obtener cálculos de iluminación fisicamente correctos, es decir, interpreta mejor la incidencia de la luz sobre los objetos de tu escena, de tal manera que el resultado de la imagen final es mucho más realista.
En 3Ds MAX esta integrado desde la versión 6, calcula muy bien la iluminación global, reflexiones y refracciones de la luz, como también efectos cáusticos.