Es una respuesta complicada... Supongo que se resume a si tenés ganas de jugar toda la saga o sólo la tercera parte, que como ya dijeron es la mejor por lejos. Si tenés pensado jugar más entonces sí jugalos en orden porque en Myst 1 se muestran los conceptos básicos donde el resto de los juegos hacen hincapié. La historia del 2 es especialmente complicada, así como el juego en general. En el 3 hay conexiones con cosas pasadas pero también puede disfrutarse como juego independiente, porque aunque te pierdas de algunas cosas la historia se entiende y los puzzles son fantásticos. Y ya luego no te sabría decir porque nunca terminé la cuarta parte xd.
Eso sí, si vas a jugar a los primeros dos te aviso que, en especial el segundo, te van a sacar de quicio. El primero es moderadamente complicado, pero el segundo es dar a luz por el ano. Vas a tener que tener la guía a mano por las dudas.
Y si igual jugás los tres y te llegan a gustar, te recomiendo que consigas el cuarto aunque sea para que se te dilaten los esfínteres por el placer que provoca gráficamente toda la primera parte.
Ah, y con respecto a los libros... No es que tenga muy presente cada detalle de la historia, pero a mí me pareció que se entendía bien lo que se explicaba ahí. En todo caso supongo que en los libros se ahondará en algunos aspectos pero dudo que sean realmente necesarios.
EDIT: Por cierto, en el último viaje a Buenos Aires me compré el Myst 3

. La caja es preciosa, y justamente estaba pensando en rejugarlo. También compré Riven y por algún motivo masoquista también tengo ganas de rejugarlo xd.