Aus Sicht des Mediengestalters würde ich sagen: Bleib bei einem einheitlichen Layout, wenn die Bücher zusammen gehören. Das schafft a) einen Wiedererkennungswert und b) musst du weniger Ressourcen für den Redesign-Prozess aufwenden. Du kannst also bei deinem bisherigen Arbeitsprozess bleiben, ohne dir nebenbei noch Gedanken darüber zu machen, wie das jetzt noch schöner aussehen kann.
Davon abgesehen kann man meiner Meinung nach bei unterschiedlichen Büchern durchaus kleinere Änderungen vornehmen. So könntest du bspw. für die Bücher
Die Welt,
Kreaturen und das Magiebuch unterschiedliche Farben nutzen, so lange du sonst nichts änderst. Konkreter: In deinem Grundregelwerk hast du ja ein Pastellgrün als Farbe für die Kästen gewählt. Im Magiebuch könntest du das in ein Pastellblau ändern, beim nächsten Buch in ein Hellrot und so weiter. Das grundsätzliche Layout bleibt also immer gleich, aber die Farbe gibt den Lesenden dann einen Anhaltspunkt, in welchem Buch sie sich gerade befinden.
Beim genannten LotFP liegt der unterschiedliche Stil meines Erachtens daran, dass LotFP-Bücher immer ein starker Ausdruck der Individualität der einzelnen Autoren ist. Nicht selten kommt es ja auch vor, dass die Autoren sogar selbst für die Illustrationen zuständig sind. Da kann ich es nachvollziehen, dass die Bücher auch individuell gestaltet sind. Dazu kommt der Anspruch von LotFP, weird zu sein. Ein diverses Layout hilft dabei.
Dass man trotz eines gewissen Weirdness-Faktors einheitliches Layout haben kann, zeigt dann wohl DCC. Ich habe mich zwar noch nicht mit dem System befasst, denke aber (und würde mich da anhand des einheitlichen Layouts bestärkt fühlen), dass hier im Gegensatz zu LotFP nicht so sehr der einzelne Autor im Vordergrund steht, sondern das Abenteuer.
Mainstreamigere Systeme sind ebenfalls sehr einheitlich: Zumindest bei D&D ist das Layout über eine Edition hinweg immer sehr beständig. Das geht dann sogar so weit, dass aktuell in der 5. Edition sogar die Buchrücken fast komplett gleich sind und sich nur durch den Titel und das Symbol des Buches unterscheiden lassen. In der 4. Edition hatten unterschiedliche Arten von Büchern noch unterschiedliche Farben beim Buchrücken (z.B. Spielerhandbücher blau, SL-Handbücher rot, Monsterhandbücher grün). Was mich übrigens wieder zu meinem Punkt oben bringt, dass unterschiedliche Bücher trotz einheitlichen Layouts durchaus verschiedene Farben nutzen dürfen.
Insgesamt würde ich also sagen: Solange du dich in einer Produktlinie bzw. Edition befindest, nutze ruhig ein einheitliches Layout. Sobald dann eine neue Linie aufgemacht wird, kannst du auch ans Redesign gehen.
Und nur aus Interesse: Welche Programme nutzt du denn für das Layout?