Ich bin auch gerade im Lektorat meines RPGs Dunkle Zeichen (Low-Mid Fantasy, ich würde nicht sagen Horror, aber doch eher auf der düsteren Seite) und habe mir zur Struktur eines RPGs gewisse Gedanken gemacht:
1) Was ist ein Rollenspiel?: Habe ich weggelassen. Mein RPG wird wahrscheinlich an Leute gehen, die genau wissen, was ein Rollenspiel ist und wenn es wider Erwarten durch die Decke geht, dann gibt es eine zweite Auflage. Generell finde ich sowas auch deutlich besser in einem Schnellstarter aufgehoben, der sich explizit an neue Spieler richtet. Dort würde ich auch ein Einstiegsabenteuer und grundlegende SL-Tips verankern. Diese Sachen schleppt man sonst später im Regelwerk mit, im wahrsten Sinn des Wortes, obwohl man sie nicht mehr anschaut.
2) Ob das Setting vor oder nach den Regeln verortet ist, finde ich Geschmacksache. Tendenziell würde ich sagen, je abgefahrener die Sache, desto eher davor. Man kann auch zwei Bücher daraus machen, wenn ein Buch zu dick würde (ab ca. 300 Seiten).
3) Ich persönlich finde es besser, die Characktererstellung/Steigerung nach den Regeln anzusetzen. Ansonsten hat der Leser nur ein sehr begrenztes Verständnis davon, was er da überhaupt steigert und wie die eine Fertigkeit sich jetzt auf xy auswirkt.