自分のモンスターゾーンに「ブレイブアイズ・ペンデュラム・ドラゴン」が表側表示で存在し、『②：このカードがモンスターゾーンに存在する限り、攻撃力０のモンスターが発動した効果は無効化される』モンスター効果が適用されています。

この状況で、相手が「源竜星－ボウテンコウ」の『①：このカードが特殊召喚に成功した場合に発動できる。デッキから「竜星」カード１枚を手札に加える』モンスター効果を発動し、さらにチェーンして発動した「月の書」の効果によって、「源竜星－ボウテンコウ」を裏側守備表示にしました。

この場合、「源竜星－ボウテンコウ」のモンスター効果は無効化されますか？

「ブレイブアイズ・ペンデュラム・ドラゴン」のモンスター効果が適用されている場合、攻撃力0のモンスターが発動した効果は無効化されます。

質問の状況の場合、チェーンして発動した「月の書」の効果によって、効果を発動した「源竜星－ボウテンコウ」自身は裏側守備表示になっていますが、攻撃力が0のモンスターが効果を発動していますので、「ブレイブアイズ・ペンデュラム・ドラゴン」のモンスター効果によってその効果処理は無効化される事になります。