書籍化に当たって、まぐまぐに印税の一部を支払う必要がありますか

必要はありません。

※関連
まぐまぐのシステムを通じて配信されたメルマガの著作権は誰に帰属しますか