相手の手札が5枚、自分の手札が3枚の状態です。

この状況で自分のターンに、自分が「死なばもろとも」を発動した場合、手札のカードをどのようにデッキの下に戻しますか？

まず、『お互いは手札を全て好きな順番でデッキの下に戻し』によってお互いのプレイヤーはそれぞれ手札を自分のデッキの一番下に戻します。
（質問の状況の場合、ターンプレイヤーである自分が、3枚の手札を好きな順番で自身のデッキの下に戻します。次に、相手プレイヤーが、5枚の手札を好きな順番で自身のデッキの下に戻します。）

次に、『自分はこの効果でお互いがデッキに戻したカードの数×３００LPを失う』処理を行い、「死なばもろとも」を発動したプレイヤーはライフポイントを失います。
（質問の状況の場合、自分と相手で合計8枚のカードをデッキに戻していますので、2400のライフポイントを自分が失います。）

最後に、『その後、お互いはデッキから５枚ドローする』処理によって、お互いにデッキからカードを5枚ドローします。