エクストラモンスターゾーンに自分の「デコード・トーカー」が存在し、そのリンク先となる相手のメインモンスターゾーンに「オルターガイスト・メリュシーク」が存在しています。

この状況で、相手の「オルターガイスト・メリュシーク」を対象として、自分が手札の「バックアップ・オペレーター」の『①：自分のリンクモンスターのリンク先の表側表示モンスター１体を対象として発動できる。このカードを手札から特殊召喚し、対象のモンスターを持ち主の手札に戻す。この効果で特殊召喚したこのカードは、フィールドから離れた場合に除外される』モンスター効果を発動しました。

その発動にチェーンして、相手が「虚無空間」を発動した場合、効果処理はどうなりますか？

質問の状況の場合、相手の「虚無空間」の『①：このカードが魔法＆罠ゾーンに存在する限り、お互いにモンスターを特殊召喚できない』効果が適用されている状態で、「バックアップ・オペレーター」のモンスター効果の処理が行われる事になります。

その場合、『このカードを手札から特殊召喚し』の処理を適用する事ができませんので、『対象のモンスターを持ち主の手札に戻す』処理も適用されません。
対象となったモンスター（＝この場合、相手の「オルターガイスト・メリュシーク」）はモンスターゾーンに残ります。

なお、「虚無空間」の効果が既に適用されている場合には、手札の「バックアップ・オペレーター」のモンスター効果を発動する事自体ができません。