賃料を受領した時点で、法律上は「弁済」とみなされますので（民法493条本文）、その後に返金しても受領拒否の意思表示とは言えないものと考えます。
また、そもそも弁済前に受領拒否を告げた場合、債務者（借主）は弁済の準備したことを通知すれば足りますし（同条但書）、その後の賃料も債務者としては旧賃料を供託し続ければ債務不履行とはなりません（民法494条）。したがって、賃料を返金するというのは現実的な解決策では無いように考えられます。
法律上の手段としては、借地借家法32条に基づいて賃料増額通知を出しておくべきと考えます。増額通知は直ちに増額が認められるわけではありませんが、最終的に裁判所で増額が認められた場合、増額通知を出したときに遡って、不足賃料分とその不足分に年１割の利息を加算した額を支払ってもらうことができるようになります。
あるいは、偏屈な入居者に明渡しを求めるのであれば、入居者の債務不履行による契約解除を実行しうる事情があるかを検討することと、その証拠の収集を行うのが良いかと考えます。