手持ちの4台のうち1台だけあるWindows7のPCだけで発生しているのですが
19.3.10から19.3.17にアップデートしたら
ファイルをゴミ箱にドロップした時に
「指定されたファイル名は、無効かまたは長すぎます。
別の名前を指定してください。」
というメッセージが出て削除できないようになりました。

te190317.zipを展開して起動した直後の19.3.17で再現します。
どのファイルでも発生して、
「a」みたいな短いファイル名にしても発生します。

19.3.10に戻すと、問題なく削除できます。
この間の更新かつ環境依存の何かの組み合わせで発生するようです。