マイドキュメントにあるフォルダでたまたま発覚したのですが
フォルダの中にファイルやフォルダがあると削除できないみたいです

下部フォルダに1つでもファイルやフォルダがあると消せませんでした
フォルダ単体ですと消せます、1つでも下層フォルダがあると「ディレクトリが空ではありません」が出ます
NyanFiの上部の表示は「管理者」となってますので、完全なアドミンです

WINDOWS10ですが、どこかのスレの入れ知恵でLUAそのものを無効にしてます
"EnableLUA"=dword:00000000
"FilterAdministratorToken"=dword:00000000
また、「管理者権限で実行」でNyanFiを起動しても同じ動作となりました

ただ、デスクトップやC:\に多重フォルダを作ってテストしてみましたが、そこでは普通に削除出来ました
単体フォルダや単体ファイルだけならマイドキュメントにあるものが削除できましたので、管理者絡みと思いますが理由はわからないです