>>278 >>289
レスありがとうございます
秀丸とWPS Office 2以外のソフトでは正しく動作するので
WinExist()やWinActive()は秀丸に対して効いているのだと思います
試しに以下のように ahk_exe と ahk_class でもウィンドウを指定してみましたがやはり無反応でした。

{
window := "ahk_exe Hidemaru.exe"
; window := "ahk_class Hidemaru32Class"

if WinActive(window) {
; Hidemaru.exe がアクティブの場合
SendMessage 0x11, 0x50, 0x02,, window
} else {
; それ以外の場合
changeLayout()
}

LShft&RShiftが秀丸に持っていかれている可能性についてはわかりませんが
秀丸側ではどちらもキー割り当てはしていません