>>580 自己フォローです。

すみません。
結果として、まだドコモメールでは動いていないのですが、
OpenSSL のインストールがちゃんとできていないことがわかりました。
>>578 >>580 は無視して下さい。申し訳ありません。

QMAIL3 のマニュアルによると、

libeay32.dll
libssl32.dll

を置き換えなくてはいけないと今頃気づきました。

これまでは、 OpenSSL 1.0.2c (32bit) のものを使っていたようです。
c:\Program Files\QMAIL3
c:\Windows\System32
の両方に同じものがありました。（どちらが優先して参照されるのかはわかりません。）

他方、OpenSSL 1.1.0c (32bit) には、上記２つのファイルが見つかりませんでしたので、
1.1.0c は使えないのだと思います。
混乱させてしまい大変申し訳ありませんでした。