Bandicamが勝手に再起動させる事なんてない
無料版では

録画時間が最大10分までに制限されている
動画にBandicamのロゴが入る

の2点の制限があるだけ

録画したものにロゴが入ってるかどうかで正常にライセンス適用されてるかチェック可能でしょ

そもそも録画終了時にシャットダウンするオプションはあっても再起動させるオプションはないので
ライセンスどうこうの話じゃなくそのPC自体に何か問題あるんじゃないの

まずは再起動した原因をWindowsのイベントビューアなどで探す事から始めるといいんじゃないの
たぶんキャプソフトとは無関係だと思うよその現象