区別不能なので

幻聴の肉声
本人が話している肉声

上記の区別は不可能なので犯罪に使用されることは間違いない


AIはフェイクコンテンツを見分けられるのか?12種類以上のAIをテストした結果が公開される
https://gigazine.net/news/20260302-ai-detection-fake/