Tayには、ミレニアル世代へのアピールを意図して、若い女性というキャラクター設定がなされていました。しかし公開から24時間もしないうちに、Twitterユーザーに巧みに誘導され、「ヒトラーは正しかった、ユダヤ人は嫌いだ」「テッド・クルーズはキューバ版ヒトラーだ」といった内容を投稿させられてしまいました。また、ドナルド・トランプ氏についても「老人ホームの少年たちのリーダー万歳」とツイートしました。

これに対し、人間のTwitterユーザーからは次のような反応が寄せられました：


ソーシャルメディアを利用する人なら誰でも、ボットがヘイトスピーチや荒らし（トロール）に遭遇することは予想できたはずです。しかし、このAIシステムには、そうした見解を自身のツイートに取り込まないように判断する能力が備わっていませんでした。

今、多くの人が「マイクロソフトは何を考えていたのか」と疑問を抱いています。CNETのジェフ・バカラー氏はCBSニュースに対し、「首をかしげざるを得ません。なぜこのような事態を予見できなかったのでしょうか」と語りました。「控えめに言っても、奇妙な話です」