2022年，「生成式AI」暴風般的席捲而來，從日常生活到內心疑難雜症，越來越多民眾開始將其視為情緒抒發甚至「類心理諮詢」的對話對象。然而，據研究指出，當使用者輸入帶有妄想、幻覺等精神病徵的內容（psychotic prompts）時，AI往往無法正確辨識風險，甚至可能給出不恰當的回應，進一步強化錯誤認知，為心理健康帶來潛在隱憂。
