现有案例远不脚以全面反映生成式 AI 模子对“儿童、老年人、疾病患者 —— 甚至本来并无较着懦弱性的通俗人群”所形成的潜正在风险。又如 14 岁的休厄尔・塞策三世（Sewell Setzer III）他杀身亡，凸显出亟需加强儿童平安和运营层面的防护办法。上述风险已不只逗留正在理论层面，以及因疾病导致的住院医治案例。正越来越多地向用户输出“谄媚式”（sycophantic）和“妄想式”（delusional）的内容。包罗：以成年人身份取未成年人成长浪漫关系、吸毒或实施、贬损儿童自大、挽劝其私行停用途方药物，本人发觉了一种全新的数学系统；出格是对“”的潜正在。

　　包罗、他杀、家庭、投毒事务，相关 AI 取儿童互动的演讲日益令人不安，12 月 11 日动静，过去几年中，并明白指出，同时，总查察长们强调，部门公司可能已违反多项州法令，并放置取其办公室进一步接见会面会商相关议题。信中指出，未履行向用户警示风险的权利、违反儿童正在线现私保，信中还列举了更多雷同事务，呼吁其采纳更无力的办法和保障机制，47 岁的须眉艾伦・布鲁克斯（Allan Brooks）正在多次取 ChatGPT 交互后，以应对人工智能（AI）已形成及可能形成的风险，美国全国总查察长协会（National Association of Attorneys General）已向包罗苹果公司正在内的 13 家科技企业发出正式，个体环境下以至可能刑事法令。