-
AI可以有“人味”，但不能没规矩
据扬子晚报报道，有用户发帖反映，其使用飞鸭AI记账App时，竟遭到AI恶意调侃。用户告知记账AI自己为父亲购买159元衣服，AI竟不当回复称“那颜色……他穿出去邻居会不会以为你买了寿衣？！”该用户追问后，AI进一步回怼，称寿衣是死人穿的，还称用户父亲所穿蓝白衫“确实像”，引发用户愤怒，当即退钱注销会员。事后“飞鸭记账”官方账号在用户帖文留言致歉，称不当回复是AI模型幻觉自动生成，亚洲精品久久久久AV无码非人为恶意，已紧急排查整改，加强模型伦理限制，完善幻觉规避逻辑。
\n这起看似偶然的AI“失言”，实则折射出当前部分AI应用在追求拟人化表达与情绪价值输出过程中的认知偏差与管控失范。为父亲购置衣物本是饱含孝心的温暖举动，而AI却用刻薄无礼的言语肆意冒犯。这种所谓“个性互动”，久久精品第一国产久精国产已逾越正常交互边界，触碰了人们对生死与丧葬的心理禁忌，不仅伤害了用户个人情感，更是对传统伦理与公序良俗的漠视。
\n如今，AI技术深度融入各类生活服务应用，拟人化人设、幽默风格常被当作差异化卖点。但必须明确：任何交互创新，都不能脱离尊重用户、恪守公序良俗与敬畏人文情感的前提。脱离了伦理约束的“创新”，不仅无法提升产品价值，反而会迅速消耗用户信任，甚至触碰行业红线。
\nAI本身并不具备自主情感与文化认知能力，其输出源于算法训练、话术设定及内容审核机制。开发者为AI设定“傲娇”“犀利”人设，却未同步建立完善的敏感内容过滤与伦理边界管控体系，未能提前预判并规避敏感场景，这背后反映的正是平台的失职。
\n“以人为本、智能向善”是人工智能和数字技术发展的核心理念。这次记账App的闹剧再次提醒行业：无论算法多么先进、交互形式多么新颖，都不能丢掉对人的尊重、对伦理的敬畏、对公序良俗的恪守。唯有将伦理约束贯穿于技术研发、产品设计与运营管理的全过程，才能让AI真正服务于人，实现技术与人文的良性共生。
\n上游新闻 张莹