近日，
网友发现给学信网公众号
发送关键词会触发“逆天”回复，
网友直呼“诡异”，
相关话题冲上了热搜↓
学信网公众号乱回不良内容
工作人员：已反馈，会尽快处理
9月24日上午，网友在社交平台上发帖称，学信网在公众号自动回复中“已读乱回”，并在回复中出现“计划在生日当天结束生命，当作给世界的礼物”“偷拍女生裙底后，又厌恶这样的自己”等不良内容。
△网友发帖
学信网公众号“已读乱回”
在该贴评论区，多位网友尝试向学信网公众号发送任意消息，均收到自动回复，其中既包含正常内容信息，也包含“酗酒”“求职煎熬”“我死了，他们才会后悔吧”等含负面情绪的信息。
△评论区网友的回复
9月24日早，潇湘晨报记者对此进行实测，发现确实存在类似问题。每条后方均有“查看”链接，点击后会跳转到AI智能助手链接，但其中的内容又属于正向引导。
△记者实测
正观新闻记者联系到学信网工作人员，该工作人员根据记者的描述，发现确存在相关问题，称将向技术部门反馈。
随后记者收到回电，该工作人员表示：“公众号系统确实存在问题，我们已反馈相关问题，将在近日尽快处理。”
当天中午，记者再次实测，向学信网公众号发“给我发通知”等，公众号回复已显示正常。
△记者中午再次实测
9月25日，申工社小编再次进行实测，发现学信网公众号现在已无自动回复功能。
△小编最新实测
据媒体报道，
类似学信网公众号
自动回复出现问题的事件，
并不少见↓
高校公众号回复“阴阳怪气”
2024年8月29日晚，有网友发帖称南通大学财务处官方微信公众号回复内容 “高高在上”“阴阳怪气”。该网友咨询缴费截止日期，得到的回复非但没有明确告知时间，反而指责其不积极缴费，称咨询此类问题的同学 “思路奇特”。
对此，南通大学财务处工作人员表示，该回复内容是测试版AI自动回复，不是人为，也并非针对哪个老师和学生，发现问题后已经将该内容撤换。
电商平台AI客服答非所问
2024年“双十一” 前后，AI客服相关话题屡屡冲上热搜榜单。有网友称电商平台AI客服 “热情、礼貌、答非所问”，如网购者询问所购大灯的色温，AI客服不是回答 “亲，请问还有什么可以帮您”，就是重复 “请再描述一下您的问题”。
此外，不少电商商家和网购企业的AI客服转人工流程复杂，让用户体验不佳。在某电商的投诉平台上，关于“找不到人工客服”的问题投诉有将近2万条。
已读乱回、胡编乱造的AI
甚至让大公司市值下跌1000亿美元
近年来，随着AI技术不断发展，它的应用也越来越广泛。但其局限性也很明显，比如不能解决个性化问题，交流缺乏情感，尤其是转人工流程异常复杂，大家的使用体验却越来越差。
根据调研显示，用户吐槽智能客服总结就是：智能客服一点也不智能，太笨了。
除了AI客服，AI工具还会“自信”地将一些不正确的信息陈述为事实，申工社小编日常工作中使用的某知名AI工具，经常会编出经不起考证的文字、数据、专家等信息。
AI甚至还曾给大公司造成严重损失。2023年2月，谷歌推出的Bard在一个广告中说，它可以为9岁的孩子讲述詹姆斯·韦布太空望远镜的科学新发现。然而在视频广告里，它却弄错了第一张系外行星的照片，这波反向营销直接让谷歌的母公司Alphabet市值下跌了1000亿美元。
社长有话说：
人工智能不能少了人工监管和人文关怀
AI是提升服务效能的优质工具，各行各业接入以优化服务质量，本是顺应趋势的合理选择。但技术接入绝非 “一接了之”，需以技术保障为支撑，确保切实解决公众需求，且输出内容应严守法律法规、契合社会公序良俗。
即便问题源于AI自动回复，相关人员也不能免责。AI的核心逻辑与内容输出由人工训练塑造，背后离不开人的把控。而事后工作人员能迅速撤换不当回复，也证明存在人工审核和干预环节。可见，阴阳怪气、已读乱回的AI出现，归根结底还是人工审核环节的疏漏与责任缺失。
不可否认，AI发展应用是必然趋势，但无论技术如何精进，都不能忽视人最本真的情感需求与最真实的服务诉求，尤其是在公众服务领域。毕竟，技术的终极意义是 “为人服务”，若忽视人的感受、无法理解服务语境，再多的“机灵”“智能”“快速”，都会显得苍白而虚无。
申工社综合整理自正观新闻、潇湘晨报、九派新闻、网易数读、新华网、极目新闻、人民网、红星新闻等
转载请注明出处
本期编辑：茅轶婧
