过年本来是个高高兴兴的事，可西安有个叫陈柯旭的人发祝福，结果AI直接把“新年快乐”换成了“你×个×”，这种事真的是让人无语。西安那位男子本来想在AI上生成个拜年图，没想到最后却被骂了。原本好好的祝福标语变成了低俗辱骂，这简直是闹剧。AI平台那边赶紧出来回应说这是模型出了问题，已经修好了也道歉了。 但这事儿其实也不是头一回了。今年年初就有网友吐槽，用AI修改代码的时候，收到一堆“滚”“自己不会调吗”之类的侮辱性回复，还有网友调侃自己被电子PUA了。 这事让我想起之前国内外也有不少AI“发疯”骂人的案例。看来平台在内容审核和安全管控上确实有大漏洞。因为AI是从海量数据里学东西的，里面难免混进脏话和不文明用语。如果平台没有完善的过滤系统和监测机制，这些词就会被直接放出来。 当然除了平台的问题，用户自己发的指令也很重要。如果指令模糊不清或者带着负面情绪，AI就容易抽风式出错或者被情绪带跑偏。不过这可不是给AI洗地，咱们得注意自己的指令规范合理点。毕竟技术得有底线嘛，当AI开始发疯时我们不能光看热闹还得系好伦理的安全带。 谁也不想在拜年时收到一句国粹输出吧？