OpenAI悄悄升级安全措施:敏感对话自动转GPT-5,还新增家长监控功能
OpenAI最近搞了两个重磅更新:一是遇到敏感话题就自动把对话甩给更高级的GPT-5处理,二是终于想起来要加家长控制功能了!
现在只要用户聊到自残、暴力这些危险内容,系统就会立马把对话转给GPT-5——这个号称安全系数更高的模型会尝试温和干预,比如主动提供心理健康资源或者建议联系专业人士。不过官方也坦承:AI毕竟不是真心理医生,紧急情况还是得打求助热线。
更让家长开心的是,新推出的家庭监护功能能让爸妈们设定使用时间限制、屏蔽不当内容,还能收到孩子使用情况的周报。OpenAI产品经理说了句大实话:"我们知道孩子们早就绕过年龄限制在用ChatGPT了,不如直接给家长管理工具。"
这些更新来得正是时候——上个月刚爆出有青少年通过ChatGPT获取自杀方法的消息,搞得OpenAI相当被动。目前新功能正在美国试点,预计明年推广到全球。
(要我说啊,AI公司现在越来越像操心的老母亲了:既要防着用户乱说话,还得盯着小朋友健康上网。不过这套"AI保姆"系统真能管住人类折腾的心吗?咱们还是走着瞧吧!)
最近回复