OpenAI本周正式推出了面向年轻用户的ChatGPT青少年版,通过年龄识别机制对部分功能进行限制。然而,这一新版本的推出并未迎来一片叫好,反而引发了多名儿童安全专家对其次安全机制透明度与实际效果的质疑。
多位来自儿童安全与评估领域的专家指出,在向广大家长和青少年推荐之前,该系统必须接受大量独立测试,OpenAI也亟需提高透明度,详细说明其安全机制的具体运作方式。来自Common Sense Media的罗比·托尼认为,虽然OpenAI做出了诸多重要承诺,但必须拿出实打实的证据来证明这些功能的有效性。
儿童网络安全倡议组织Fairplay执行董事乔什·戈林则表达了更为严厉的担忧。他指出,尽管纸面上的措施看似朝正确方向迈进,但缺乏相应的问责机制。回顾以往,OpenAI针对自杀、暴力和吸毒等内容的限制曾出现过失效或不起作用的情况,仅凭企业的自我承诺远远不够。
专家们对自动年龄识别系统的稳定性提出了强烈质疑。托尼指出,OpenAI并未公开该系统的效果数据,误报率和漏报率均不得而知,全自动系统很难准确识别所有的青少年用户。此外,青少年大概率会尝试各种规避手段来绕过年龄验证。
针对OpenAI此前承诺“所有被标记内容将先由全职员工审核,并在1小时内通知家长”,专家们同样持怀疑态度。托尼质问负责筛选内容再交由人工的自动分类器是否真的值得信任;戈林则呼吁公开更多硬数据,如每天被标记的对话数量、审核人员规模以及平均审核时长,很难相信企业能招募到足够人手对每段危险对话进行认真审查。
专家们一致认为,需要家长和孩子主动绑定ChatGPT账户的机制,同样削弱了实际保护效果。戈林建议,更合理的做法是将保护机制默认开启并内置于产品设计中,例如默认设置使用时间限制,而不是把复杂的设置责任完全推给家长。