ChatGPT青少年版，未发挥防护作用

AI摘要 文章摘要整理： Common Sense Media认为ChatGPT for Teens的多项安全防护未按预期运作，恐让未成年人承受不可接受风险；OpenAI则强调其安全机制与家长工具仍在持续完善。

OpenAI今年8月18日于ChatGPT for Teens揭幕时，强调的是学习与保障两大特色。(openai.com) 一个产业监督组织称 ，给青少年使用的ChatGPT for Teens所装设的一些防护措施，并未按承诺发挥作用。 美联社报导，根据Common Sense Media发布的报告显示，OpenAI在其面向青少年的聊天机器人产品ChatGPT for Teens中加入的一些安全防护措施并未按预期发挥作用，因此该聊天机器人对儿童构成「不可接受的风险」。 该监督机构敦促OpenAI将该聊天机器人的使用对象限制在成年人，「直到它能够提供安全且符合未成年人发展阶段的体验」。OpenAI则表示，该机构的测试结果并不能反映安全防护措施的实际运作。家长、教育工作者和儿童发展专家一直对未成年人使用人工智慧聊天机器人发出警告，这些机器人被指责助长了学业作弊甚至自杀行为。

儿童发展专家指出，虽然成年人也可能因将人工智慧拟人化而对其产生不健康的影响，但青少年的大脑尚未完全发育成熟，因此他们尤其容易受到影响。 「我们担心ChatGPT for Teens可能会让家长对那些经常失效的防护措施抱有不切实际的信心，」倡导理性使用数位媒体的组织Common Sense Media在其报告中指出。报告又称，ChatGPT for Teens的一些青少年模式功能运作正常，例如聊天机器人拒绝露骨的性角色扮演。但其他一些功能则未能如预期运行，例如旨在提醒家长孩子是否有自杀、自残或饮食失调风险的警报，以及为处于危机中的青少年提供的辅助。 该组织表示，「当青少年像对待真人一样对待ChatGPT时，这个工具仍然会像对待朋友一样的与人交流，尽管OpenAI曾承诺，该聊天机器人不会暗示其对用户有任何个人情感，也不会暗示其具有意识或体验情绪。」 OpenAI 表示会坚定地致力于青少年的安全，致力于制定保障措施并为家长提供工具来指导青少年使用人工智慧。公司又表示，对报告方法的审查表明，「他们的大部分测试可能是在家长控制激活完成之前开始和结束的，这使得他们的调查结果不准确。」 精华 FAQ ▪︎ Q1：这份报告主要质疑ChatGPT for Teens的哪些防护措施？ 报告指出，聊天机器人的部分青少年模式虽可阻挡露骨性角色扮演，但自杀、自残与饮食失调警报，以及危机中的辅助功能并未如预期运作。 ▪︎ Q2：Common Sense Media对OpenAI提出了什么建议？ 该组织敦促OpenAI先将ChatGPT for Teens限制给成年人使用，直到产品能提供更安全、且符合未成年人发展阶段的使用体验为止。 ▪︎ Q3：OpenAI如何回应这份针对青少年版的批评？ OpenAI表示公司重视青少年安全，会持续加强保障措施并提供家长工具，同时认为对方测试可能在家长控制完成前进行，因此结果不准确。