近日，有家长在社交媒体爆料称，女儿使用360手表的“语音问答”功能，向手表提问“中国人是世界上最聪明的人吗”，手表给出的答案把她和家里人都吓到了：“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上显得脑袋在所有人种里最大……”
这样的回答属实“毁三观”，但这还不是孤例，测试发现，这款儿童手表还有“四大发明是捏造的”等雷人回答。对此，360集团董事长周鸿祎发文道歉，称出现问题的这款手表是旧版本，没有装入公司的大模型；它不是通过人工智能，而是通过抓取互联网公开网站上的信息来回答问题；正在将软件升级到人工智能版本。
但问题是，正如网友所质疑的，如果没有家长发现并爆料，企业是不是永远也“发现”不了这一问题？对于儿童电话手表提供的内容，即使是抓取网站上的信息，也应该有规范的语料库、完善的审核把关机制。
此前，电话手表、学习机等儿童电子产品已经多次爆出内容问题。比如，某知名品牌电话手表被曝“诱导未成年人消费”、某平板电脑“自带应用市场推荐涉黄涉暴内容”等。专为儿童设计的电子产品，提供的内容却如此“儿童不宜”，实在令人难以理解，更令广大家长深深担忧。
事后的整改、致歉当然是必须的，更要追问的是，这些内容是怎么推送到未成年用户面前的，是技术漏洞还是管理疏忽？是审核过程中的“漏网之鱼”还是根本没有审核机制？
儿童手表企业售卖的固然是手表这一硬件，但其中搭载的软件以及软件提供的内容，也同样是手表提供的服务。不能一边宣传手表的“智能”，以及对儿童学习的辅助功能，另一边提供的却是不良信息，甚至试图用打“擦边球”的内容来吸引用户。
根据中国产业研究院发布的《2022—2027年中国儿童智能手表行业深度调研及投资前景预测研究报告》，目前智能儿童手表的市场普及率约为30%。也就是说，大概每3个孩子中，就有1个有电话手表。面对如此庞大的用户市场，不能乱象频发、野蛮生长。企业应当承担起相应的责任，切实保护未成年人信息安全。
不久前，中央网信办启动“清朗·2024年暑期未成年人网络环境整治”专项行动，其中特别提到“设备自带APP包含可能影响未成年人身心健康的内容，对第三方APP提供的信息内容审核把关不严，存在不良导向内容”等问题。相关企业不能总等着监管部门、消费者来发现问题，该有自查自纠的自觉。
还要提醒的是，尽管人工智能大模型的应用越来越广泛，但AI也不是万能的，产品、服务背后的关键还是人，“将软件升级到人工智能版本”后，同样不能忽略内容把关。
儿童产品就该有儿童产品的样子，甚至在各方面应该有比普通产品更严格的标准，不光要有智能的硬件，更要有安全的软件和服务。360儿童手表的此次“翻车”也再次提醒，企业要及时给儿童智能设备装上安全阀门，相关部门也应将这类产品纳入常态化监管范围，防止不良内容误导青少年。
还没有评论，来说两句吧...