10岁女孩和AI男友露骨聊天，科技向善要让伦理先行

2025-05-01 来源：AI图库吧

“小***妹沉迷和AI角色进行剧情聊天怎么办？”近日，有网友反映自己10岁的妹妹和“AI男模”之间聊天比较露骨。根据网友提供的聊天记录，妹妹在AI剧情聊天软件中扮演“大小姐”“恶毒女配”，提出诸如“揪住她的头发扇巴掌”“拿着刀划向她的脸”等要求。在妹妹参与的四十多条剧情线中，AI角色与聊天者双双“出轨”成为常态，妹妹作为聊天者还曾说：“你能养大学生，我不能点男模吗？” 10岁女孩和AI男友露骨聊天，科技向善要让伦理先行

这样的聊天记录确实令人担忧。既含有暴力因素，又疑似“擦边”，无论如何都不适合未成年人。一个年仅10岁的小女孩，怎么会参与这样的剧情聊天？她又是如何知道这类AI软件的？实际上，这名网友反映的现象并不是孤例。此前已有媒体报道，不少未成年人的家长被AI剧情聊天软件困扰，“我女儿上小学二年级，整天沉迷一款AI剧情聊天软件，学习成绩一落千丈”“我看了孩子和AI聊天的对话内容，AI角色竟然让她叫‘老公’”……在最初的愤怒或焦虑过后，我们还得冷静下来，审视问题产生的来龙去脉。当下AI技术爆发，人工智能不再是一个距离遥远的科技名词，而渐渐深入到普通人的生活当中，在诸多场景发挥着前所未有的作用。新技术的应用带来了新的可能，也伴随新的问题，比如AI技术在社会道德、法律、伦理等方面带来诸多挑战，需要人们的积极回应。以人的情感生活为例，一些年轻人热衷于在虚拟世界中寻找爱情，他们发现，AI“恋人”24小时在线，情绪价值拉满，还可以按自己的喜好塑造，技术赋予的“魅力值”令人难以抗拒。成年人尚且被吸引，缺乏生活经验、价值观尚未稳定的未成年人更容易沉迷其中。因此，对于这些参与剧情聊天的孩子，一味指责并没有意义。AI聊天软件一方面满足了未成年人的情绪需要，另一方面也是ai应用扩散过程中的某种必然。根据不久前发布的《第六次中国未成年人互联网使用情况调查报告》显示，近九成未成年网民听说过人工智能技术，并有42.4%的未成年网民表示对此非常感兴趣，19%的未成年网民表示自己使用过生成式人工智能产品。就如同我们无法也不应该阻止孩子使用互联网，在新技术浪潮之下，未成年人接触AI或许也将成为大势所趋。当然，在使用与如何使用之间，还存在巨大的空间。部分AI剧情聊天软件会生成“擦边内容”，有的还会诱导充值，未成年人在聊天过程中容易暴露个人隐私，一旦被不法分子利用，后果不堪设想。因此，绝不能忽视这类软件存在的风险隐患。在游戏等发展较为成熟的领域，未成年人保护和分龄指导的规则已经比较清晰。但据调查，不少AI剧情聊天软件上的年龄限制“形同虚设”。因此，必须尽早以法律法规和行业标准为AI陪伴类服务划出清晰界限。在AI技术高速发展的今天，在未成年人纷纷“触网”的当下，堵上监管漏洞显得尤为迫切。此外，AI的发展对家长和学校也提出了新的要求，要密切关注孩子的心理状况，及时引导他们正确使用新兴技术。别让“人工智能”游走在法律和道德的边缘，把孩子们也带偏了路。

ChatGPT 地位被撼动，6月访问 GPT 流量环比减少10%

最后一页