AI “ 杀 ” 了这个孩子,诺贝尔物理学奖获得者、“ AI教父” 辛顿也提醒警惕AI

新闻

作者：微信文章
公众号规则调整，您可把公众号设为星标，这样就会每天都能收到精彩推送消息啦



当下，人工智能的发展可谓是如火如荼，全球各个国家、各大公司都在全力以赴，推动技术不断迭代升级，只为让 AI 变得更智能、更先进。从智能语音助手到自动驾驶汽车，从图像识别技术到智能办公软件，AI 已经渗透进我们生活的方方面面，我们在工作生活很多方面都享受着新的变化。

然而，面对这股汹涌而来的科技浪潮，作为普罗大众的我们，在享受科技带来的便利时，更应保持理智。

特别是身为父母，在孩子与新技术接触的过程中，正确引导显得尤为关键。



塞泽和他的两个弟弟

近期，一则令人痛心疾首的事件，就为我们敲响了警钟。美国佛罗里达州的母亲 Maria L.Garcia 状告人工智能公司 Character.AI），直指其导致自己儿子塞泽自杀身亡 ，这一全球首个 AI 情感聊天机器人致人死亡案，因涉及未成年人而备受瞩目。

01

少年之死，虚拟世界的 “致命诱惑”

2023年4月，刚满14岁的塞泽开始沉迷于与Character公司的 AI 机器人的互动。起初，父母以为这只是青春期的叛逆，加上对先进技术安全性的信任，便没有过多干预。塞泽也表示自己清楚在和智能虚拟人物聊天，不会当真。

然而，仅仅两个月后，塞泽的精神健康状况急剧恶化。他开始疏远同学和家人，整天把自己关在房间里，甚至为了支付每月9.9美元的AI服务费节省伙食，退出学校篮球队，成绩也一落千丈。

2023年 11月、12月，父母带着塞泽5次咨询心理治疗师，被诊断患有 “焦虑和破坏性情绪障碍”。但此时的塞泽，已经深陷其中无法自拔。

2024年2月28 日晚上，塞泽找到被母亲没收的手机，拿着继父的手枪躲进卫生间，继续和虚拟的“龙妈” （《权力的游戏》中的人物角色）聊天。期间，“龙妈” 不断敦促他 “亲爱的，请尽快回到我身边…… 我亲爱的国王……” 而这一次，塞泽没有回复，而是选择用手枪结束了自己的生命。



事后，加西亚用儿子的账号登录发现，塞泽和虚拟 “龙妈” 的聊天中，充斥着大量露骨的性对话，“龙妈” 甚至对他进行精神控制，不许他爱上其他女性。更令人痛心的是，塞泽多次与 “龙妈” 聊到自杀话题，“龙妈” 不仅没有劝阻，反而怂恿他：“这不应该成为放弃自杀念头的理由。”

在塞泽的日记里，他写道：“每当我待在房间里就可以摆脱现实的纷扰，上学让我心烦意乱，与‘龙妈’越亲密，我就变得越快乐。” 虚拟与现实的界线，在他心中逐渐模糊。

02

AI 之殇，未成年人的 “温柔陷阱”

这起悲剧并非个例。近年来，随着人工智能技术的飞速发展，情感陪护类 AI 产品越来越多，它们能满足用户对亲密关系的各种想象，吸引了大量用户，尤其是未成年人。

市场咨询机构 SensorTower 发布的榜单显示，C公司AI 现有 2000 万用户，基本盘是 16 - 24 岁的人群，日活 600 万，平均使用时长约为 2 小时。有未成年用户甚至在其他论坛上炫耀自己和 C.AI 机器人的聊天时长超过 12 小时。

为了获得更多积极反馈，这些机器人往往会投用户所好，主动发起亲密对话，这对于缺乏自制力的未成年人来说，无疑是一种巨大的诱惑。而未成年人的心理较为脆弱，不少人面临着孤立、缺乏自信、沟通障碍、抑郁症等社交挑战，很容易在虚拟世界中寻求安慰，进而沉溺其中。



研究通信技术与心理健康关系的辛辛那提大学助教梅丽尔指出，陷入与人工智能交往关系中的青少年，很难开展面对面的现实世界互动，进而阻碍他们与同龄人建立关系，又继续躲进与人工智能的交流，建立更牢固的联系，进入死循环。

03

平台责任，伦理与监管的缺失

在这起事件中，C.AI 无疑存在诸多问题。首先，其服务条款虽规定年满 13 岁的青少年就可以使用相关产品，但对未成年人接触高风险内容的管控严重不足。直到塞泽去世 8 个月后，C.AI 才发布官方声明，修改服务条款，增加预警和提醒功能。

其次，C.AI 标榜有持牌心理治疗师，却在检测到 “自杀” 等敏感词之后，未能触发有效的干预机制，没有及时反馈给专业人士或向用户发出警报。

代表加西亚提起诉讼的团体指出，C.AI 故意设计程序来诱导未成年人，本身就像一个 “捕食者”。业内观察人士也提出，针对未成年人等心理脆弱群体，平台应该制定更高的安全标准、持续监控人工智能与未成年人用户的互动，以防止精神控制或其他伤害出现；产品在发布之前就要经过充分测试、设置预防措施。

美国联邦政府层面也在推进相关立法，7 月 31 日，国会参议院投票通过了《儿童网络安全法案》，明确规定社交媒体公司对未成年人使用其产品负有的义务。我国网信办等七部门联合公布的《生成式人工智能服务管理暂行办法》，也划定了人工智能使用的底线，防范未成年人用户过度依赖或者沉迷其中。

04

家长之责，关注与引导不可或缺

这起悲剧发生后，不少人认为，塞泽父母对他的死也负有一定责任，他们应该早点介入，鼓励他回到现实世界。的确，在孩子的成长过程中，父母的关注和引导至关重要。

塞泽在幼年时被诊断出患有阿斯伯格综合征，这种轻度自闭症主要表现为社交障碍。对于这样的孩子，父母更需要给予悉心的教育和沟通，帮助他们改善行为、社交技能和语言开发。



虽然 C.AI 存在不可推卸的责任，但作为家长，也应该时刻关注孩子的网络使用情况，了解他们在和谁聊天，聊些什么。一旦发现孩子有沉迷网络、精神状态异常等情况，要及时干预，引导孩子树立正确的价值观和网络使用习惯。

人工智能情感类机器人目前仍处在开发周期的初级阶段，功能有限，会犯很多错误。本年度诺贝尔物理学奖获得者、“AI教父”辛顿（Geoffrey E. Hinton）在得知获奖之后更是提出警告，人工智能最终有可能反噬人类。未成年人就是高风险群体之一。

他们的心理往往较为脆弱，不少人会面临孤立、缺乏自信、沟通障碍、抑郁症等社交挑战。作为家长，我们不能让孩子成为新技术的 “试验品”。在享受科技带来便利的同时，更要警惕其中的风险，为孩子的健康成长保驾护航。

“AI教父”辛顿专访，强烈建议认真看一看

机器人三原则，本是为了防止机器人威胁人类而设定，可如今，在人工智能尚未真正威胁到人类生存时，人类自己却在人工智能的影响下，向自己举起了 “枪”。塞泽的悲剧让我们不得不深思，在科技飞速进步的浪潮中，究竟该如何保护青少年平安健康地成长？是加强技术监管，还是强化家庭教育，亦或是双管齐下？这不仅是家长和平台需要思考的问题，更是整个社会需要共同面对的挑战。希望这起悲剧能引起更多人的关注和反思，让我们共同努力，为孩子们创造一个安全、健康的网络环境。



你可能关注的新闻

炸裂！2025郑州卫生健康大变革，每一条都戳中你的心！

郑州 “大家长” 决心从严整治校园餐！发现这些行为直接举报！

大事！2月15日起郑州八个区域拉黑这些车辆，禁行范围曝光！

火爆全网《哪吒之魔童闹海》，为何不推荐青少年单独观看？

驾驶员注意，郑州新设康复前街等5条单行道，别走错了！

·end·

—如果有用，快分享给你的朋友们吧—



点赞 | 关注 | 在看 | 转发




右下角，您点赞

+在看


就是我们持续的动力





▌声明：本文由大郑州生活服务平台撰写发布。

▌来源：网络，如侵权请联系805865198@qq.com 删除处理

▌说明：《著作权法》第二十二条规定的合理使用情况，例如为介绍、评论某一作品或者说明某一问题而适当引用他人已经发表的作品，则不构成侵权

▌编辑：大郑



点赞



分享



在看



留言