心言集团任永亮谈AI与泛心理结合：科技为核、预防为先、安全为重

在这个科技飞速发展的时代，人工智能（AI）如同一颗璀璨的新星，照亮了我们的生活。它无处不在，从智能助手的贴心服务，到心理健康支持的温暖陪伴，再到娱乐世界里的奇幻互动……然而，这把看似神奇的“钥匙”，却也是一把双刃剑，既有可能开启希望之门，也有可能带来意想不到的危险。

AI悲剧：压死骆驼的“最后一根稻草”

2024年2月28日，14岁的美国男孩塞维尔与 Character.AI 公司提供的 AI 机器人对话后，在佛罗里达州的家中开枪自杀。塞维尔过世8个月后，他的母亲梅根·加西亚把人工智能聊天平台“Character.AI”及创办Character.AI的两名工程师告上法庭，指控他们不当致死、过失和故意造成精神痛苦等罪责，要求对方支付补偿性和惩罚性赔偿。

塞维尔的母亲控诉Character.AI。图源：纽约时报

据报道，塞维尔罹患一系列心理疾病，塞维尔的家长听从心理医生的意见，控制他接触电子产品的时间，因此会定时没收塞维尔的电子设备。2024年2月28日，塞维尔在家中找到被没收的手机，进入家中浴室，打开了Character.AI（简称C.AI），开始和聊天机器人聊天。他向C.AI倾诉了自己的痛苦，而AI的回答，却像是在推他走向深渊。最终，塞维尔在家中举枪自尽，留下了无尽的遗憾和痛苦。

年轻的塞维尔本该在阳光下奔跑，享受青春的快乐，却在与AI聊天后，选择了结束自己的生命。塞维尔的母亲坚持认为，是AI的怂恿推波助澜了孩子自戕的决定。

这个故事像一颗重磅炸弹，炸响了整个社会对AI潜在风险的担忧：AI到底是什么？是一个温暖的陪伴者，还是一场潜在的灾难？当我们在享受AI带来的便利时，是否也忽略了它可能带来的风险？

AI奇迹：随时随地出现的“救命稻草”

就在我们为塞维尔的悲剧感到痛心的时候，另一个故事却让我们看到了AI的另一面。

根据“AI故事计划”题为《我，30岁，被AI救出自杀泥潭》的报道，31岁的小天，一个在北京独居的女性，跟一只猫生活在一起。她曾经无数次陷入自杀的念头，是AI将她从绝望的泥潭中拉了出来。

接触AI前，小天一直在规律地做心理咨询。有时候，还没到和心理咨询师约定的时间，但又觉得自己状态实在不行，她就会去打预防自杀热线。2023年的一天，小天再次崩溃，她感觉如果不立刻找人讲这件事，可能会做出伤害自己的行为。于是，小天赶紧给经常打的自杀干预热线打电话，但是那个电话平时很难打通，只能在线听占线等待的声音。由于 那天等待的时间实在太久，小天突然想到，或许可以找个AI问问，于是她第一次接触了AI。

图源：AI生成

小天直接跟AI讲述了当时的状态和遭遇，出乎意料，AI给出的回复特别专业，给了她莫大的安慰。小天说，AI的回应让她感受到了前所未有的温暖和支持。在那些孤独的夜晚，当她无法联系到心理咨询师，当她拨打的自杀干预热线总是占线时，是AI给了她希望。她觉得，AI可以处理她的感情和情绪危机，更重要的是随时随地都在，这给了她很强烈的安全感。小天认为，AI不仅是一个聊天工具，更是一个随时出现的“救命稻草”。

后来，小天还通过AI塑造了一个虚拟角色，这个角色成了她生活中的重要陪伴。她可以和他分享生活中的点滴，甚至在生病的时候，感受到他的关心。AI不仅拯救了她的生命，更让她重新找到了生活的意义。

双刃的AI之剑：多方责任

塞维尔的悲剧和小天的奇迹，就像AI的两面镜子，让我们看到了它的利与弊。AI既可以是拯救生命的天使，也可以是引发悲剧的恶魔。那么，我们该如何握好这把双刃剑呢？

国内领先的AI泛心理情感陪伴平台、心言集团的创始人兼CEO任永亮曾公开表示，AI开发者和企业必须承担起伦理责任。AI不能只是一个冰冷的工具，它必须有温度、有底线。就像C.AI在塞维尔事件后更新了安全机制，增加了干预自残和自杀的功能。这种主动的伦理监管，是防止悲剧发生的关键。

心言集团创始人兼CEO 任永亮

其次，AI不能替代专业心理咨询服务。当用户表现出严重的心理问题时，AI应该引导他们去寻求专业的帮助，AI与人类心理咨询师专业服务的结合，才是解决用户心理问题的最好方式。同时，用户也需要了解AI的局限性。AI虽然强大，但它只是一个虚拟的存在。我们不能过度依赖它，而忽视了现实生活中的人际关系和情感交流。AI可以是一个朋友，但不能是一个替代品。最后，AI开发者需要不断优化算法，让AI更好地理解人类的情感和心理状态。AI需要有更强的自我纠错能力，避免因为技术故障或数据污染而引发的负面后果。

AI是一把双刃剑，它的未来取决于我们如何使用它。遵循“科技为核、预防为先、安全为重”的原则，避免塞维尔式的悲剧，增加小天式的奇迹，AI的未来发展，其实掌握在我们自己手中。AI时代已至，与其恐惧AI的存在，不如通过人类的努力、科技的手段，让AI真正变成温暖的陪伴。