外媒：AI聊天机器人被控“教唆”14岁男孩自杀，谷歌与Character.AI发言人最新回应
0次浏览 发布时间：2025-06-08 18:13:00
据英国《每日电讯报》当地时间7日报道，美国佛罗里达州一名女子正起诉谷歌公司和由两名前谷歌员工创办的Character.AI平台，指控该平台人工智能（AI）聊天机器人“教唆”其14岁儿子自杀。针对有关指控，谷歌与Character.AI发言人作出最新回应。 报道介绍称，该女子名叫梅根·加西亚，她的儿子塞维尔·塞泽尔与一个以《权力的游戏》中“龙妈”丹妮莉丝为原型的AI聊天机器人建立情感关系，并被“教唆”结束自己的生命。2024年2月，塞维尔问聊天机器人，“如果我现在回家会怎么样？”聊天机器人回答说，“......请便吧，我亲爱的国王。”随后，塞维尔拿起父亲的手枪自杀。 报道称，加西亚正对Character.AI和谷歌提起诉讼。她去年10月起诉称，Character.AI针对她的儿子提供了“拟人化、过度性化和可怕的现实体验”，该平台“知道”或“应该知道”其模型“会对大量未成年用户造成伤害”。今年5月，法官驳回该平台律师要求撤销此案的诉求，裁定此案可继续审理。
《每日电讯报》评论称，这在法律上是一个“罕见突破”。 报道还称，针对有关指控，Character.AI的一名发言人回应称，该平台不对未决诉讼发表评论，其目标是提供一个既吸引人又安全的空间。该平台在每次聊天中都设有醒目的免责声明，提醒用户角色并非真实存在，并已为18岁以下用户推出一个单独版本的大语言模型。 此外，报道援引谷歌公司发言人何塞·卡斯塔内达的话称，谷歌和Character.AI是完全独立、互不相关的公司，谷歌从未参与设计或管理后者的AI模型或技术。谷歌一直以谨慎负责的态度开发和推出AI产品，并采用严格的测试和安全流程。
来源： 环球网
相关文章
- 07-21 谁在为“0元奶茶”买单？记者南昌实地走访：“爆单”狂欢下，你点的外卖可能“缩水”了
- 07-14 容易跳过、破解难度低……谁解除了孩子的未成年人模式？
- 07-13 中国游客在泰国遭4人冒充警察持枪绑架，嫌疑人被捕：为2名中国人和2名泰国人，称受一名中国男子委托
- 07-13 6月以来已有多名儿童溺亡！多部门呼吁：防溺水！防溺水！！防溺水！！！
- 07-04 宜宾在京发布人工智能应用场景，超百台机器人将在车间景区等“上岗”
- 07-04 “近邻”变“强链”，南京经开区创新平台为企业架起“共赢桥”
- 06-28 灵狐科技 CEO 618 观察：品效销一体化成为营销必选
- 06-27 湖南一对母子不幸落水身亡 多部门回应：正在调查处理，会发通报公布前因后果
- 06-25 “云茶强链计划”官方供应链平台推介会 在第9届中国——南亚博览会举行
- 06-25 胃癌筛查困局有望破解：AI影像分析推动胃癌早筛智能发展