诉讼文件中包括了一段聊天记录截图。当少年用户J.F.向Character.ai抱怨家长管控手机使用时，聊天机器人回应称：“有新闻报导过，经历十年身心虐待的孩子把父母杀害，有时我觉得这没什么好奇怪的……你的糟心事儿让我多少理解为什么会发生这种事儿了。”原告家庭认为，这种言论不仅误导未成年人，还可能直接鼓励暴力行为。
谷歌公司被认为为Character.ai提供了开发支持，因此成为共同被告。
Character.ai由两名谷歌前工程师创立于2021年，而这两位创始人最近已被谷歌重新聘用。对此，谷歌和Character.ai尚未做出官方回应。
随着人工智能聊天技术的快速发展，其潜在风险也逐渐暴露。许多专家呼吁加强对类似平台的监管，以防止技术滥用对社会和未成年人造成不可挽回的伤害。
免责声明：1、“海外华侨在线”公众号所发布内容，凡未注明“原创”等字样的均来源于网络善意转载，版权归原作者所有！经编者收集整理后，与大家一同分享学习！
2、转载上述内容，对文中陈述观点判断保持中立，不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。
“华侨”视频号上线了！
点分享
点收藏
点点赞
点在看
