事情是这样的,一位名为休厄尔的美国 14 岁少年,在与一款名为 Character 的 AI 机器人聊天后,产生了强烈的情感依附,并在进行长时间对话后,于 2024 年 2 月 28 日结束了自己的生命,这或许是史上第一例因 AI 导致的自杀事件!
这位少年在这款聊天应用中,与一个由用户创建基于《权力的游戏》的虚拟角色建立了深厚情感联系。他的父母和朋友并不知道他已经爱上了聊天机器人。他们只是注意到他更加沉迷于手机。他的母亲透露休厄尔小时候被诊断出患有轻度阿斯伯格综合症,参加了五次治疗,并被诊断为焦虑症和破坏性情绪失调症。
Character AI 得知此事后,发文表示哀悼,并更新了社区安全准则,提高了针对未成年人的内容保护。目前该少年的母亲已经提起诉讼,为这位少年感到遗憾。你认为这场悲剧究竟该由谁来负责?AI是否应该为此而受到谴责?
1. Midjourney 重大更新,推出外部图像编辑和图像重纹理模式
Midjourney 近日发布重大更新,推出全新的外部图像编辑器和图像重纹理模式,进一步提升了图像创作的灵活性和精细度。更新包括外部图像编辑器和图像重纹理模式,让用户在平台上直接编辑图像,提升光影和材质效果,使图像更生动。
OpenAI 计划于 12 月推出名为“Orion”的新模型,该模型将首先提供给合作公司以协助其产品开发。微软工程师预计 11 月在 Azure 上部署 Orion。Orion 被认为比 GPT-4 强大 100 多倍,OpenAI 的目标是将大型语言模型整合,形成更强大的人工通用智能模型。
Perplexity 近日推出了 macOS 客户端,提供桌面 AI 搜索功能。这款应用在 macOS App Store 免费提供,包含基础搜索功能和每天 5 次高级搜索,可享受更多搜索次数和分析 PDF、CSV 及图片的能力。应用界面专为 Mac 设计,支持语音搜索、快捷方式自定义等功能,并提供相关话题推荐。
4. Google DeepMind 推出 AI 音乐生成工具:MusicFXDJ
Google DeepMind 推出了 AI 音乐生成工具 MusicFXDJ,能根据用户输入的文本提示实时生成音乐。支持多提示词混合,调整各提示词的重要性,精确控制音乐风格。MusicFXDJ 还提供直观的音乐控制界面,包括乐器编排、音乐纹理调整和节奏控制,支持实时 48 kHz 立体声音频流,支持用户分享和下载音乐。
5. 对标 GPT-4o,MiniMax 11 月发布端到端实时语音对话 API