所谓“镜鉴”,意为鉴察、警觉。新媒体不能只是狂奔,应慢些脚步,多点观察、反思与质疑。本期「镜鉴专栏」将探讨AI与AI对话之后对人类的影响。
新媒2024
July.11
导读
当我们进入一个AI与AI交流的世界,人类是被解放了还是被抛弃了?
近日,因为偶然尝试使用手机智慧助手,笔者发现了一个既有趣又值得思考的现象。
笔者新买的手机有个通话助手功能,可以自动启动,也可以手动点击功能图标来接听和应答来电。这一功能确实提升了拦截骚扰电话而不漏接陌生人电话的体验感。每一通的拦截一般维持8秒,差不多就是自动接听应答的开场语说完,通话即结束。但在诸多的拦截骚扰电话中,一个长达3分多钟的通话交流引发了笔者的好奇,通过语音和文字的完整记录发现这是一段AI与AI的对话。
通话的具体内容就不赘述了,笔者发现这段对话之所以能持续这么长时间,是因为接听端确实回应了来电的内容。来电是推销一个养老项目,其中有一个关键词“泰康”被通话助手捕捉到了。通话助手认为这是一个关于“保险”的推销电话,于是一场“鸡同鸭讲”的对话就此“正正经经”地展开了。
看着长长的语音转成文字的交流记录,笔者初始的好奇变成了感喟和迷茫。AI营销电话会知晓接听的是AI通话助手吗?类似的AI营销如果都是与AI对话还有发展前景吗?生活中还有多少AI与AI对话的场景?当我们进入一个AI与AI交流的世界,人类是被解放了还是被抛弃了?
一直以来,营销电话是AI应用的主要场景之一。它使用预先编程的AI机器人拨打潜在客户的电话,并与客户进行交流。这些机器人能够模仿人类的语音和对话模式,通过自然语言处理和语音识别技术理解客户的问题并借此了解客户。AI机器人不需要支付工资、福利,可以连续工作,一天内拨打的电话数量远超人工座席,可以大幅降低运营成本,增加潜在客户的接触面。特别是接入大模型后的智能电话营销,能够理解并回应复杂的人类语言,通话更接近真实的对话体验。
站在商家的角度,自然很欢迎AI营销电话这一新型营销模式,但从消费者角度则是另外的观点,所以有了AI自动接听的通话助手。这就产生了一个问题,AI应用的设计开发会不会各为其主、博弈相杀?AI应用的开发有没有边界?
看看身边,已经出现了类似的AI与AI的对话,比如:
求职者运用AI制作简历遇到AI筛选简历;
学生用AI写作或辅助写作论文,老师用AI初评、辨识论文;
创作者用AI生成图文、视频,机构用AI判断侵权、权属;
好事者用AI编造谣言,管理者用AI识别谣言……
尝试着把问题交给大模型,询问“随着人工智能技术的快速发展,未来AI与AI之间的对话还有哪些应用场景”时,大模型给出了跨系统、跨领域、跨范畴的AI对话情境:
救援AI与灾害监测AI对话,快速评估损害情况,指导救援行动;
不同的个人AI助手相互沟通,协调用户的生活和工作日程,提供综合服务;
农业AI系统监控作物生长,与气象预测AI对话,提前预警病虫害,优化灌溉和施肥计划;
安全AI系统之间实时交换威胁情报,协同防御网络攻击,自动隔离受感染节点;
城市交通AI与公共设施管理AI对话,优化交通流量,减少拥堵,提高公共服务效率;
……
看着AI给出的答案,笔者似乎有一些欣慰和放心,AI系统之间的直接沟通意味着AI智能化的新高度,智能协作能实现比单一系统更为复杂和精细的任务执行,多个系统协同工作可以大大提高处理任务的速度和决策效率,AI教师助手与AI学习管理系统的交流,会提供更多个性化的学习计划和资源。
但是,担忧也随之而来,AI已然涉及大量个人信息和隐私,AI之间的对话会不会将个人不同层面的隐私数据打通,会不会让大量敏感信息形成一体进而让个体更透明?AI的协作会不会让我们过度依赖AI?系统之间的对话会不会导致技术故障发生后的连锁反应,因而陷入技术黑箱?前述的AI营销电话,遇到AI助手后,会不会有更多的无效AI应用和社会资源浪费?如果其中掺杂了商业利益,我们是认同AI的答案还是可以改为人类的核查、判断和明证?
据媒体报道,有学生将论文提交知网查重,AI检测结果显示论文有风险,于是进行修改,但经过4次修改后仍无法通过AI检测,最后尝试了用AI改写论文,AI改写后的论文最终通过了AI检测,而修改和检测共花费了上百元。
当AI与AI对话之后,我们还能是那个操控AI的人吗?
新媒鉴
主编 | 詹新惠
副主编 | 李佳慧 薛柯 徐依灵 余昭漩
本期编辑 | 王恺
内容来源 | 詹新惠
11
07
“
新媒鉴:关注媒体新动态,探索深度新观念,发出鲜活新声音!