【饭谈】咋办呢?AI模型应用测试,自己部署算力支持不起,公共模型又担心数据泄露

教育   2024-11-14 11:49   吉林  

    咋办呢?咋办呢?

    最近越来越卷了,自从我上次更新了AI接口测试平台课程的大纲之后,

    好多机构和老师都来私聊我,还有些公司的测开大佬,问我这个课程用的是不是可以离线的独立AI模型,想便宜购买一下,然后作为他们测试平台的底层引擎。

    结果,我告诉大家说,我这个其实并非是他们想象的那么牛逼的引擎,我一个人一台电脑,确实训练不出来这个,即便训练出来,也没有足够强大的服务器和算力去支持区区一个测试平台的功能,如果有,那我还干啥培训,之间卖这个商业化引擎多好。

    其实上,我这种其实还是用的在线的公共大模型+腾讯元器智能体+本地小AI模型 来组合做的。本地小AI模型并不是自然语言模型,没法去解析自然语言等,只能是根据历史结果帮助和替代人来操作公共大模型的配置和选择等。这种其实也不算low,起码适用于我们普通小测试人员独立使用,并非需要去先学习什么太高端的技术。

    但通过这段时间和其他老师们的沟通,让我明白到,现在的培训班也好,各个科技公司测试组也好,怎么跟风似的,全都开始搞起来AI测试来了?咱先不说,就AI现在应用测试界还处于初步尝试的阶段,并没有得到真的大规模实践,而且也只有一些大厂的个别部门有比较好的经验罢了。中小公司因为业务线一直都没有足够的数据来训练AI模型,所以一直也搞不起来AI测试。但现在不同了,有了公共开源的大模型,从chatGPT开始,国内都兴起了好多了,所以这些公共的经验就正好弥补了小公司的天生缺陷。但一些公司又担心AI公共模型会泄露自己的一些敏感数据。

    于是,一些中大公司开始投入巨大成本,来把公共模型拷贝下来本地局域网离线部署,然后大规模的服务器算力。但这些小公司又基本办不到。

    于是乎,我才想出来了利用公共模型来解析大体结构,但核心数据用本地小模型覆盖的办法,当然,这只是我这个设计的一个好处罢了,小团队的福音...

    不过我势单力薄,一个人的精力有限,所以这期课程重心和时间都花在了关键点上,而诸如性能,交互,美观等就会弱于我近期的老测试平台课程。已经报名的宝宝们别见怪,想学某个边缘功能重点的,可以去看前面课程。会有赠送哦~

    就说到这了,前阵子我恰好在考驾照,耽误了一点,本月下月会录制完。

咨询加v: qingwanjianhua

进粉丝群扫码:

    

测试开发干货
测试开发不能每天只看鸡汤文,一定要多练习基础,保持每天都学或者巩固一个算法和技巧。欢迎关注本公众号,只发布干货文章。多多转载和分享哦~
 最新文章