AI-Native的应用长什么样子

科技   其他   2024-03-26 13:54   上海  

> 本文是某产品广告,请谨慎阅读

有这么一个应用,他同时触发了大模型的三大软肋:

  1. 效果 (GPT4直呼不够)

  2. 长窗口(百万token输入,上万token输出)

  3. 高成本 (因为输入输出巨大,效果要求还高,15块钱几次调用就耗尽)


还有这么一个应用:

  1. 代码混合了大量的常规类/函数和Prompt类/Prompt函数

  2. 提供了显式的 human 模式


常规的函数是这样的:

所谓的Prompt 函数是这样的:


实际上 Prompt 函数其实就是以大模型为执行器的函数。这表明整个应用出出渗透了大模型的支持。

那这个应用是什么呢?它是一个编程助手,它的理念是帮助开发更好的迭代海量已有的项目,他会构建索引,根据需求,智能过滤原有项目代码,阅读给定的网络或者本地 HTML/Markdown/PDF/Word文档,参考现有项目代码,使用搜索引擎,甚至同步阅读第三方库来帮助程序员在已有项目上完成特定功能需求。

并且每个环节都需要智能驱动,比如从HTML里抽取出合适的正文内容等,在最后一步生成代码的时候,也同时也意味着巨大的输入,以及很长的输出(生成代码),所以非常挑战大模型的窗口支持长度以及成本。

而能否阅读已有代码,结合文档和用户需求,在合适的位置生成合适的代码,则极大的考验了模型的效果,所以编码助手对大模型是三连暴击。

如何结合本地模型,SaaS模型,API或者Web订阅版来减少Token消耗,是编程助手需要考量的问题

除了生成代码,我们还要考虑代码安全,比如企业需要能够使用私有化模型或者和特定的SaaS模型合作来保障代码安全。

程序员写代码的时候也要考虑代码安全,避免在开启 auto_merge的时候,自己原先写的代码没有commit 而被 助手覆盖。如果帮助用户开启了auto_merge ,但是觉得效果可以轻松回滚也是需要考虑的细节。

如何在已经获取已有代码,文档,第三方库的同时,还要组合使用搜索引擎来找到更好的参考也是辅助编程应用需要提供的能力。

那同时满足上面这些需求和细节的是哪家?Github Copilot ? NO! 是 Devin? NO!   

哐当,哐当,哐当,对,就是你, AutoCoder !

一个三连暴击大模型,AI-Native, 且自带 AI 底层基础设施的辅助编程工具 AutoCoder。

在了解 AutoCoder的时候,一定要去了解下 AutoCoder 的理念:

为什么不是Github Copilot,不是 Devin 而是 AutoCoder

我们应该是唯一一家聚焦在世界现存海量项目迭代,并且能够显著比 Github Copilot 提升效率,相比 Devin这种Demo/科研项目 有能真实落地的代码辅助编程工具。

我们提供了详细的教程:

通过这些内容,能让你从容开始使用 AutoCoder 助力开发,也能帮你确定是不是文章里是不是有吹牛嫌疑。

国内用户可以参看: 

https://gitee.com/allwefantasy/auto-coder/tree/master/docs/zh

或者 

https://gitcode.com/allwefantasy11/auto-coder/tree/master/docs/zh

喜欢访问github的用户则可以参看:

https://github.com/allwefantasy/auto-coder/tree/master/docs/zh

祝威廉
架构/大数据/机器学习的心得和体会,也会因为爱情和生活写首诗
 最新文章