作为软件开发行业的人来讲,是不是经常遇到一个问题?AI在演示环境跑出来的效果非常出色,在实际的应用场景中,效果就会大打折扣。很多企业的人工智能项目都还处于原型阶段,并没有真正地应用到核心生产业务。很多技术团队把问题全部归咎于大模型本身,但是经过实际调研之后就会发现,问题大多来源于数据、业务流程、组织协同等方面,并不是单纯的大模型能力不足。
成都小火科技软件公司是一家有16名员工的AI研发团队,承接了多套从POC走向正式生产的大型模型应用。我们在原型阶段使用了少量精心挑选的测试文档,所有的输入问题都是理想化的样本;但是真实的业务情况中,文档格式混乱不堪,语料混乱,数据有冲突,大量的模糊、残缺的业务输入也使得原型的表现自然无法复现。这也是企业在进行人工智能项目的时候首先要遇到的一个问题。
第一个重要的决定就是选择落地场景,坚持场景驱动,不把技术作为第一要务。不要一开始就追求大而全,先从业务痛点明确、输入输出标准清楚、可以用数据来衡量效果的角度入手。比如合同初审、内部资料问答、销售话术辅助等这些场景中,可以很容易地看到实际的收益。不建议一开始就做一个覆盖公司全部业务的大模型助手,风险很大。
第二个重要的决定是技术路线,RAG知识库、模型微调或者两者相结合。RAG 检索增强适用于企业内部文档不断更新的情况,文档修改后,知识库会自动同步更新,无需重新训练模型。微调适用于大量的标准输出、固定的风格的业务。很多客户会误认为微调就可以解决所有的问题,但是微调需要大量的高质量标注数据集,数据集准备的成本非常高昂,而文档变更又需要重新进行微调。成都小火科技软件公司会根据客户的资料来更新频率和数据集的情况,并给出相应的组合方案,很多企业的项目,RAG就可以满足大部分业务需求。
第三个重要的决定就是部署模式,公有云API调用、混合部署、完全私有化部署三种方式的选择。涉及到的核心商业秘密、涉密业务资料等,优先选择私有化部署,使用云服务器还是线下自主服务器,则根据并发规模和数据安全等级来决定。中小型企业可以选择使用云服务器;涉密和高并发的大规模业务,选择线下自有的服务器。海外业务方面要考虑到用国内服务器还是国外服务器的问题。我们公司的技术栈包括JAVA、PYTHON等,可以适应私有化部署的需求。
第四项重要的决定就是数据治理和RAG知识库建设。许多企业直接将所有的文档扔到知识库中,并不进行清洗、分类、版本控制等操作,旧版本文档和新版文档混杂在一起,大模型在检索到过时资料的时候会输出错误的答案。文档格式多种多样,扫描件为PDF格式或者图片文档,需要进行OCR识别处理。文档分块粒度也是实战中的难点,如果分块太碎就会失去上下文信息,而如果分块太大又会把无关的内容混进去。在成都小火科技软件公司项目里,会帮助客户整理文档,把有效的资料和归档的历史资料区分开来,并建立版本更新机制。
第五个重要的决定就是看组织是否能够接受到人工智能系统的上线。系统开发完毕并不意味着就可以发挥作用了。员工是否能用好,业务部门愿意把真实的业务交给人工智能来处理吗?人工复核流程有没有建立起来呢?这些都是实际存在的障碍。AI 输出会出错,生产业务中绝对不能完全相信 AI 结果,在人工审核环节不能省略。
在项目的执行过程中,能否给到我们开发进度表呢?成都小火科技软件公司也会输出迭代排期,分阶段交付原型。中间需求想要修改的话,在迭代节点进行评估并作出相应的调整。代码归谁所有,项目的源码全部交给了甲方。APP 是否可以同时适应iOS和Android两个系统呢?如果是移动端的话,是否支持双端原生开发?上线之后如果有bug的话,我们来负责修复吗?一年内免费提供运维服务,在紧急情况下可以迅速响应。维护费如何收取,期满后另行约定。后期想要增加新的功能要另外付费吗?根据工作量来计算。开发完成后我们是否会给使用者进行相关的使用培训呢?对管理员进行怎样的操作培训?这些都是我们在AI人工智能软件系统开发定制过程中需要注明的,可以结合小火科技的中学AI全景教育系统进行有关的参考,该系统涵盖了线上直播、AI批发、AI阅卷、RAG语料切割等众多AIGC核心功能。
文章来源网址:https://www.xiaohuokeji.com/archives/AI/2950,转载请注明出处!
精选案例
推荐文章
Core competence
高质量软件开发公司-成都小火科技
多一套方案,多一份选择
联系小火科技项目经理,及时获取专属《项目方案》及开发报价
咨询相关问题或预约面谈,可以通过以下方式与我们联系
业务热线 19113551853
19113551853