南宁网站建站推广,宁波十大外贸公司,自字网站建设教程,企业网站建设收费科技云报道原创。
生成式AI作为当前人工智能的前沿领域#xff0c;全球多家科技企业都在加大生成式AI的研发投入力度。
随着技术、产品及应用等方面不断推出重要成果#xff0c;如今有更多的行业用户在思考该如何将生成式AI应用落地。
但开发生成式AI应用是一个充满挑战的…科技云报道原创。
生成式AI作为当前人工智能的前沿领域全球多家科技企业都在加大生成式AI的研发投入力度。
随着技术、产品及应用等方面不断推出重要成果如今有更多的行业用户在思考该如何将生成式AI应用落地。
但开发生成式AI应用是一个充满挑战的系统工程并不是单纯的产品和服务拼接涉及基础设施领域一系列的挑战。
亚马逊云科技大中华区产品部总经理陈晓建表示当我们谈论生成式AI时大多数人都在谈论基础模型而整个生成式AI应用就像是浮在海面的冰山露在海面上方能被大多数人看到的冰山一角就像是基础模型而在冰川的底部同样需要大量的基础模型以外的服务来支撑如加速芯片、数据库、数据分析、数据安全服务等等。
那么想要构建一个成功的生成式AI应用需要哪些基础设施助力业界是否有一些最佳实践可以参考呢
生成式AI应用构建的关键 高性价比的基础设施
都说算力、算法和数据是人工智能发展的三要素想要让这些要素更好地与生成式AI应用匹配高性价比的基础设施必不可少。
AI高性能芯片为生成式AI训练提供算力支撑 人工智能的发展从深度学习时代进入到大模型时代大规模预训练模型的参数量呈现指数级上升需要高性能算力的支撑。
目前大规模预训练模型训练算力是以往的10到100倍当前主流生成式AI模型的训练广泛使用到英伟达Tensor Core GPU芯片如微软斥资数亿美元购买数万颗英伟达A100芯片以帮助Open AI打造ChatGPT。
AI计算集群为生成式AI模型训练降低成本 AI计算集群能够提供大规模算力、持续提高算力资源利用率、提升数据存储和处理能力进一步降低模型训练门槛和成本推动生成式AI模型的落地进程。
当前较为典型的AI计算集群例如基于英伟达最新GPU芯片H100 Tensor Core的Amazon EC2 P5实例与上一代相比速度快6倍训练成本节省40%
基于亚马逊云科技自研的机器学习推理芯片Amazon Inferentia2推出的Amazon EC2 Inf2实例与其他类似的EC2实例相比性价比高40%
基于自研机器学习训练芯片Amazon Trainium推出的Amazon EC2 Trn1实例与同类实例相比训练成本节省高达50%。
这也是为什么有越来越多的客户比如Airbnb、OPPO、Sprinklr 和 Autodesk等会选择使用亚马逊云科技的自研芯片来承载他们的生成式AI应用。
基础模型服务为构建生成式AI提升效率 生成式AI的核心是利用机器学习领域的基础模型驱动的从RNN、CNN到VAE、GAN每种模型都有其独特的优点和应用领域这些模型在很大程度上决定了AI系统的表现。
然而基础模型的发展和迭代速度正超越以外任何一项技术基本以月甚至天为单位持续迭代。
在众多的基础模型中应该如何便捷安全的选择最适合自己业务场景的基础模型是每一家企业在构建生成式AI应用时面临的挑战。
事实上借助专门构建的生成式AI工具和基础设施可以帮助企业快速构建高性价比的生成式AI应用。
例如亚马逊云科技Amazon Bedrock是一项无服务器服务提供了广泛的模型选择、数据隐私并且能够自定义模型无需管理任何基础设施。
该服务提供的基础模型来自Meta, Anthropic, Stability AI, AI21 Labs, Cohere等第三方领先提供商以及自身的Amazon Titan模型等近期还加入了Meta的下一代开源大模型Llama2以及Anthropic的Claude2等热门基础模型。
同时Amazon Bedrock与Amazon SageMaker Jumpstart结合用户可以从Amazon SageMaker Jumpstart中选择开源的基础模型然后根据自身需求可以选择全量微调轻量微调等不同方式进一步确定微调框架利用分布式训练实现微调从而更好的评估微调效果。
云原生服务加速生成式AI应用构建 人工智能预训练模型的开发对于云服务有较大需求AI云服务可以提供人工智能开发模块通过多元化的服务模式降低开发者的开发成本和产品开发周期为模型开发提供AI赋能。
尤其是借助云原生服务可以加速AI应用构建助力业务敏捷创新。
比如以微服务化和事件驱动架构为核心的设计框架松耦合的去处理每个功能模块之间的互相依赖Serverless First能够简化运维、提升效率在DevOps、基础设施即服务、自动化等现代应用治理理念持续投入可以促进企业内部的应用资产与实践的分享构建高效敏捷的构建者文化等等。
数据服务为生成式AI打造基座 数据作为生成式AI的关键也将推动生成式AI的广泛应用对于所有的组织企业来说都十分重要。
首先面向生成式AI构建强大的数据“基座”需要一套全面的服务以便能够存储用于构建和微调模型的各种类型的数据
其次还需要服务间的集成以打破数据孤岛确保能够随时访问所有数据
最后还需要在构建生成式AI应用程序的整个生命周期中确保数据安全并对其进行管理。
以亚马逊云科技为例针对生成式AI领域的用户个人信息、会话信息管理、私域知识库等应用场景都提供了专门构建的数据库。
在数据集成方面亚马逊云科技已经在Amazon S3、Amazon Aurora、Amazon Redshift、Amazon SageMaker、Amazon EMR、Amazon Athena、Amazon Kinesis等各项服务之间实现了深度的数据集成帮助企业执行分析和机器学习且无需移动数据。
在数据治理方面亚马逊云科技Amazon DataZone让客户能够跨组织边界发现、访问、共享和治理大规模数据并减少企业内部成员访问数据和使用分析工具时繁重的工作量。
构建生成式AI 应用的行业实践
目前由生成式AI引导的企业变革序幕全面展开以多元应用不断创新AI应用范式并将实践成果逐步延伸至智慧教育、智能制造、医疗等领域真正成为人们生产生活的得力助手。
其中在行业类应用场景中AI助手类应用得到了广泛运用比如在协同办公赛道就掀起了新风口
钉钉接入千问大模型用户可以唤起10余项AI能力如自动整理群聊要点、生成待办、预约日程、写文案、生成海报、一键生成讨论要点等。
飞书宣布推出智能助手“My AI”功能包括汇总会议纪要、创建报告、优化和续写文字内容等功能。
金山办公推出“WPS AI”支持内容生成、公式生成、制作PPT、扫描识别并分析文件等功能。
而在金融、医疗、工业等领域最具前景的应用则来自于数据挖掘和知识洞察Insight类工具。
但无论是哪种形式的生成式AI的应用落地背后都离不开强大的基础设施作为支撑。
金山办公软件股份有限公司的 AI 研发总监刘强表示今年起WPS开始将大语言模型的能力全面引入产品致力于开发新一代办公软件。
而在构建生成式AI应用的过程中基础模型性能有限数据隐私与安全难以保障高额管理成本等现实情况成为了摆在金山办公面前的重重障碍。
亚马逊云科技Amazon Bedrock中支持的领先大语言模型在多个文字处理场景中符合金山办公的需求。
除多种模型选择外Amazon Bedrock还在数据安全层面给金山办公提供了充分的支持极大地提高了金山办公的内部开发效率助力金山办公进一步革新办公体验。
西门子中国也借助了一系列云基础设施、大数据、机器学习等技术来构建生成式AI应用。
据西门子中国大禹团队介绍长期以来企业内部资源的检索和调用都存在结构散乱、检索速度慢、交互不便等问题。因此大禹团队决定将大数据库和生成式 AI 应用于一个全新的“智能知识库”从根本上提升知识库的可用性。
在亚马逊云的技术支持下西门子中国大禹团队通过一个智能知识库暨智能会话机器人的解决方案三个月时间就上线了生成式AI对话机器人“小禹”实现了快速、精准的查询和回复。
在整个解决方案中包括预训练大语言模型Amazon OpenSearch Service的向量数据服务以及相关系统集成等这些核心关键能力让解决方案指南能实现目标知识库约80%功能西门子中国根据企业内部需求再做20%定制化开发最终形成完整的解决方案。
同时Amazon OpenSearch Service的无服务器特性让开发人员不需要管理集群或担心生产规模可以快速推动部署。
基于Amazon SageMaker上提供的丰富的模型开发和训练工具也保证了开发人员可以在云端轻松实现大语言模型的调优以及测试更多不同类型的开源模型。
结语
生成式AI正在成为企业新一轮业务创新的重要工具成为下一代的生产力工具。
总体来看高性价比的云基础设施技术如同一艘航母能够为企业提供坚实的底座让企业摆脱基础设施的束缚更好、更高效地专注于创新。 【关于科技云报道】
专注于原创的企业级内容行家——科技云报道。成立于2015年是前沿企业级IT领域Top10媒体。获工信部权威认可可信云、全球云计算大会官方指定传播媒体之一。深入原创报道云计算、大数据、人工智能、区块链等领域。
