2024-11-05
2024-11-01
2024-11-01
2024-11-01
2024-10-30
2024-10-28
2024-10-25
2024-10-25
2024-10-24
2024-10-24
(文/赵法彬)在人工智能的时代浪潮中,企业正寻求抓住这一技术红利,重塑业务模式、提升运营效率、创造新的商业机遇。然而,面对闭源AI产品的挑战,企业自主性、安全性、创新速度和兼容性问题成为不可忽视的痛点。我们不应只有闭源AI一个单选项,随着开源AI生态起势,10月31日,主题为“解锁•下一步”的2024红帽论坛在北京举办,书写开源AI时代新篇章。红帽全球副总裁兼大中华区总裁曹衡康(Victor Tsao)认为,AI的前景是无限的,但关键在于应用场景。
帮助企业更快实现开源AI应用
曹衡康说,“关于场景应用,红帽引入了“开放实验室”的概念,与客户的顾问团队合作,针对企业的研发、生产、市场行销和客户支持等环节,一起找出最具效能的应用场景。从一个小应用成功起步,再逐步扩展至更大的场景。”红帽的混合云理念鼓励客户在合适的场所部署算力,比如公司内部数据中心、公有云,甚至跨多云环境。去年红帽推出了“Unlock”理念,旨在避免客户被锁定在特定云上,开源架构为客户提供更多弹性和自由度。“因此,在算力支持方面,我们始终鼓励客户使用红帽的开放平台,以便在任意云和本地环境中灵活切换,满足各种算力需求。”红帽的理念不仅是创建和使用开源模型,更在帮助企业构建个性化模型。通过“小模型”概念,红帽可以快速将客户的知识库输入到模型中,无论采用何种模型架构,都可以通过深度数据的方式生成企业的专属模型。这种方法让红帽能够快速搭建适合客户的特有模型。
红帽全球副总裁兼大中华区总裁曹衡康(Victor Tsao)
红帽大中华区资深市场总监赵文斌(Max Zhao)补充说,“我们最近与NVIDIA等全球合作伙伴开展了新项目,特别是在加速场景应用落地方面。”场景应用是ISV(独立软件开发商)和应用供应商最擅长的领域。由于许多企业和行业都有各自的特点,红帽加速了与本土ISV及方案开发商的合作。在市场拓展中,红帽也特别关注共创模式(co-creation)。通过与ISV共创,结合各行业的独特场景和联合解决方案,可以帮助企业更快地实现AI应用落地。由于企业通常难以完全自行开发应用,红帽将本土ISV及AV(应用供应商)作为未来的重要合作伙伴,推动本地场景的AI应用落地。
红帽大中华区资深市场总监赵文斌(Max Zhao)
红帽大中华区方案架构部总经理王慧慧(Aella Wang)表示,确实听到许多客户反馈,他们希望先了解成本和收益,再决定项目的可行性。红帽对此需求非常重视,提出了“分步实施”的策略,即三步走。第一步,客户可以在最小资源配置下试用开源模型和工具,比如在笔记本电脑上用CPU试跑,而不需要额外的GPU卡。如果第一步测试效果满意,客户可以进入第二步:通过云租用算力进行进一步扩展。红帽平台几乎可在任何云上运行,客户可以选择公司数据中心或外部公有云资源,这样在确认模型适合需求后,才进入第三步的大规模部署。在第三步中,红帽的架构支持跨云混合部署。例如,客户可以在中国使用阿里云,在美国使用AWS,这种多云方案既灵活又经济。“我们的目标是帮助客户实现最佳的投资回报率(ROI),并在每一步提供适配的支持。”
红帽大中华区方案架构部总经理王慧慧(Aella Wang)
红帽助力西门子提升效率与质量
西门子作为一家务实的企业,在运用AI技术时,重点关注提升工厂生产效率、质量管理和风险管控。西门子工业自动化(成都)有限公司信息技术部经理杨健介绍说,“作为一家数字化工厂,我们重视AI、数据及技术平台的投入,因为我们已经在实际应用中采用了许多数字化理念和方法来提升生产效率和质量。我们公司很早就开始应用小模型,尤其是在生产领域,比如机器视觉。以垃圾分拣为例:原材料加工后产生的垃圾有金属、塑料和纸张等,以前的机器人视觉识别准确率只有大约85%。我们通过小模型训练,比如利用开源的OpenCV基础框架,将准确率从85%提升到95%以上,大幅提升了分拣效率。”
西门子工业自动化(成都)有限公司信息技术部经理杨健
杨健表示,小模型在生产中非常适用,因为应用和场景单一,错误率低,能保证质量和过程的可控性。然而,大模型有时会出现幻觉现象,这在生产应用中存在风险。比如在知识库问答中,生活场景下偶尔答错影响不大,但在生产线上,如果工艺流程的操作指导出错,可能导致严重问题。因此,其对大模型的应用目前保持探索并较为谨慎,希望通过持续优化,使大模型更可靠、可信且全面。“在我们采用红帽的解决方案后,实现了从单体架构向微服务分布式架构的转型。这样的架构带来了几个优势:一是可以在不停机的情况下进行维护、升级和变更;二是每次变更可以针对更小的范围,便于精准控制和资源调度。我认为这种转型是制造业未来发展的一个趋势。”
曹衡康表示,目前,AI的基础架构已经基本完善。过去两年,全球资本大举投入基础建设,但不久前美国股市暴跌引发了关于高昂投入却未见显著成效的讨论,许多企业应用仍未落地。包括西门子在内的许多客户都在探讨如何更有效地起步。此前,不少企业尝试用大模型提升效能,但发现大模型不适合生产场景,因为一点小错就可能带来风险。因此,红帽在过去几年提出了“小模型”概念,即专属模型(faithful purpose),让企业的数据驱动AI模型的生成,确保模型稳定、安全,并符合企业的特定需求。红帽架构支持开源和闭源模型,为企业提供灵活选择。此外,红帽还引入了“社区版”小模型,通过合成数据大幅减少对真实数据的需求,将数据量降至原来的千分之一。这种方式不仅降低了算力需求,节约了成本,能耗也大幅减少,对环境更加友好。在基础架构上,红帽采用混合云模式,支持本地数据中心、公有云和边缘计算环境的运行,为企业提供灵活的AI模型部署方案。像西门子这样务实的公司,只有在实际获得价值后才会继续合作。
杨健告诉记者,“在实际合作过程中,我们发现与红帽的合作非常顺畅,红帽在响应速度和责任感方面表现突出。AI和技术环境在快速变化,需要不断调优和改进,而红帽在这个过程中保持了谦虚友好的态度,与我们共同成长。这种共创的模式和合作环境非常宝贵,也是我们选择并继续合作红帽平台的重要原因之一。下一步,除了继续在微服务平台上探索外,我们还计划在虚拟化领域展开更多合作,这是红帽的强项之一。我们希望借助红帽的虚拟化技术替代部分现有方案。此外,今天会议中关于AI平台的新介绍也为我们带来了很多启发,未来我们将进一步研究,看看如何将AI平台更好地整合到西门子的资源体系中,进一步优化制造流程。”
大力推动开源AI在中国的部署
曹衡康介绍说,今年是红帽在中国的第20年。2004年11月11日,红帽在中国正式成立公司,这对红帽来说是一个重要的里程碑。去年红帽创下了历史新高,今年也继续以双位数增长,增长来自于越来越多的企业接受开源技术,他们认识到开源的优势。红帽的成长很大程度上得益于红帽广泛的生态系统。在开源领域,技术必须能被大多数厂商适配和支持,这也是客户信任红帽的原因。红帽的合作伙伴超过5000家,涵盖硬件和软件厂商,确保所有新版本都能顺利集成。“我认为AI的前景是无限的,但关键在于应用场景。红帽专注于在我们的架构中探索更多应用场景,这才刚刚开始。我们会持续努力,力求在这一领域有所突破。即使是在传统的数字创新和数字转型领域,我们也将产生更多的应用案例,这是推动我们不断前进的动力。未来,我们将继续与合作伙伴一起为客户创造最大价值。”
既然开源AI前景无限,那么,红帽将如何推动开源AI在中国市场的部署呢?曹衡康回答说,“首先,一个新技术要进入市场,最快的方式就是找到成功的应用案例并加以推广。因此,我们的第一步是通过各种市场渠道推广AI的独特功能和优势,包括今天红帽论坛的演示。第二步是通过合作伙伴生态,赋能合作伙伴的技术和顾问团队,使他们更深入地了解红帽的AI技术,从而更好地支持客户。第三步,我们通过开放实验室,与客户共同探讨如何将AI技术应用到企业的实际场景中。当客户确认应用场景后,我们就可以进行产品的全面导入。我们已经有一个保险业客户成功部署了该技术。”
曹衡康表示,与闭源公司不同,开源技术较少受到各种限制,用户可以随时下载和使用所需的工具。红帽下一步将继续扩大与国内企业的合作,尤其是在硬件和软件方面。红帽已与本土ISV公司(独立软件开发商)建立了多项合作,例如在中国引以为豪的新能源汽车领域,红帽已与多家国内企业合作,包括地平线等公司。这些合作涵盖芯片和软件等方面,确保红帽的开源路线在国内有更多本地化支持。此外,红帽内部也在使用AI来优化客户支持。例如,在客户查询知识库时,红帽通过AI提供最佳解决方案。红帽的工程师在项目交接或技术总结时也使用AI生成报告,让下一个接手的人可以更快上手。这种方式有效减少了重复沟通,提高了效率。