适应快速变化的业务需求,人工智能/机器学习将为 DevOps 注入全新活力

发布者:EE小广播最新更新时间:2024-01-31 来源: EEWORLD作者: JFrog大中华区总经理 董任远 JFrog中国技术总监 王青关键字:人工智能  机器学习 手机看文章 扫描二维码
随时随地手机看文章

眼下,人工智能(AI)和机器学习(ML)等赛道被热议,已经成为了习惯。事实上,在DevOps领域,与之相关的话题更是备受瞩目。随着科技不断演进,这三个领域的融合对于企业的数字化转型和多层次的创新发挥着越来越重要的作用。基于这一庞大的市场规模的增长源于基于云的技术和自动化工具的广泛应用,JFrog便立志要推进DevOps在具体业务中的实践。本文将探讨,在未来短期之内,由于AI和ML等技术的采用,企业会更加灵活地构建、部署和管理应用,从而提高整体业务敏捷性的趋势。


AI和ML的崛起为DevOps注入了全新的活力。通过AI和ML的引入,企业能够更加智能地进行运维和决策,从而优化工作流程、降低错误率,并实现更高效的自动化。这一趋势在全球初创企业和大型企业中都得到了广泛的应用,推动了整个DevOps生态系统的蓬勃发展。在全球范围内,初创企业积极采用这些先进技术和工具,以提高其竞争力并快速适应市场变化。大型企业则逐渐意识到,特别在数字时代,采用云原生、AI和ML等技术不仅是一种趋势,更是提升企业创新力和业务效率的关键所在。因此,它们纷纷投身于这些技术,通过数字化转型赋能业务。


1.  AI和ML对于DevOps的影响


首先,随着运维机器,包括版本发布频率的不断增加,未来如果有成熟的产品,通过AI工具实现自动化将成为可能。特别是在测试领域,AI测试的自动化实现将会得到强化,其学习能力的提升将显著帮助开发者。因此,AI对于Ops团队和开发者的支持将实现显著提升。


其次,模型的安全性也将成为一个重要关注点。Hugging Face是一个在互联网上管理大型模型的平台,国内的模型企业通常在这个平台上搜寻最热门的大型模型,例如来自Facebook的模型,并将其下载到本地。然而,其中存在一个潜在的问题就是恶意上传模型的风险。恶意上传者可能在模型中嵌入一些恶意代码,在本地执行模型时就会触发这些恶意代码。这种攻击方式包括但不限于在机器上植入矿机、窃取密码等多种攻击方式。目前,尚无工具能够完全阻止利用模型进行此类投毒攻击。


对此,JFrog可提供一些支持,但模型攻击的方式繁多,对策仍需进一步的研究和发展。另外,还有一种潜在的威胁是利用大型模型如ChatGPT,通过训练使其生成恶意代码。黑客可以通过故意训练GPT以产生恶意回答,当其他人查询时,就会得到这些恶意的回复。这种潜在的威胁也需要引起足够的重视。


2. 良好的基础设施是AI/ML 计划实现长期成功的关键


高度可扩展、有弹性、分布式、安全和高性能的基础设施可以决定一个组织的AI/ML 战略的成败。JFrog有客户从事超级计算,并提供机器学习服务,但与此同时,JFrog并未自己使用这些服务,而是将其提供给客户使用。客户的应用场景通常涉及在JFrog的超级计算平台上进行订单操作。若构建一个模型集群,以进行大规模的模型计算。为此,需要在平台上投入资金,首先购买所需的计算机资源,其次购买模型,还需要相关的监控服务。用户在完成支付后确认订单,此后所有操作都依赖于JFrog系统平台的分布式、可用性、安全性和高性能的基础设施即可实现。


由于模型文件非常庞大,甚至单个文件就可能达到100GB,而用户可能分布在全球各地。假设模型文件存储在用户位于北京的总部,但用户需要在西安的分公司进行训练,这就要求将整套与模型相关的文件立即传输到西安。因此,解决如何快速而又确保成功地将100GB的文件传送到西安,成为了当务之急。众所周知,这些文件传输可能经过公共网络,因此可能引发许多性能问题。这些模型的学习运算操作都依赖于底层基础设施,为实现本地建设和部署则需要大量的资源,而JFrog会将这些因素都纳入考虑。


3.  AIOps和MLOps的应用情况及优势


互联网企业因需要管理大量的机器,对于AIOps的需求非常高。AI能够智能地预测流量的变化,识别高峰和低谷,并智能地分配资源,这是互联网领域非常基本和重要的需求。比如在金融领域,对于AI运维平台的使用并不是那么频繁,尽管对于一些错误日志分析有需求,需要在出现故障时利用AI工具快速定位并解决问题,但金融行业对于超前采用AI管控运维的意识并不是很强烈。


MLOps通常是由大型互联网企业所推动,在这个环节中,JFrog也能够提供支持。因此,一些大型企业在这方面的落地较为顺畅,他们将模型开发的能力赋予了DevOps工具平台上,使得这个过程更为奏效。


4.  AI/ML应用过程中需关注的安全问题


JFrog关注到,北美用户对安全问题的投入已经达到了一个非常高的水平,软件工程师及企业的首席信息官普遍具备安全意识,他们会主动采用安全措施。早前,就有名为软件供应链安全SBOM被制定和发布,目的是定义软件供应商提供的软件包含哪些成分,每个成分的开源组件使用什么样的许可证,存在什么样的漏洞,这些都是必需的信息。在国内,企业并没有这样的要求,相关的标准也没有完全形成,中国信息通信研究院正在致力于这项工作。未来,伴随相关标准和法规的出台,这将引导企业采用开源治理来保障其软件的安全。在这种情况下,每个企业都将不得不在DevOps流程中加入软件包的安全考虑,这就是一个明显的趋势。


JFrog Xray专注于漏洞扫描,只需将软件包上传到制品库,就能自动生成SBOM软件物料清单。相信在2024年,它将变得非常流行,并成为每个企业都必备的工具。


对于AI工具如何赋能研发团队,部分企业已经开始利用一些高端芯片进行机器学习,为开发者提供代码补全的能力。当然,这是为了帮助开发者更快、更好地编写代码。与众不同的是,JFrog更加注重支持模型供应链。企业要训练模型,首先需要从互联网获取模型,然后管理和训练这个模型。在模型中,需要编写自己的代码,重新训练模型,最终发布自己的模型。因此,JFrog在模型开发方面提供了对整个端到端生命周期的支持,包括模型内的漏洞扫描和license储备器,以确保为企业提供全方位的保障。


2024年,AI和ML将继续深刻地塑造DevOps领域,通过自动化执行和智能决策提高整个开发和运维过程的效率,从而减轻开发团队的负担,为团队提供更高效、智能和创新的开发和运维解决方案。随着技术的不断进步,这些趋势有望进一步推动DevOps实践的发展,使其更适应快速变化的业务需求。


关键字:人工智能  机器学习 引用地址:适应快速变化的业务需求,人工智能/机器学习将为 DevOps 注入全新活力

上一篇:逆势上扬 增收增益
下一篇:全面兼容!研华正式成为麒麟软件卓越生态伙伴

推荐阅读最新更新时间:2024-11-17 14:29

AI公司燧原科技获3.4亿元Pre-A轮融资
据报道,专注于人工智能领域神经网络解决方案的燧原科技近日获得Pre-A轮3.4亿元融资,由腾讯领投,种子轮投资方亦合资本、真格基金、达泰资本、云和资本继续跟投。 于今年3月成立于上海,燧原科技在上海和北京设有研发中心。其产品是针对云端数据中心开发的深度学习高端芯片,定位于人工智能训练平台。 燧原科技相关负责人表示,本轮融资将用于云端AI加速芯片及相关软件生态的研发投入,专注于打造拥有自主知识产权、安全可控、高性能低成本的AI云端训练芯片,并以优化的软件生态系统切入中国云服务器和数据中心市场,引领未来人工智能算力架构的全新变革。
[机器人]
AI人工智能)引发的中国经济新动能
在全球经济不景气的大环境下,无论发达经济体,还是发展中经济体,都期望寻找到一种或多种新动能,促进经济重回到高速、健康增长的轨道。中国作为全球第二大经济体,近年来也从10%以上的高速度逐渐降速为6%至7%左右的中高速增长。显然,如果找不到经济增长的新动能,中国经济增长只能继续降速,因为依靠廉价劳动力、廉价资本、廉价资源、宽松环境已经无法持续。所幸,新动能不仅存在,而且还非常丰沛,特别是AI、5G和物联网引发的信息革命,将为中国乃至世界带来强劲的经济增长。限于时间和主题关系,今天只讲一讲AI(人工智能)引发的中国经济新动能问题。 1.AI的由来与爆发。AI由多种技术组成,它们可以以不同的方式组合起来,教会机器感知、理解、行动和学习。
[机器人]
一笔军方百亿订单,美国主流科技公司争破头?
从今年三月起,一枚来自美国军方的超级订单 JEDI,在科技公司之间丢下了一颗“炸弹”。   这个订单将持续十年,总价值超过百亿美元。为了获得这块超级大蛋糕,几家主流科技公司,一改往日和平共处的局面,直接撕到了台面上——军方反复修改截止日期;企业公开抨击流程不透明,甚至闹到了美国总统那里;还有因为道德指控最后一刻退出的。总之,目前形式已经变得极为尴尬。下面咱们就来看看这场百亿订单争夺战,以及预测下事态最终结局。   超级订单的起源 三月份,美国五角大楼(即国防部)宣布了联合企业防御计划(Joint Enterprise Defense Initiative,缩写为 JEDI,也是电影《星球大战》里 “绝地武士” 的意思,代表正义一方
[嵌入式]
开放式耳机持续增长,AI+传感器带来音频体验新的可能
今年第一季度,中国可穿戴设备市场随着消费市场复苏迎来增长。国际市场调研机构IDC的数据显示,2024年第一季度中国可穿戴设备市场出货量为3,367万台,同比增长36.2%。可穿戴设备市场中,智能手表、智能手环、耳戴设备这三大市场同时迎来增长,其中耳戴设备第一季度出货量2,075万台,同比增长30.6%,开放式耳机在其中的呈现双位数增长,尤为抢眼。 面对迅猛发展的开放式耳机,头部厂商纷纷加入,上下游产业链也逐渐成熟。在产业链上游,主芯片、传感器的迭代也推动着开放式耳机向智能化、多功能化发展。 开放式耳机中,根据技术原理的不同可以分为气传导和骨传导,气传导耳机根据形态不同,还可以分为耳夹式和耳挂式两种形态。不管是哪种形态的开放式耳机,
[嵌入式]
十张图带你了解2018年医疗人工智能融资趋势与前景!
自从2017年7月20日国务院发布《新一代人工智能发展规划》,中检所、CFDA都在积极与行业人士接触,相关政策、监管方案都在紧锣密鼓的制定当中。2017年,阿里、腾讯、科大讯飞等科技巨头相继发布 医疗 人工智能产品,并将产品落地医院,结束实践的检验,并且以人工智能技术为基础,共建智慧医院。2017年以来,全球各地的医疗和人工智能大牛回到中国,参与这股医疗AI创业浪潮。 AI+医疗融资数量有了明显的上升,融资事件集中在风险投资阶段 医疗,是目前人工智能各应用领域中发展相对较快的领域。大量医疗人工智能创业公司自2014年后集中涌现,不少传统医疗相关企业纷纷引入人工智能人才与技术。根据前瞻产业研究院发布的《2018-2023年中国医
[医疗电子]
AI医疗新产品:30秒准确诊断眼疾
据外媒报道,Alphabet旗下的DeepMind在医学应用场景中已经打造出一款能够实时诊断复杂眼疾的设备原型。 就在本月的一次人工智能系统的应用场景演示中,DeepMind对一名患者进行了视网膜扫描,并进行了实时诊断。扫描结果将由谷歌云中的一组算法进行分析,后者在30s时间内就针对该患者给出了紧急程度评级和详细诊断。 30秒准确诊断眼疾,DeepMind将推首款 AI+医疗 商业产品 据了解,该设备由DeepMind与伦敦Moorfields眼科医院合作研发,可检测青光眼、糖尿病性视网膜病变和老年性黄斑变性在内的一系列眼病。目前,该设备尚未获得任何监管部门的批准。 需要注意的是,该设备是DeepMind迈向商业化的重要一步
[医疗电子]
<font color='red'>AI</font>医疗新产品:30秒准确诊断眼疾
NVIDIA AI Enterprise 助力研究人员、医院攻克癌症
荷兰癌症研究所、医疗公司 Vyasa 和 iCAD 是率先使用 NVIDIA 软件套件快速跟踪端到端 AI 工作负载的公司。 图注:NVIDIA AI Enterprise使医院的IT管理员能够在医院的核心应用程序旁上运行AI应用程序,例如用于乳腺检查的iCAD Profound AI软件。 无论是推进癌症筛查、减少假阳性,还是改进肿瘤识别和治疗方案,AI 都是医疗健康创新和加速的强大推动力。 然而,尽管前景光明,但将 AI 集成到实际解决方案中却可能会给许多 IT 组织带来挑战。 荷兰癌症研究所 (NKI) 是先进的癌症研究和治疗中心,它正在使用 NVIDIA AI Enterprise 软件套件在比目前常用
[医疗电子]
NVIDIA <font color='red'>AI</font> Enterprise 助力研究人员、医院攻克癌症
AI大模型时代,GPU高速互连如何正确破局
在LLM热潮中,我们不仅要关注GPU本身,还要关注互连技术。随着AI参数量成倍地增加,甚至“上不封顶”地扩展,如果想要服务器扛住这样的“巨浪”,就要编织更多的网,形成非常强大的算力网络;如果想要释放GPU集群的全部潜力,每个节点间的通信都要顺畅无阻,犹如铺设一条条“高速公路”。 从UEC到UALink,取代现有技术 GPU领域,比较典型的两个互连技术是InfiniBand和NVLink/NLSwitch技术,前者用于服务器间连接,可以形成大型AI算力网络,后者可以将GPU和GPU互连,至多让576个GPU实现每秒1.8TB的通信。 毋庸置疑,两种私有协议的性能都很强劲,但它们都非常封闭,在一定程度上制约了技术的持续演进与效能
[网络通信]
<font color='red'>AI</font>大模型时代,GPU高速互连如何正确破局
小广播
最新工业控制文章
换一换 更多 相关热搜器件
更多每日新闻

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved