人工智能清静2023年度总结及2024年展望

宣布时间 2024-01-09

科技浪潮滔滔向前，2023年人工智能（Artificial Intelligence,简称AI）飞速生长，从图像识别到自然语言处置惩罚，从智能制造到智慧医疗，AI的触角已延伸至社会生爆发涯的方方面面 。


随着AI的普遍应用，其清静性、隐私掩护及伦理问题也逐渐凸显 。这一年，我们见证了诸多关于AI清静的政策出台及研究效果宣布，从数据清静到算法公正性，从隐私掩护到AI伦理，清静问题已贯串于AI生长的全链条 。


在这岁末年头之际，我们将对已往一年火热的人工智能在清静领域的希望举行简要回首，并对新一年的人工智能清静生长趋势举行展望 。期待能够更好地平衡人工智能手艺的生长与清静危害，配合构建一个越发清静、可信任的AI未来天下 。



人工智能清静2023年度总结



1、大模子成为清静行业关注焦点，清静企业纷纷推出基于大模子的清静应用


2022年尾ChatGPT的横空出生，彻底引发了大模子热潮 。


据统计阻止2023年11月29日，海内已宣布10亿参数规模以上的大模子254个，并涌现出以ChatGLM、Baichuan等为代表的可免费商业授权的开源大模子，极大降低了大模子的商用门槛 。


恒久以来，清静行业面临告警数据量大、事务剖析处置惩罚严重依赖专业清静职员履历等挑战，而大模子体现出的通用人工智能特征正是应对挑战的理想解决计划，从而引发了清静行业的高度关注 。


这波清静大模子浪潮中，工业界走在了学术界的前面，海内外互联网公司和清静企业纷纷宣布了基于大模子的清静应用，学术界在这一领域的声音并不突出 。


2、智能助手成为主流的清静大模子应用形态


目今宣布了清静大模子的厂商，在产品形态上大都接纳了智能助手的形式，即通过在对话窗口中举行自然语言交互，提供告警解读、视察取证、处置惩罚建议等方面的能力 。


这主要是使用了大模子所具备的语义明确、天下知识和头脑链的能力，使得应用能够明确清静职员的问题，并通过与外地数据的交互，爆发相关问题的谜底 。


3、古板机械学习模子仍然在特定清静场景中施展作用


虽然大模子一连火爆，但这并不料味着大模子能够解决所有的清静剖析问题 。


目今的大模子是“大语言模子”的简称，这个名字自己就说明晰大模子实质上照旧语言模子，不适用于所有的使命 。一些特定的清静剖析场景，如基于行为特征识别加密通讯上所承载的应用、基于终端实体间会见关系识别恶意历程等，很难通过语言模子的形式举行问题笼统，更适适用经典的行为序列剖析、图结构剖析等算法举行处置惩罚 。


“尺有所短，寸有所长”，一些专用的小模子仍然在特定清静场景中施展要害作用 。


4、 大模子应用场景中的数据清静问题引刊行业关注


新兴手艺往往具备“双刃剑”效应，大模子也不破例 。


虽然大模子在多个应用领域中展现出能够大幅提升事情效率的重大潜力，但媒体也时时爆出韩国三星因员工使用chatGPT泄露商业神秘、意大利因隐私掩护问题成为全球首个禁用chatGPT的国家等新闻 。


要想让大模子成为生产力工具而不但仅是玩具，就必需要让大模子能够会见到事情内容 。而事情内容中又不可阻止保存商业神秘或隐私数据，这似乎是一个两难的逆境 。



目今人工智能清静应用中保存的问题



1、受算力问题困扰，清静大模子在企业级用户难安排


大模子的训练和推理需要较多的算力资源 。


一些企业级用户在接纳大模子计划时，由于数据清静问题无法使用公有云的算力，更倾向实验大模子的私有化安排 。


但受限于外洋对我们在高端芯片领域的出口管制，这些企业往往无法采购到知足自身需求的显卡资源，无法充分享受大模子的盈利 。


2、 大模子缺乏与清静情形的交互接口，限制了大模子能力施展


若是大模子不可与用户外地情形交互，只能以助手的方法举行清静知识问答，那么大模子在清静剖析和运营营业中能够施展的作用就大打折扣了 。


要想让清静大模子像一名真正的清静专家，直接或辅助完成清静数据剖析、清静战略下发、清静装备管控等操作，就要买通大模子与清静数据和清静装备的交互接口 。


目今多样化的清静数据形态、重大的清静装备系统，使得清静大模子很难周全临接，限制了清静大模子在整个清静营业流程中施展更大的价值 。



人工智能清静2024年展望


   

1、大模子应用的门槛进一步降低，更多清静企业和用户在产品计划中接纳清静大模子


随着大模子手艺及生态的进一步成熟，大模子训练、优化、安排的手艺门槛进一步降低 。数据要素市场化的推进，也为基于高质量语料库举行大模子优化提供了新通道 。


这使得缺乏专业手艺职员、笔直领域数据积累的用户，也有可能通过市场化手段跨越手艺和数据的壁垒，从而让更多的用户在清静建设中选择基于清静大模子的产品或解决计划 。


2、巨细模子协同的完整解决计划更受清静行业青睐

   

清静厂商在解决完大模子的有无问题之后，下一步要关注的就是怎样让清静大模子在现实营业中施展更大价值 。


如前所述，大模子不可解决所有的清静问题，面向特定营业场景的专用小模子仍施展着主要作用 。


怎样基于详细的营业场景，打造巨细模子协同的解决计划，并能够基于使用历程中沉淀的数据一连对巨细模子的能力举行优化，会成为大模子应用落地历程中重点思量的环节 。


3、国产化替换成为清静大模子落地的主要包管

  

随着外洋芯片管制对我国的进一步升级，依赖外洋算力资源生长海内大模子手艺的蹊径实验难题，这也给了海内芯片行业重大的生长空间 。


陪同着海内昇腾、海光等GPU显卡的宣布，以及配套的软件开爆发态逐渐完善，越来越多的大模子应用将会基于国产化算力资源安排，这也为清静大模子的落地应用提供了主要包管 。


4、面向清静行业的多模态大模子


目今主流的大模子大都是“大语言模子”，或者在训练历程中接纳了音视频、图片等模态数据的多模态大模子 。


清静领域在营业中也会用到多模态数据，只是这里的“多模态”，与主流人工智能领域的“多模态”有实质差别，清静领域的“多模态”是指剧本、源代码、二进制文件、流量、系统日志等差别形态的清静数据 。


在清静检测和剖析中，需要处置惩罚种种模态的清静数据；大模子也只有能够明确这些模态的清静数据，才华不借助外部工具解决重大的清静问题 。


阻止文本成稿时，我们关注到清华大学宣布了全球首个机械语言大模子MLM，我们展望未来会有更多的面向清静行业的多模态大模子面世 。


5、大模子应用中的数据清静问题解决计划逐渐完善

   

数据清静问题是使用大模子、尤其是云端大模子服务时绕不开的话题 。仅仅依附大模子服务提供商的一纸声明，无法彻底作废用户的清静记挂 。


相信随着大模子应用的普及，通过对大模子的输入和输出举行数据清静检测阻止敏感数据泄露，或者通过密态盘算、多方清静盘算等手艺手段解决用户的隐私掩护问题，会逐渐成为大模子应用配套的数据清静解决计划 。