对话360周鸿祎：魔法对付魔法，大模型安全问题得靠大模型
小枫来为解答以上问题。对话360周鸿祎：魔法对付魔法，大模型安全问题得靠大模型,这个很多人还不知道，现在让我们一起来看看吧~.~！
重磅推出系列对话栏目《态度AGI》。过去三年，AI变革风起云涌，全球科技秩序正在重构，通往AGI的道路或许正在悄然临近。本栏目以AGI为题，将对话100位AI专家、企业家、投资人，试图拨开云雾，与大家一道见证AGI时代的到来。第十期对话360周鸿祎。
距离首届互联网安全大会已经过去十二载。今年的互联网安全大会，会议简称由ISC升级为ISC.AI，互联网安全正式迈入AI时代。“AI时代网络攻击对人身安全、对社会都有更大影响。微软蓝屏事件提醒公众，数字化、智能化导致互联网世界变得特别脆弱。”360集团创始人、CEO周鸿祎表示。
他指出，得用魔法对付魔法，用大模型来解决大模型的安全问题，这是“AI+安全”的出发点。当下，360正积极布局安全大模型与“搜索+大模型”两条业务主线，为中小企业以及个人用户提供免费服务，建设免费的安全大模型。周鸿祎在接受采访时表示，360并不打算直接卷入超级大模型的激烈竞争，而选择专注于安全大模型的研发与应用。360将通过与国内15家顶尖大模型公司合作，开放自身场景，推动大模型的普及与应用。
也就是说，360的定位是做好三件事：第一，作为安全厂商，本身要做安全大模型，一方面用安全大模型解决安全问题，另一方面要解决大模型发展过程中遇到的各种安全挑战。第二，360本身有2C用户场景，比如360浏览器、360搜索、360儿童手表和摄像头，要用大模型对产品赋能。第三，推动大模型普及，让企业、政府得以非常廉价地训练和运用自己的专业大模型。
周鸿祎坦言，行业里的观点都趋同了，不卷模型了，得卷应用去，什么时候大模型“隐形”了，这个技术就成熟了，它得藏在“背后“工作。
关于热议的AI搜索机会，360作为搜索市场的重要参与者，周鸿祎也给出了自己的判断。他指出，目前到底是Search好用还是Chat好用，有可能平分秋色，也有可能将来一个被另外一个取代。AI搜索是重要的场景入口，大家都不能错过。“OpenAI做SearchGPT证明OpenAI也动摇了。”
“但它还有不少问题需要解决，比如容易产生‘幻觉’，比如有人‘数据投毒’，比如商业化问题的挑战，里面不能投放广告，让用户付费也不现实，这是大家面临的共同难题。”
以下为等对话周鸿祎精选实录（作不改变原意的调整）：
问：有观点认为未来会是几个超级大模型主导的市场，也有观点认为是众多垂直小模型并存，您怎么看这个行业格局走向，360会如何定位自己？
周鸿祎：我觉得两条路都会存在。OpenAI这种有财力、有能力的大公司肯定想开发超级通用人工智能。但是随着Lama3、千问2为代表的开源大模型诞生，大模型不会只有被30家垄断，大模型会变成所有企业、政府数字化中的重要功能节点和功能组件，所以未来在企业和政府内部会有很多垂直行业大模型或者是垂直大模型。同时大模型还有一个趋势，所谓千家万户，加上每个人的手机、每个人的电脑、每个人的汽车、每个家庭里面的机器人都会有大模型存在，所以大模型未来会无处不在、协同工作。
360定位自己做好三件事：第一，作为安全厂商，本身要做安全大模型，一方面用安全大模型解决安全方面的问题，另一方面要解决大模型发展过程中未来遇到的各种安全问题。第二，360本身有多2C用户场景，比如360浏览器、360搜索、360儿童手表和摄像头，我们会拿专业大模型对产品进行赋能。第三，推动大模型普及，让企业政府非常廉价训练和运用自己的专业大模型。
一句话，大模型不能是少数人做，得走入千家万户，走入千行百业。模型做小才能进入到个人产品中。
问：从您的角度来看，大模型行业发展会对哪些现有行业带来颠覆性的影响或者变革？
周鸿祎：我觉得大模型对所有行业都会带来巨大的变革，但不一定叫颠覆，我认为用“重塑”概念会更好，更重要的是直接提升效率，降低成本。比如我们把大模型能力分成几个层次，基础能力更多体现在个人使用上，如办公、教育、学习、语言处理、图形生成、短视频生成。第二，在企业内部还有很多业务能力，比如帮助企业实现知识管理、情报分析、业务决策。三是大模型还会跟自动驾驶相结合，跟机器人相结合，跟传统基础科学研究相结合，跟生物医学制药相结合，和农业产业相结合，都会产生新的爆发性效果。
问：我们怎么才能走向像ChatGPT这样的全能冠军，怎么正视自己的短板？
周鸿祎：坦率地说，如果走OpenAI这条路，卷超级人工智能这条路，我认为不用每个公司去卷，中国也卷不出来100家公司，算力都不够。我们觉得中国以阿里为首，在千问、百川的基础上，通过开源社区的方式去跟进，这个跟进很快。
但这个跟我说的专业大模型不是一回事，我说的专业大模型是推动大模型进入企业、进入政府，推动产业革命，不是面向个人。这只需要把我的专业能力做好，跟场景结合。所以专业大模型这路未来会发展非常丰富，将来万模大战肯定会有超过一万个专业大模型在发挥作用。
最近行业里的观点都趋同了，不要卷模型了，卷应用去，萝卜快跑就是应用。事实上，将来这个大模型技术“隐形”了，这个技术就成熟了。大模型更像电动机，根据不同领域决定开发方向，藏在背后工作。
问：“构建一个安全+AI，安全+AI的创新生态能够加速升级”这方面您能具体说一下吗？
周鸿祎：AI+安全主要是打造安全的大模型，解决两个问题：一个是用大模型能力、AI能力改善今天传统网络安全的痛点和刚需。今天传统网络安全最大痛点说白了就是缺乏专业的网络安全人才，在发现攻击、抵御攻击、情况处置、自动化运营方面跟不上时代要求，现在我们通过训练安全大模型，通过AI自动化解决发现攻击、解决攻击和运营处置的问题，能够填补人才的缺口不足。第二个，现在很多国家都意识了到AI安全治理的问题，随着AI的发展，会带来很多网络安全之外、数据安全之外的新的安全威胁和安全挑战。现在可能还是内容安全，但是将来在安全上会出现的人类安全问题现在都不可知，从现在开始要有人解决AI安全的问题，所以要用魔法对付魔法的思维，用大模型来解决大模型的安全问题，这是我们AI+安全的一个出发点。
问：有人说AI搜索取代传统搜索要更早一些，360的AI搜索如何能够做到真实、可靠、好用？
周鸿祎：AI搜索有可能代表了真正的突破点，连OpenAI都开始做AI搜索了。用聊天方式解决问题，今天也产生了怀疑，比如我们两个人聊天，有的时候效率很高，有的时候理解起来又很困难，特别是要写复杂的提示词，这对我都有难度，所以搜索要跟AI结合。搜索人人都会用，它不用输太长的要求，给几个关键词就可以了。AI搜索是在搜索中利用大模型来猜测搜索意图，把信息进行分解变成多步不同的搜索，多次搜索拿回结果，然后用结果进行汇聚，这个就是大模型的作用。
大模型+搜索容易产生幻觉，但现在做出一个搜索+大模型，数据是以搜索为主，相当于做了一次搜索增强和知识对齐。当然这里面也会出问题，比如有人数据投毒，这时候要加上内容识别来识别一些荒诞不经的内容。这里面也有大模型，大模型组合起来干这些事情，你说的这些问题就可以解决了。
另外现在很多AI搜索做的比较简单，只是把搜索结果改写了一下。我们现在做的是每个搜索意图可能都有一个智能体替你完成，是调用多个大模型来完成复杂的任务。
现在AI搜索越来越复杂了，最大的挑战是解决商业化问题，里面不投放广告，让用户付费使用也不可能，因为搜索本来是免费的。这是为什么百度和谷歌很犹豫的原因，也是为什么GPT打谷歌的原因。
所以360AI搜索背后不是一个大模型，因为一个大模型根本干不成。打个不恰当比喻，这越来越像我们说的智能体框架或者工作流软件。所以行业里对大模型的认知是有一个过程的，安全行业更后知后觉。现在国内领先的几个大模型巨头谈论的已经不仅仅是大模型，知识决定大模型的能力，而大模型能力能很好的发挥出来不是取决于智能体框架，智能体框架生成大模型能力之后，能不能给业务带来直接帮助取决于工作流把它融入。
问：您觉得AI搜索发展趋势是什么？现在有一种声音说AI search+Agent+Work Flow是一种趋势，你怎么看？
周鸿祎：现在要把AI用好，只靠一个大模型肯定不行，因为大模型能力再强大，没有agent，没有智能体，没有WorkFlow，完成不了完整的任务。大模型能够进行工具、知识、推理、记忆的增强，最重要的是用Agent框架解决了大模型只能快思考的问题。人有两套系统，一套是快思考，一套是慢思考。把快思考的大模型推到前台试图解决一切问题实际上是不现实的。而Agent框架最重要的是解决慢思考问题。无论做AI什么，AI搜索也好，搜索+AI也好，这些功能必不可少。
我之所以觉得现在用户使用体验方面，搜索+AI比在大模型+搜索增强效果要更好，一是搜索习惯用户已经养成了，不需要教育，但用大模型提示词去交流可能难度很高，二是搜索的期望不同于大模型聊天机器人，搜索的期望是找到答案，三是难度不一样，如果不划定场景，用大模型一部分能力牛刀小试，就能把搜索体验改的非常好。
我们做AI搜索流量发展很快，现在360AI搜索月活已经过千万了。我认为大模型能力很强大，但一定是跟各个场景相结合，去赋能各个场景，这样的用户体验最好。最近注意到一个现象，美国的初创公司Perplexity成长得很快，OpenAI做SearchGPT证明OpenAI也动摇了。到底是Search好用还是Chat好用，有可能平分秋色，有可能将来一个被另外一个取代掉，但至少说明AI搜索是重要的场景入口，大家都不能错过。
问：您怎么看待大模型免费？
周鸿祎：通用大模型没有免费，通用大模型的成本太高了，而且是以公有云的方式提供的，这么高的成本，Token已经很便宜了，但再便宜肯定不能免费。我们推出的办公套件是基于通用大模型推理能力来支撑的，也是有成本的，这个有免费使用期，但不能免费。
我说的安全大模型免费有两个条件：第一，提供的不是通用大数据，是6个专业大模型，是买了我360企业安全产品比如买我的安全大脑、买了我的终端安全、买了我安全器服务的，对这些已经买我产品的用户是免费升级的。第二，这些专用大模型不是在云上公有部署的，是私有化部署到用户企业内部的，所以这个没有算力的成本，当然可以免费了。两个产品不一样，一个是toB产品，一个是toC产品。
问：想从投入产出比请教一下，不知道跟这几家大模型具体合作方式是资源置换还是具体的价格，用户增长量或者相应终端下载量的提高，这件事情的ROI未来会呈现一个明显的增长吗？选择这种合作模式的考量是什么？
周鸿祎：首先各家Token都有报价，而且每千词Token上的费用已经很低了，我们用了多少Token就付多少钱。他们来支持我用他们能力，相当于我基座模型平台能力特别强大，我自己尽可能给他们带更多流量、带更多用户进来，想办法创造更多的产品，让用户每天使用更多次数。
现在国内大模型是的情况是每家既有优势也有劣势，没有压倒性领先。你用百度、用阿里、用豆包，把能力综合起来有可能形成一个最强战队。中国需要几十家厂商都去开发一个通用AGI吗？我觉得做不到，就不支持。
所以我现在的思路，大家都在训模型，没有拓展应用，模型有再强大的能力也发挥不出来。所以不要老是说要鼓励应用开发者利用API做套壳。套壳有深度套壳、浅度套壳，我们做的办公会员包括浏览器各种场景就是深度套壳，不能将调API一概称之为套壳，好像很低级，他们做API出来就是希望有人套在里面。
《态度AGI》第八期：对话智谱AI CEO张鹏：视频生成是AGI必经之路，超级App将在“不知不觉”中到来
来源：网易科技
以上就是关于【对话360周鸿祎：魔法对付魔法，大模型安全问题得靠大模型】的相关内容，希望对大家有帮助！
版权声明：本文由用户上传，如有侵权请联系删除！