本文來自于2023-3-19三六零董事長周鴻祎和券商的電話會議內(nèi)容所總結(jié)。
360與大模型：機遇與挑戰(zhàn)
人工智能技術(shù)正以驚人的速度發(fā)展，其中最引人注目的是大語言模型。大語言模型是指利用海量文本數(shù)據(jù)訓(xùn)練出來的深度學(xué)習(xí)模型，可以理解和生成類似人類的自然語言。近年來，OpenAI1等機構(gòu)推出了GPT系列2等先進(jìn)的大語言模型，引發(fā)了社會各界的廣泛關(guān)注和討論。
作為國內(nèi)領(lǐng)先的互聯(lián)網(wǎng)安全公司，360也不甘落后，在大語言模型領(lǐng)域進(jìn)行了積極探索和布局。最近，360公司CEO周鴻祎在一次電話會議上，與券商分析師們就ChatGPT3這一人工智能技術(shù)進(jìn)行了深入交流。ChatGPT是基于OpenAI開發(fā)的GPT-3.54語言模型構(gòu)建的聊天機器人，可以與用戶進(jìn)行流暢自然的對話。
那么，360在大模型上有哪些優(yōu)劣勢？這個市場有哪些應(yīng)用前景？我們國家又該如何應(yīng)對未來的挑戰(zhàn)？本文將從以下幾個方面進(jìn)行分析：
優(yōu)勢：數(shù)據(jù)能力、工程化能力、場景化能力
劣勢：安全責(zé)任、倫理道德、法律規(guī)制
前景：搜索引擎、企業(yè)服務(wù)、垂直領(lǐng)域
應(yīng)對：加強研發(fā)、促進(jìn)合作、完善制度
優(yōu)勢
周鴻祎在電話會議上指出了360在大模型領(lǐng)域擁有三個方面的優(yōu)勢：
數(shù)據(jù)能力
數(shù)據(jù)是人工智能技術(shù)發(fā)展的關(guān)鍵。周鴻祎表示360公司具備全球數(shù)據(jù)抓取能力，并且可以清洗垃圾網(wǎng)頁進(jìn)行工程化索引。他還透露360搜索引擎每天有一個億用戶使用，并且有知識問答欄目，這些都為訓(xùn)練大語言模型提供了海量數(shù)據(jù)。
工程化能力
工程化是訓(xùn)練大模型所需的重要條件。周鴻祎表示訓(xùn)練大語言模型需要幾千張GPU顯卡、幾個T數(shù)據(jù)、幾個億次迭代等高昂資源投入，這對工程化能力要求很高。他稱贊微軟在工程化產(chǎn)品化方面做出了很多貢獻(xiàn)，并表示360公司也有相應(yīng)實力。
場景化能力
場景化是實現(xiàn)大模型商業(yè)價值和社會效益的必要途徑。周鴻祎認(rèn)為搜索引擎是自然語言處理技術(shù)最好的應(yīng)用場景之一，因為它可以讓用戶體驗到人工智能帶來的便利和價值。他還介紹了360公司在TO B（企業(yè)服務(wù)）領(lǐng)域也有布局，并打算推出生成式AI辦公套件和應(yīng)用。
劣勢
盡管360在大模型領(lǐng)域有著不可忽視的優(yōu)勢，但也面臨著一些挑戰(zhàn)和風(fēng)險，主要包括以下三個方面：
安全責(zé)任
安全責(zé)任是人工智能技術(shù)發(fā)展的重要保障。大語言模型由于其強大的生成能力，可能會被惡意利用或誤用，造成信息失真、欺詐、誹謗等危害。因此，360公司作為一個互聯(lián)網(wǎng)安全公司，需要對自己開發(fā)或使用的大模型進(jìn)行嚴(yán)格的監(jiān)督和管理，防止其造成不良影響。
倫理道德
倫理道德是人工智能技術(shù)發(fā)展的重要指導(dǎo)。大語言模型由于其復(fù)雜的內(nèi)部機制和不透明的輸出過程，可能會存在一些隱含或顯性的偏見和歧視，影響社會公平和正義。因此，360公司需要在開發(fā)或使用大模型時，遵循相關(guān)的倫理原則和道德標(biāo)準(zhǔn)，保證其符合人類價值觀。
法律規(guī)制
法律規(guī)制是人工智能技術(shù)發(fā)展的重要約束。大語言模型由于其涉及多個領(lǐng)域和行業(yè)，可能會觸及一些法律敏感或爭議性的問題，比如知識產(chǎn)權(quán)、隱私保護、數(shù)據(jù)安全等。因此，360公司需要在開發(fā)或使用大模型時，遵守相關(guān)的法律法規(guī)和政策規(guī)定，避免引起糾紛或處罰。
前景
周鴻祎在電話會議上展望了360在大模型領(lǐng)域未來可能涉及到的三個方面：
搜索引擎
搜索引擎是360公司最核心也最成熟的業(yè)務(wù)之一。周鴻祎表示通過引入ChatGPT等大語言模型技術(shù)，可以提升搜索引擎的用戶體驗和滿意度，增加用戶粘性和流量。他還透露360搜索引擎將與GPT-4進(jìn)行合作，利用其強大的多模態(tài)能力，實現(xiàn)更智能和更人性化的搜索服務(wù)。
企業(yè)服務(wù)
企業(yè)服務(wù)是360公司近年來重點發(fā)展的業(yè)務(wù)之一。周鴻祎表示通過推出生成式AI辦公套件和應(yīng)用，可以為企業(yè)客戶提供更智能和高效的辦公解決方案，拓展新的收入來源。他還表示360公司將針對不同行業(yè)和場景，定制專屬的大語言模型服務(wù)，滿足企業(yè)客戶的個性化需求。
垂直領(lǐng)域
垂直領(lǐng)域是360公司未來探索的方向之一。周鴻祎表示通過與各個垂直領(lǐng)域的專家和機構(gòu)合作，可以利用大語言模型技術(shù)解決一些具有挑戰(zhàn)性和價值性的問題，比如教育、娛樂、醫(yī)療、金融等。他還表示360公司將與OpenAI等國際機構(gòu)進(jìn)行交流和學(xué)習(xí)，借鑒其在垂直領(lǐng)域應(yīng)用大語言模型技術(shù)的經(jīng)驗和成果。
應(yīng)對
面對大模型技術(shù)帶來的機遇與挑戰(zhàn)，周鴻祎提出了以下三個方面的應(yīng)對建議：
加強研發(fā)
加強研發(fā)是保持技術(shù)優(yōu)勢和創(chuàng)新力的關(guān)鍵。周鴻祎表示360公司將繼續(xù)投入人力物力，在大語言模型技術(shù)上進(jìn)行深入探索和突破。他還表示360公司將積極參與國際學(xué)術(shù)界和產(chǎn)業(yè)界的交流合作，在人工智能領(lǐng)域做出貢獻(xiàn)。
促進(jìn)合作
促進(jìn)合作是實現(xiàn)資源共享和效率提升的途徑。周鴻祎表示360公司將與各個行業(yè)和領(lǐng)域的合作伙伴建立良好關(guān)系，在大語言模型技術(shù)上進(jìn)行互補互利。他還表示360公司將與政府部門、社會組織、公眾媒體等保持溝通協(xié)調(diào)，在人工智能領(lǐng)域形成良好氛圍。
完善制度
完善制度是確保安全責(zé)任和倫理道德的重要保障。周鴻祎表示360公司將遵守相關(guān)的法律法規(guī)和政策規(guī)定，在大語言模型技術(shù)上進(jìn)行合法合規(guī)的開發(fā)和使用。他還表示360公司將積極參與人工智能領(lǐng)域的制度建設(shè)和標(biāo)準(zhǔn)制定，在人工智能領(lǐng)域形成良好秩序。
總之，大模型技術(shù)是一項具有革命性和前沿性的人工智能技術(shù)，無疑會給360公司帶來更多的競爭優(yōu)勢和商業(yè)機會，也會對整個行業(yè)產(chǎn)生深遠(yuǎn)的影響。作為一個互聯(lián)網(wǎng)安全公司，360公司在大模型領(lǐng)域擁有不可忽視的優(yōu)勢，也面臨著一些挑戰(zhàn)和風(fēng)險。我們都期待看到360公司在未來能夠充分發(fā)揮其數(shù)據(jù)能力、工程化能力、場景化能力等優(yōu)勢，在搜索引擎、企業(yè)服務(wù)、垂直領(lǐng)域等方面實現(xiàn)大模型技術(shù)的應(yīng)用和創(chuàng)新，并同時加強研發(fā)、促進(jìn)合作、完善制度等應(yīng)對措施，保證大模型技術(shù)的安全責(zé)任和倫理道德，為人類社會帶來更多福祉。
【P.S 以上內(nèi)容為GPT-4自動生成~~~哈哈哈沒想到吧】
以下是紀(jì)要原文：
Q：上游哪些場景很關(guān)鍵？
A：算力不是最關(guān)鍵的問題，場景和數(shù)據(jù)是關(guān)鍵。我們二線隊伍，賬上200多億人民幣，之前國家搞了很多超算中心，沒事情干，現(xiàn)在發(fā)現(xiàn)配了GPU就有東西看。Transformer算法是谷歌發(fā)明的，實現(xiàn)靠的是大力出奇跡，幾千億參數(shù)。這是個工程問題。從1到n中國能做的很快，openai中國做的很快，谷歌和meta會很尷尬。Meta開源了他的大語言模型，技術(shù)的knowhow會快速傳播。關(guān)鍵的東西，第一是數(shù)據(jù)，有知識量的數(shù)據(jù)做訓(xùn)練，聊天的語料不包括知識chatgpt中文語料占了不到5%，大量知識在外文期刊里面，只用中文訓(xùn)練語料是不夠的。很多機構(gòu)說用了很大的參數(shù)，但是不敢拿出來說，大概率是數(shù)據(jù)不夠。還需要人類的槍花反饋學(xué)習(xí)和調(diào)優(yōu)，激發(fā)GPT理解人類的查詢意圖，這個是問題的關(guān)鍵。還有個很重要的是場景，微軟放棄了自己的小娜的研究，全力幫助AI，在場景化上可以讓大家看到人工智能有什么場景。搜索引擎一直在做NLP，自然語言處理，大家都在跟蹤使用，搜索引擎在獲取海量數(shù)據(jù)方面優(yōu)勢。我們和百度抓取的網(wǎng)頁在千億萬億的規(guī)模，需要清洗辣雞網(wǎng)頁進(jìn)行工程化的索引。我們搜索引擎要抓取英文的維基百科和語料，對于我們是現(xiàn)成的。初創(chuàng)公司可能會卡在工程化的初始階段，這個對工程化的要求比較高。還有人工標(biāo)注的調(diào)優(yōu)，微軟做了很多貢獻(xiàn)，搜索引擎幫助很大。360搜索份額占比30%，百度占比60%。微軟幫助openai占據(jù)了很多的場景，下一步可能會把teams（視頻會議）等TO B的場景做結(jié)合。
Q：以后會不會很多行業(yè)不存在了，機器把人替代了?
A：我不是很認(rèn)同。我認(rèn)為這是個洗牌的機會，如果你不重視他，抓上這班車就不行。我們企業(yè)內(nèi)部要起每個部門都用AI提升我們的能力，用AI的大語言模型賦能，這樣會成為我們手里有力的競爭武器。GPT4的知識能力和考試的能力已經(jīng)超越了每一個地球人，GPT可能是用3.5和4互相訓(xùn)練。我們也考慮過這種，用bert這種理解性的模型進(jìn)行反饋和獎勵。這是個生產(chǎn)力工具，是能給各個產(chǎn)業(yè)賦能的，關(guān)鍵是你需要找到相應(yīng)的場景和場景化的能力。
Q：以后小孩長大了應(yīng)該會學(xué)什么專業(yè)嗎？
A：這個問題很奇怪，該學(xué)什么專業(yè)學(xué)什么專業(yè)啊，對prompt很敏感。
Q：關(guān)于我們360，行業(yè)現(xiàn)在是巨頭扎堆，360的核心優(yōu)勢？
A：第一個問題已經(jīng)講了，第一是數(shù)據(jù)的能力，不能光用中文的數(shù)據(jù)，要有全球數(shù)據(jù)的抓取能力，要能做到對垃圾的判別和清洗。用戶上億次搜索的數(shù)據(jù)，我們和百度有知識問答的欄目，這種涉及用戶的真實的使用場景來進(jìn)行訓(xùn)練。數(shù)據(jù)我們有優(yōu)勢。GPT2和bert是開源的，真要做到上千億上萬億的模型，幾千張GPU的顯卡，幾個T的數(shù)據(jù)進(jìn)行幾個億的訓(xùn)練，這個對工程化要求很高。第三，搜索引擎我們市場份額是百度的一半。搜索引擎不具備生成性，不會編出林黛玉倒拔垂楊柳的故事，生成式AI會無中生有，如果編的結(jié)果是不對的普通人很難驗證就很麻煩。我們做泛化，泛化的知識圖譜的搜索，前面的十條二十條結(jié)果給大語言模型做提煉，這樣就不會讓生成式AI無中生有。我們搜索引擎dau有一個億，大語言模型可以做及時的翻譯和推薦，我們這種場景可以很好的讓用戶體驗到人工智能的場景，形成商業(yè)化的閉環(huán)。我在政協(xié)叫了個提案，大家忽視的是這個東西真正的破圈了。之前無論是阿爾法狗和蛋白質(zhì)折疊，離生活比較遠(yuǎn)。得益于微軟工程化產(chǎn)品化的能力。一方面要打造核心技術(shù)，全方位最大化的調(diào)用公司的資源。大模型的方向已經(jīng)出來了，要做到大力出奇跡，500億到1000億的參數(shù)訓(xùn)練，用有質(zhì)量的語料。谷歌現(xiàn)在很尷尬，模型做出來了商業(yè)化的場景可能也被微軟搶完了。微軟專注場景和產(chǎn)品化的結(jié)合，openai專注技術(shù)，這樣能實現(xiàn)很好的效果。
Q：360的場景和應(yīng)用？
A：并行的。360也在做TO B，也是我們很重視的機會。我們的安全大腦幫助企業(yè)抵御攻擊。我們的機會是，中國企業(yè)不接受公有云，希望有個私有化部署的GPT和數(shù)據(jù)。未來每個企業(yè)可能有自己的大腦。只做垂直行業(yè)的訓(xùn)練肯定是不行的（說的就是科大訊飛）。我們離GPT還有24個月到36個月的差距，第一個版本能做到幾百億參數(shù)的模型的時候，做到GPT的六成的功力，做到企業(yè)內(nèi)部是夠用了。TO B和TO G端是有大量的機會的。面對中小企業(yè)端，我們打算推出生成式AI的辦公套件和應(yīng)用。Openai找了100家垂直的SaaS公司，會專門訓(xùn)練垂類的應(yīng)用。我們這兩年很關(guān)注sme（中小企業(yè)），中小企業(yè)對企業(yè)數(shù)字化的要求功能明確，少花錢使用簡單，SaaS更合適，我們?nèi)ツ晖泼嫦蚱髽I(yè)的SaaS云服務(wù)，一年120萬家客戶。我們?yōu)g覽器國內(nèi)份額最大，做了個SaaS商店，我們會找合作伙伴做一些場景。TO C我們有大量的使用場景，瀏覽器加上AI插件變成AI個人助力。TO B，TO SME和TO C三十多個場景使用不同的能力，盡快占據(jù)用戶的使用場景。
Q：我們會和百度一樣芯片模型全覆蓋的平臺嗎？
A：我們肯定不是這個方向。谷歌自己搞過GPU，也就自己用。訓(xùn)練最好還是用A100和A800，框架沒必要自己搞，自己搞個框架還要花精力和別的芯片適配。微軟這么強大微軟只做應(yīng)用，openai用的框架也是用的行業(yè)通用框架。我不認(rèn)為產(chǎn)業(yè)鏈全都做了是好事。我們堅定的沿著transformer框架把模型干到千億。首先是要占據(jù)應(yīng)用場景。
Q：百度內(nèi)測效果不錯，對于360未來應(yīng)用的推廣是不是更有信心了?
A：百度搜索一哥肯定能做好的，微軟的搜索份額比谷歌要小，可以放開手要做創(chuàng)新。百度為什么做一個聊天機器人我不理解，我要做的話可能更愿意和搜索相結(jié)合。國內(nèi)我不認(rèn)為會和美國一樣一支獨大，頭條和其他互聯(lián)網(wǎng)廠商大家不會相互支持，會互相競爭，360啊微博啊B站啊知乎啊小紅書啊美團滴滴等等，他也不敢用巨頭的服務(wù)，肯定要自己搞。還是希望在這個模型上做出幾個超級應(yīng)用。有應(yīng)用有場景的公司加上模型會有價值。
Q：中國電信布局了企業(yè)版的chatgpt，對這個的關(guān)注提升到了國家戰(zhàn)略的高度，國家的重視會對行業(yè)產(chǎn)生什么影響？
A：國家隊干這個事肯定不是壞事，互聯(lián)網(wǎng)上大家都做過。從目前擁有的數(shù)據(jù)和團隊能力來看，民營企業(yè)和國企都在一個起跑線上。只要不是只要牌照才能搞大語言模型，這樣都有機會。GPT不是媒體一樣管制，是個生產(chǎn)力工具，這將決定未來國際競爭當(dāng)中的國運。美國人對于大語言模型也有政治正確的要求。
Q：中國和美國比有24到36個月的時間差？
A：不是和微軟比。GPT4驗證了我們很多觀點，他的參數(shù)量我覺得應(yīng)該到了萬億，訓(xùn)練的數(shù)據(jù)比原來大了5到10倍。人類反饋強化學(xué)習(xí)不再是十萬組，而是幾十萬組的答案對，有很強的智能的能力。目前來看多模態(tài)是勝過國內(nèi)的能力的。國內(nèi)的圖像識別還是傳統(tǒng)的圖像識別，openai把所有都看做序列，圖像也是序列，他能把圖像組成部分的關(guān)系和邏輯相關(guān)性總結(jié)出來。他在閱讀文檔上的能力國內(nèi)做不到。他能支持5萬字的輸入，表示他的深度記憶能力越強，對上下文的理解越好。GPT3.5我們認(rèn)為國內(nèi)和他的差距18個月，gpt4是24個月。云談了這么多年，企業(yè)上云的比例也還不高。這比光刻機的難度小多了。
Q：怎么看GPT4，會不會取代操作系統(tǒng)成為戰(zhàn)略級的入口？
A：這是兩個概念，需要host一個應(yīng)用需要操作系統(tǒng)，操作系統(tǒng)還是需要的。人工智能沒有突破之前大數(shù)據(jù)給企業(yè)用不好用。Gpt相當(dāng)于是發(fā)電廠，這個比喻比較貼切。純做GPT的公司有點來不及，要么是有GPT豐厚的場景。場景越大爆發(fā)性就越大，如果場景很小，就做了個虛擬人掛個GPT跟人對話，這個場景就很小。場景未來可能有多家服務(wù)提供商。
Q：場景是我們非常關(guān)注的點，特斯拉的機器人也是爆款，多模態(tài)和機器人的關(guān)系？人形機器人是終極目標(biāo)嗎？
A：我不這么認(rèn)為。不考慮機器人的外形，音響之類的用自然語言和人交流這關(guān)就是過了。Gpt能否處理好機械手臂，尋找空間定位也是，出了GPT之后傳統(tǒng)的做語言識別的圖像識別的就有問題了。人形機器人有個最大的問題，機械手臂抬起的力量，這和人工智能沒有關(guān)系。如果機器人手里拿不了太重的東西，這可能會成為妨礙。自動駕駛汽車也是個機器人，只不過長了4個輪子。GPT的大語言都可以賦能。你們和智能音箱聊過天，聊兩句就能知道他是個滯脹，gpt肯定通過了圖靈訓(xùn)練。橡膠娃娃也是仿真機器人。
Q：GPT4在物聯(lián)網(wǎng)終端的廣泛應(yīng)用是大趨勢了，邊緣計算的需求？
A：這跟邊緣計算有什么關(guān)系呢？構(gòu)不成邊緣計算的節(jié)點。真正的能力都在云端，運算都在云端。
