|
自“千模大戰(zhàn)”興起，金融、醫(yī)療、教育等擁有數(shù)據(jù)積累的多領(lǐng)域企業(yè)，紛紛加入大模型隊(duì)伍，發(fā)布垂類(lèi)大模型。垂類(lèi)大模型以深度解決行業(yè)需求為主，即大模型需要具備豐富的專業(yè)領(lǐng)域知識(shí)，才可能創(chuàng)建出更符合特定垂類(lèi)場(chǎng)景的“產(chǎn)業(yè)版GPT”。 不過(guò)，創(chuàng)建大模型并非易事，通常會(huì)面臨數(shù)據(jù)、計(jì)算資源、模型和算法設(shè)計(jì)、訓(xùn)練時(shí)效、模型驗(yàn)證調(diào)優(yōu)等多方面問(wèn)題，耗費(fèi)大量人力、物力、財(cái)力后，依然效果甚微，而使用虎博科技的開(kāi)源大模型Tigerbot則可得到解決，用戶最快可在30分鐘內(nèi)無(wú)代碼的訓(xùn)練和使用專屬于自己的大模型和數(shù)據(jù)。 據(jù)了解，虎博科技在發(fā)布開(kāi)源大模型Tigerbot的同時(shí)，也發(fā)布了大模型應(yīng)用開(kāi)發(fā)所需的全套API，包括對(duì)話(Chat)、插件(Plug-ins)、微調(diào)(Fine-Tunes)等，并開(kāi)放金融、法律、百科等多個(gè)專業(yè)領(lǐng)域數(shù)據(jù)，在高效果和高效率雙方面，為用戶提供了充分保障。 對(duì)話方面，Chat-API 為 TigerBot 對(duì)外提供的可直接使用的 api，支持 Tigerbot-7B 和 Tigerbot-180B 兩種模型的選擇;插件方面，除了Tigerbot提供的自研插件，可用api調(diào)用外，用戶還能管理自己的數(shù)據(jù)，訓(xùn)練專屬插件;微調(diào)則更加人性化，用戶僅僅按照數(shù)據(jù)要求管理上傳自身數(shù)據(jù)，即可無(wú)代碼快速訓(xùn)練出基于 TigerBot 大模型能力基礎(chǔ)的自己的模型。 Tigerbot是虎博科技自研的多語(yǔ)言多任務(wù)大規(guī)模語(yǔ)言模型，10人團(tuán)隊(duì)歷經(jīng)三個(gè)月超過(guò)3000次實(shí)驗(yàn)后誕生。目前覆蓋生成、開(kāi)放問(wèn)答、編程、畫(huà)圖、翻譯、頭腦風(fēng)暴等15大類(lèi)能力，支持子任務(wù)超過(guò)60種。經(jīng)測(cè)試體驗(yàn)，Tigerbo能勝任寫(xiě)廣告語(yǔ)、做表格、糾正語(yǔ)法錯(cuò)誤等不同任務(wù)，也支持多模態(tài)文生圖的需求。 目前，虎博科技共推出70億參數(shù)(TigerBot-7B)和1800億參數(shù)(TigerBot-180B)兩種規(guī)模的模型。根據(jù)OpenAI InstructGPT 論文在公開(kāi) NLP 數(shù)據(jù)集上的自動(dòng)評(píng)測(cè)，TigerBot-7B 版本已達(dá)到 OpenAI 同樣大小模型的綜合表現(xiàn)的 96%，尤其在推理式問(wèn)答等個(gè)別領(lǐng)域表現(xiàn)更為亮眼，而這一版本還只是MVP(最小可行性模型)。 (上圖為公開(kāi) NLP 數(shù)據(jù)集上的自動(dòng)評(píng)測(cè)，以O(shè)penAI-instruct GPT-6B-SFT為基準(zhǔn)，歸一化并平均各模型的得分情況) 虎博科技創(chuàng)始人兼CEO陳燁希望通過(guò)提供Tigerbot API構(gòu)建生態(tài)藍(lán)圖，“大模型是人工智能時(shí)代的基礎(chǔ)設(shè)施，而生態(tài)的發(fā)展則能反哺大模型的能力，實(shí)現(xiàn)技術(shù)與產(chǎn)業(yè)發(fā)展的共榮共生，也可與廣大開(kāi)發(fā)者一同打造中國(guó)的世界級(jí)應(yīng)用。” 此外，Tigerbot在發(fā)布之際便開(kāi)源，涉及模型、代碼、數(shù)據(jù)三部分內(nèi)容，包含 TigerBot-7B-sft、 TigerBot-7B-base、TigerBot-180B-research 等多個(gè)模型版本;基本訓(xùn)練且覆蓋雙卡推理 180B 模型的量化和推理代碼;以及達(dá) 100G 的預(yù)訓(xùn)練數(shù)據(jù)、監(jiān)督微調(diào) 1G/100 萬(wàn)條數(shù)據(jù)。(開(kāi)源地址：https://github.com/TigerResearch/TigerBot ) 據(jù)了解，虎博科技成立于2017年，以讓人們獲取知識(shí)更簡(jiǎn)單為愿景，其專注于深度學(xué)習(xí)和NLP技術(shù)的研究和應(yīng)用已得到了廣泛認(rèn)可。此次自研大模型TigerBot發(fā)布并開(kāi)源，更標(biāo)志著這家專注于深度學(xué)習(xí)和自然語(yǔ)言處理技術(shù)的算法公司在大模型研發(fā)領(lǐng)域取得了重要突破。 |
