“書生2.5”的圖文跨模態(tài)開(kāi)放任務(wù)處理能力可為自動(dòng)駕駛、機(jī)器人等通用場(chǎng)景任務(wù)提供高效精準(zhǔn)的感知和理解能力支持。

商湯發(fā)布多模態(tài)多任務(wù)通用大模型“書生2.5”

2023-03-15 11:44:46發(fā)布     來(lái)源:多知網(wǎng)    作者:哆啦  

  多知網(wǎng)3月15日消息,商湯科技日前發(fā)布多模態(tài)多任務(wù)通用大模型“書生(INTERN)2.5”。

  據(jù)介紹,“書生”由商湯科技、上海人工智能實(shí)驗(yàn)室、清華大學(xué)、香港中文大學(xué)、上海交通大學(xué)于2021年11月首次共同發(fā)布,并持續(xù)聯(lián)合研發(fā)。

  商湯科技表示,“書生2.5”擁有30億參數(shù),“是目前全球開(kāi)源模型中ImageNet準(zhǔn)確度最高、規(guī)模最大,同時(shí)也是物體檢測(cè)標(biāo)桿數(shù)據(jù)集COCO中唯一超過(guò)65.0 mAP的模型”。

  “書生2.5”在圖文跨模態(tài)領(lǐng)域卓越的性能表現(xiàn)來(lái)自于視覺(jué)、語(yǔ)音及多任務(wù)建模三大模型能力的有效融合,即InternImage-G通用視覺(jué)大模型、用于文本理解的超大語(yǔ)言預(yù)訓(xùn)練模型(LLM)和用于多任務(wù)的兼容解碼建模大模型(Uni-Perceiver)。

  “書生2.5”實(shí)現(xiàn)了通過(guò)文本來(lái)定義任務(wù),從而可以靈活地定義不同場(chǎng)景的任務(wù)需求,并根據(jù)給定視覺(jué)圖像和任務(wù)的提示性語(yǔ)句,給出相應(yīng)的指令或作答,進(jìn)而具備通用場(chǎng)景下的高級(jí)感知和復(fù)雜問(wèn)題處理能力,比如圖像描述、視覺(jué)問(wèn)答、視覺(jué)推理和文字識(shí)別等。

  “書生2.5”的圖文跨模態(tài)開(kāi)放任務(wù)處理能力可為自動(dòng)駕駛、機(jī)器人等通用場(chǎng)景任務(wù)提供精準(zhǔn)的感知和理解能力支持。例如,在自動(dòng)駕駛場(chǎng)景中,可以大幅提升場(chǎng)景感知理解能力,準(zhǔn)確輔助車輛判斷交通信號(hào)燈狀態(tài)、道路標(biāo)志牌等信息,為車輛決策規(guī)劃提供有效信息輸入。此外,其也可解決紛繁復(fù)雜的日常生活中的常見(jiàn)任務(wù),滿足各種需求。

屏幕快照 2023-03-15 上午11.46.29.png 

屏幕快照 2023-03-15 上午11.35.02.png 

  “書生2.5”同時(shí)具備AIGC“以文生圖”的能力,還可根據(jù)文本快速檢索出視覺(jué)內(nèi)容。

  自3月14日起,“書生2.5”多模態(tài)通用大模型已在商湯參與的通用視覺(jué)開(kāi)源平臺(tái)OpenGVLab開(kāi)源。(多知網(wǎng) 哆啦)