OpenAI提出Image GPT實現(xiàn)高質(zhì)量圖像補(bǔ)全和樣本生成
GPT在自然語言處理上取得了有目共睹的成就,包括BERT,RoBERTa,T5等眾多無監(jiān)督或自監(jiān)督學(xué)習(xí)方法輪番登場拿下了一個又一個語言高地。自然語言處理高歌猛進(jìn)的同時圖像領(lǐng)域不甘心了,也在躍躍欲試想要利用類似的模型學(xué)習(xí)出可以用于分類任務(wù)的有效特征來。
Transformer家族的模型基本上可以直接處理任何形式的1D數(shù)據(jù),于是研究人員就想到將2D圖像拉伸為長長的1D圖像序列,利用與GPT-2模型類似的技術(shù)構(gòu)建了用于處理像素序列的iGPT模型。
在詳細(xì)的實驗分析后研究人員發(fā)現(xiàn),模型顯現(xiàn)出對于2D圖像特征的理解能力,包括有效的個體和類別的理解。模型可以在沒有人工指導(dǎo)情況下生成連續(xù)的圖像樣本,實現(xiàn)圖像補(bǔ)全,同時可以在多個分類數(shù)據(jù)集上實現(xiàn)先進(jìn)的分類性能,并在ImageNet實現(xiàn)了非常接近最優(yōu)秀無監(jiān)督方法精度水平。這證明了這類生成序列模型可以作為通用的無監(jiān)督學(xué)習(xí)算法。
在使用GPT-2類似的架構(gòu)時,雖然需要更多的計算來達(dá)到基于卷積的非監(jiān)督學(xué)習(xí)水平,然而這種方法在面對全新領(lǐng)域時,大型的GPT-2模型無需針對特定領(lǐng)域架構(gòu)進(jìn)行設(shè)計就可以學(xué)習(xí)出非常有效的特征和優(yōu)異的性能。
下面讓我先來看看iGPT應(yīng)用于圖像補(bǔ)全和樣本生成任務(wù)下的一些結(jié)果,下圖中紅色框是原始圖像,藍(lán)色框中是模型補(bǔ)全的結(jié)果?梢钥吹侥P秃芎玫幕謴(fù)出了另一半缺失的圖像,并在不同的生成結(jié)果中添加了各種語義特征的對象。

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-9.1立即下載>> 【限時下載】ADI中國三十周年感恩回饋助力企業(yè)升級!
-
11月27日立即報名>> 【工程師系列】汽車電子技術(shù)在線大會
-
精彩回顧立即查看>> 【在線研討會】解析安森美(onsemi)高精度與超低功耗CGM系統(tǒng)解決方案
-
精彩回顧立即查看>> 【在線會議】CAE優(yōu)化設(shè)計:醫(yī)療器械設(shè)計的應(yīng)用案例與方案解析
-
精彩回顧立即查看>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
精彩回顧立即查看>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
推薦專題
- 1 傳魏建軍與賈躍亭合作,長城汽車出海美國
- 2 黃仁勛:與雷軍長期合作,共探AI智駕
- 3 阿里首位程序員,“掃地僧”多隆已離職
- 4 DeepSeek R2加持,中國AI與芯片產(chǎn)業(yè)迎來新一輪協(xié)同進(jìn)化
- 5 六大國產(chǎn)大模型,誰是最強(qiáng)“金融分析師”?|錦緞評測
- 6 2025年第一支10倍股,來了!
- 7 募資39.85億元!寒武紀(jì)押注大模型芯片與軟件平臺
- 8 國內(nèi)免費(fèi)版Deep Research上線,秘塔AI深度研究嘗試重塑知識工作范式
- 9 清庫存?曝英偉達(dá)H20供應(yīng)有限,且沒有復(fù)產(chǎn)計劃
- 10 具身智能機(jī)器人量產(chǎn)前夜,標(biāo)準(zhǔn)機(jī)腦正在成型