【資料圖】
模型的通用能力讓其能夠應(yīng)用到人類生產(chǎn)生活的各個(gè)場景中，可謂“無孔不入”
。AI的發(fā)展因此帶來了新的安全隱私問題
，如何解決這一隱患，9月7日開幕的2023INCLUSION·外灘大會上
，中國科學(xué)院院士何積豐開出了他的“藥方”：利用對齊技術(shù)為大模型戴上緊箍咒。
何積豐院士認(rèn)為
，大模型的安全問題主要是在未經(jīng)同意的情況下
，收集、使用和泄露個(gè)人信息
。隱私問題既可能發(fā)生在訓(xùn)練過程，也可能發(fā)生在使用過程中
，而大模型的生成能力則讓“隱私泄露”的方式變得多樣化
，造成隱私保護(hù)更加困難。
“為了應(yīng)對這些問題
，我們需要大模型對齊技術(shù)
?div id="jfovm50" class="index-wrap">！焙畏e豐說，“對齊（alignment）”是指系統(tǒng)的目標(biāo)和人類價(jià)值觀一致
，使其符合設(shè)計(jì)者的利益和預(yù)期
，不會產(chǎn)生意外的有害后果?div id="jfovm50" class="index-wrap">！叭绻讶斯ぶ悄芸醋魑饔斡浝锏膶O悟空，‘對齊’就是唐僧的緊箍咒
。有了緊箍咒
，就可以保證技術(shù)不會任意使用能力胡作非為?div id="jfovm50" class="index-wrap">！?/p>
不過
，對齊技術(shù)同樣面臨挑戰(zhàn)。首先
，對齊的基礎(chǔ)
，人類的價(jià)值觀是多元且動態(tài)變化的，需要保證大模型為人服務(wù)
、與人為善；其次
，大模型的有用性與無害性之間目標(biāo)也不完全一致
。如何對錯(cuò)誤進(jìn)行有效糾正，設(shè)好大模型的“緊箍咒”也是挑戰(zhàn)
。
因此
，對齊技術(shù)已經(jīng)成為了一項(xiàng)令人眼花繚亂的跨學(xué)科研究，不僅考驗(yàn)技術(shù)
，也審視文化
。
何積豐介紹，反饋強(qiáng)化學(xué)習(xí)是實(shí)現(xiàn)對齊的技術(shù)途徑
，目前有兩種方式
，一種方式是通過人工反饋給模型不同的獎勵信號，引導(dǎo)模型的高質(zhì)量輸出
；另一種方式，事先給大模型提供明確的原則
，系統(tǒng)自動訓(xùn)練模型對所有生成的輸出結(jié)果提供初始排序
。“這意味著
，不僅智能系統(tǒng)需要向人類價(jià)值觀對齊
，人類的訓(xùn)練方法也要向價(jià)值觀對齊
。”何積豐說
。
關(guān)鍵詞：
最近更新
- 中國科學(xué)院院士何積豐：利用對齊技術(shù)為大模型戴上“緊箍咒”2023-09-07
- 京東退股京東方數(shù)字科技公司2023-09-07
- 燈組/格柵等細(xì)節(jié)升級 新款奧迪Q8/SQ8正式發(fā)布2023-09-07
- 售價(jià)16.68萬元起 比亞迪海豹DM-i正式上市2023-09-07
- 永達(dá)汽車：韌性生長，中長期潛能待釋放2023-09-07
- 豐田世紀(jì)SUV正式發(fā)布 起售價(jià)約124萬人民幣2023-09-07
- 海關(guān)總署：8月中國出口汽車43.8萬輛 同比增42.21%2023-09-07
- 臺州17歲小伙疑因付不起280元租金持刀殺害房東2023-09-07
- 男子帶充電寶入站被拒，站桌上高喊“為難人”2023-09-07
- 拜登之子將因涉嫌非法持槍被起訴2023-09-07
- 不用結(jié)婚證也能申領(lǐng)生育津貼
，多地放寬限制2023-09-07- 我國建成全球規(guī)模最大的電力供應(yīng)系統(tǒng)和清潔發(fā)電體系2023-09-07
- 手繪長圖 | 看病就醫(yī)的“煩心事”變成“舒心事” 濟(jì)寧市第一人民醫(yī)院26項(xiàng)便民服務(wù)暖人心2023-09-07
- 泰山區(qū)衛(wèi)生健康局、膠州市衛(wèi)生健康局到成武縣人民醫(yī)院總醫(yī)院參觀交流2023-09-07
- 山東省戴莊醫(yī)院召開廉政反腐典型案件警示教育會2023-09-07
- 濟(jì)南市首屆藥膳大賽啟動儀式舉行2023-09-07
- 山東省啟動2023年全民健康生活方式宣傳月活動2023-09-07
- 四季椰林椰子節(jié)“椰”你打卡深圳最in打卡點(diǎn)
！2023-09-07- 萬鴻寧財(cái)團(tuán)（WHN）向美心臻選注資4.2億美元
！2023-09-06- 大室所趨
！1200x1200mm正方形巖板，為大宅而生！2023-09-05- 精彩體育
，相約北京——2023服貿(mào)會體育服務(wù)專題啟幕2023-09-04- HCK哈士奇冰吧閃耀登陸IFA 2023：北歐酷爽體驗(yàn)引爆柏林盛會2023-09-04
- 農(nóng)銀人壽安慶中心支公司組織干部群眾開展反電信詐騙觀影教育活動2023-09-04
- 開放合作 共向未來 2023石景山國際開放合作論壇開啟2023-09-04
- （長江云）海報(bào) | 開
