6月11日,浦源大模型挑戰(zhàn)賽(夏季賽)安全可信賽道正式開賽。
本屆挑戰(zhàn)賽新增安全可信賽道,旨在探索技術(shù)蓬勃發(fā)展中的大模型安全治理路徑。在覆蓋多領(lǐng)域、多場景、多學(xué)科的“紅隊測試”中,參賽隊伍可自行設(shè)計攻擊方法,對特定模型開展“對抗攻擊”,推動模型向更安全、可信、符合倫理的方向發(fā)展。
浦源大模型挑戰(zhàn)賽由上海市經(jīng)濟(jì)和信息化委員會、上海市科學(xué)技術(shù)委員會、上海市互聯(lián)網(wǎng)信息辦公室、徐匯區(qū)人民政府共同指導(dǎo),上海人工智能實驗室(上海AI實驗室)主辦,上海市人工智能行業(yè)協(xié)會承辦。夏季賽啟動以來,受到各界廣泛關(guān)注、積極參與。大模型行業(yè)應(yīng)用及創(chuàng)新創(chuàng)意賽道報名通道同步開啟中,誠邀全球大模型開發(fā)者參賽。
參賽方式
方式一:進(jìn)入上海AI實驗室官網(wǎng)活動頁,填寫報名信息
https://www.shlab.org.cn/Challenge2024-Summer
方式二:掃描下方二維碼填寫報名信息
參賽對象
產(chǎn)學(xué)研機(jī)構(gòu)及個人開發(fā)者。每支隊伍不超過5人,成員可來自不同機(jī)構(gòu)。
比賽形式
賽事組委會將向報名成功團(tuán)隊定向發(fā)布賽題庫。
參賽團(tuán)隊針對限定題目對模型進(jìn)行紅隊測試,根據(jù)題目中的“不安全行為”,自行設(shè)計攻擊方法,誘導(dǎo)待測模型對題目中的“不安全行為”給出答案。評測將根據(jù)攻擊成功率、多樣性等多種方式綜合計算。對抗攻擊方式包括但不限于提示詞越獄、自動紅隊模型、對抗樣本生成等。
作品提交
安全可信賽道參賽選手需提交數(shù)據(jù)集、技術(shù)報告及相關(guān)模型、算法代碼文件,上傳至上海AI實驗室OpenDataLab數(shù)據(jù)開放平臺https://opendatalab.com。
獎金設(shè)置及相關(guān)支持
價值100萬元總獎池(包括現(xiàn)金獎勵或算力支持)
模速空間、AI驛站等孵化基地免費入駐
WAIC世界人工智能大會亮相機(jī)會
團(tuán)隊成員上海AI實驗室實習(xí)機(jī)會
前沿學(xué)術(shù)沙龍參會名額
賽程安排
- 即日起至6月21日 參賽報名并提交參賽數(shù)據(jù)
- 6月24日 公布決賽入圍名單
- 7月4日-6日 世界人工智能大會(WAIC 2024)現(xiàn)場頒獎
來源:上海人工智能實驗室
來源:網(wǎng)信上海
原標(biāo)題:浦源大模型挑戰(zhàn)賽(夏季賽)安全可信賽道正式開賽