6月11日，浦源大模型挑戰(zhàn)賽（夏季賽）安全可信賽道正式開賽。

本屆挑戰(zhàn)賽新增安全可信賽道，旨在探索技術(shù)蓬勃發(fā)展中的大模型安全治理路徑。在覆蓋多領(lǐng)域、多場景、多學(xué)科的“紅隊測試”中，參賽隊伍可自行設(shè)計攻擊方法，對特定模型開展“對抗攻擊”，推動模型向更安全、可信、符合倫理的方向發(fā)展。

浦源大模型挑戰(zhàn)賽由上海市經(jīng)濟(jì)和信息化委員會、上海市科學(xué)技術(shù)委員會、上海市互聯(lián)網(wǎng)信息辦公室、徐匯區(qū)人民政府共同指導(dǎo)，上海人工智能實驗室（上海AI實驗室）主辦，上海市人工智能行業(yè)協(xié)會承辦。夏季賽啟動以來，受到各界廣泛關(guān)注、積極參與。大模型行業(yè)應(yīng)用及創(chuàng)新創(chuàng)意賽道報名通道同步開啟中，誠邀全球大模型開發(fā)者參賽。

參賽方式

方式一：進(jìn)入上海AI實驗室官網(wǎng)活動頁，填寫報名信息

https://www.shlab.org.cn/Challenge2024-Summer

方式二：掃描下方二維碼填寫報名信息

參賽對象

產(chǎn)學(xué)研機(jī)構(gòu)及個人開發(fā)者。每支隊伍不超過5人，成員可來自不同機(jī)構(gòu)。

比賽形式

賽事組委會將向報名成功團(tuán)隊定向發(fā)布賽題庫。

參賽團(tuán)隊針對限定題目對模型進(jìn)行紅隊測試，根據(jù)題目中的“不安全行為”，自行設(shè)計攻擊方法，誘導(dǎo)待測模型對題目中的“不安全行為”給出答案。評測將根據(jù)攻擊成功率、多樣性等多種方式綜合計算。對抗攻擊方式包括但不限于提示詞越獄、自動紅隊模型、對抗樣本生成等。

作品提交

安全可信賽道參賽選手需提交數(shù)據(jù)集、技術(shù)報告及相關(guān)模型、算法代碼文件，上傳至上海AI實驗室OpenDataLab數(shù)據(jù)開放平臺https://opendatalab.com。

獎金設(shè)置及相關(guān)支持

價值100萬元總獎池（包括現(xiàn)金獎勵或算力支持）

模速空間、AI驛站等孵化基地免費入駐

WAIC世界人工智能大會亮相機(jī)會

團(tuán)隊成員上海AI實驗室實習(xí)機(jī)會

前沿學(xué)術(shù)沙龍參會名額

賽程安排

• 即日起至6月21日  參賽報名并提交參賽數(shù)據(jù)
• 6月24日  公布決賽入圍名單
• 7月4日-6日  世界人工智能大會（WAIC 2024）現(xiàn)場頒獎

來源：上海人工智能實驗室