文|Edu指南
對(duì)教育界的許多人來說，人工智能是一個(gè)被釋放的“惡魔”，它會(huì)讓學(xué)生作弊而不受懲罰，并有可能取代教育工作者的工作。對(duì)于其他人來說，這是應(yīng)對(duì)教育無數(shù)挑戰(zhàn)的靈丹妙藥。
“‘由于人工智能，整個(gè)世界即將走向終結(jié)’，這是不正確的，另一方面，‘人工智能將解決我們所有的問題’，這也是不正確的，”國(guó)際教育技術(shù)協(xié)會(huì)（ISTE）首席執(zhí)行官Richard Culatta理查德·庫(kù)拉塔表示。
事實(shí)上，人工智能和所有技術(shù)一樣，本質(zhì)上沒有好壞之分。重要的是如何使用和部署。在學(xué)校使用人工智能的最有效方法是：作為支持而不是取代教育工作者的工具。美國(guó)教育部前教育技術(shù)主管約翰·貝利 (John Bailey) 表示，最好將其視為“補(bǔ)充而不是取代人類的存在”?！斑@不完全是一個(gè)導(dǎo)師。離個(gè)性化學(xué)習(xí)肯定還差了一點(diǎn)。但這就像有一個(gè)非常聰明的助手，隨時(shí)可以幫助你解決問題并管理你的工作?！?/p>
盡管許多教育工作者可能想忽視這一最新的技術(shù)進(jìn)步，但他們并不能完全忽視。正如印第安納州安哥拉市安哥拉中學(xué)的科學(xué)老師馬克·海夫納 (Mark Heifner) 所說：“我絕對(duì)害怕人工智能。但就像歷史上的所有發(fā)明一樣，無論我們喜歡與否，我們都必須學(xué)習(xí)如何使用它。”
在一些學(xué)校，人工智能已經(jīng)為學(xué)生提供個(gè)性化反饋，以幫助學(xué)生學(xué)習(xí)或更好地理解問題或概念，幫助教師制定課程計(jì)劃，為教育工作者提供教學(xué)反饋，為學(xué)生制定個(gè)性化教育計(jì)劃，并幫助家長(zhǎng)更好地理解和參與正在進(jìn)行中的教育過程。
社交媒體、互聯(lián)網(wǎng)和手機(jī)都提供了關(guān)于擁抱技術(shù)但不仔細(xì)考慮如何引入技術(shù)的警示故事。教育工作者面臨的挑戰(zhàn)是如何使用人工智能，利用其前所未有的力量來加強(qiáng)教學(xué)和學(xué)習(xí)，同時(shí)減輕其負(fù)擔(dān)。本文嘗試探討并幫助他們做到這一點(diǎn)。
ChatGPT 革命
人工智能自 20 世紀(jì) 50 年代以來就已存在。但在 2017 年之前，它主要使用過去的數(shù)據(jù)來預(yù)測(cè)未來的行為。想想 Netflix ，它會(huì)根據(jù)你過去看過的內(nèi)容推薦你可能喜歡的電影。其他例子如自動(dòng)駕駛汽車或者下棋等。
然而，此前人工智能在人類語(yǔ)言或創(chuàng)造力方面并不是特別擅長(zhǎng)——直到 2017 年，一篇名為“注意力是你所需要的一切（Attention is All You Need）”由八位作者發(fā)表，其中一些人當(dāng)時(shí)就職于當(dāng)時(shí)被稱為 Google Brain 谷歌大腦的人工智能研究團(tuán)隊(duì)。
這些新發(fā)現(xiàn)催生了生成式人工智能技術(shù)，它使用大型語(yǔ)言模型（LLM）來理解和生成新內(nèi)容。2022 年末，OpenAI 公司發(fā)布了 ChatGPT（Chat Generative Pre-Trained Transformer），引起了全球關(guān)注。ChatGPT 的出現(xiàn)是一次重大的技術(shù)飛躍，它能夠快速分析文本、總結(jié)文檔、以類似人類的風(fēng)格響應(yīng)查詢、將任何內(nèi)容翻譯成幾乎任何語(yǔ)言。通過其他模型，人工智能還可以創(chuàng)建數(shù)字藝術(shù)品以及視頻和音頻，例如音樂作品。
ChatGPT 學(xué)習(xí)速度的一個(gè)驚人例子是它在 SAT、AP、甚至 GRE 和 LSAT 等測(cè)試成績(jī)的提高。賓夕法尼亞大學(xué)沃頓商學(xué)院副教授 Ethan Mollick 和他的妻子、沃頓互動(dòng)學(xué)院教育學(xué)總監(jiān) Lilach Mollick 解釋道：在面向教育工作者的五個(gè)視頻系列中，人工智能過去未能通過這些測(cè)試，但 ChatGPT 表現(xiàn)相當(dāng)不錯(cuò)。它在 LSAT 中的得分位于 40%，在 GRE 的得分超過 60%。這本身就令人驚訝。幾個(gè)月后，當(dāng)新的 ChatGPT-4 發(fā)布時(shí)，LSAT 分?jǐn)?shù)提高到至 80 % 分?jǐn)?shù)，GRE 定性分?jǐn)?shù)提高到至 99 %。
“我們正處于一場(chǎng)非常大的變革之中，這可能是近代歷史上最大的變革之一，”Mollick表示。“這將影響我們作為教師、學(xué)生和工人所做的一切?！?/p>
學(xué)校應(yīng)該知道什么
人工智能專家希望人們知道一件事：人工智能不是魔法。這不是超自然的事物。它是可以控制的。
早期一些美國(guó)學(xué)區(qū)急于禁止 ChatGPT，但很快就發(fā)現(xiàn)這沒有什么意義。紐約市學(xué)校于 2023 年 1 月禁止訪問聊天機(jī)器人，并于 5 月撤銷了該決定。人們認(rèn)識(shí)到，禁止它只會(huì)讓那些在學(xué)校之外擁有更多技術(shù)選擇的人（通常是富裕的學(xué)生）使用它，而貧困的學(xué)生就會(huì)被拋在后面。
此外，正如紐約市公立學(xué)校校長(zhǎng) David C. Banks 在一份聲明中表示：“本能的恐懼和風(fēng)險(xiǎn)——使人們忽視了生成式人工智能支持學(xué)生和教師的潛力，以及我們的學(xué)生正在參與并將在一個(gè)理解AIGC至關(guān)重要的世界中工作的現(xiàn)實(shí)?！?/p>
關(guān)于人工智能新世界，管理者、校長(zhǎng)、首席技術(shù)官和教育工作者面臨著許多問題：我們?nèi)绾芜x擇投資哪些公司或項(xiàng)目？人工智能應(yīng)該成為學(xué)生的必備技能嗎？對(duì)于學(xué)生使用人工智能作弊，學(xué)?？梢圆扇∈裁创胧侩[私風(fēng)險(xiǎn)有哪些？
”Mollick和其他專家警告教育工作者不要急于購(gòu)買人工智能程序?！坝幸话偃f家公司試圖向教育工作者、管理者出售一百萬種不同的東西，””Mollick說。他警告學(xué)校目前不要與第三方供應(yīng)商簽訂合同，部分原因是人工智能變化如此之快，現(xiàn)在看起來不錯(cuò)的東西可能幾個(gè)月后就不合適了。此外，學(xué)校和學(xué)區(qū)在購(gòu)買任何東西之前，都需要了解人工智能可以做什么來滿足他們的特殊需求。
第一步是了解 ChatGPT 和類似的聊天機(jī)器人，例如 Google 的 Bard、Amazon 的 Q 和 Anthropic 的 Claude 等等。布朗大學(xué)計(jì)算機(jī)科學(xué)教授Michael Littman邁克爾·利特曼表示，開發(fā)這些技術(shù)的公司在網(wǎng)絡(luò)上爬取數(shù)據(jù)，收集了大量信息。該過程本質(zhì)上是瀏覽互聯(lián)網(wǎng)的自動(dòng)化版本。
但這將導(dǎo)致幾個(gè)嚴(yán)重的障礙，最重要的是，這些高度復(fù)雜的聊天機(jī)器人提供的數(shù)據(jù)并不總是正確的（現(xiàn)在使用的術(shù)語(yǔ)是，當(dāng)聊天機(jī)器人生成編造的事實(shí)時(shí)，它正在“產(chǎn)生幻覺（hallucinating）”） 。此外，教育工作者必須向聊天機(jī)器人提出正確的問題或提示，以獲得他們想要的信息。
為了在這方面提供幫助，公司和非營(yíng)利組織正在開發(fā)更有針對(duì)性的聊天機(jī)器人，這些機(jī)器人接受了精選信息的訓(xùn)練——更有針對(duì)性地幫助教師制定課程計(jì)劃，或者為學(xué)生提供專業(yè)發(fā)展和個(gè)性化輔導(dǎo)。
從成熟組織到初創(chuàng)企業(yè)，公司和非營(yíng)利組織都在紛紛進(jìn)軍人工智能市場(chǎng)。“這是一項(xiàng)價(jià)值數(shù)十億美元的業(yè)務(wù)，每個(gè)人都試圖用我需要嘗試的服務(wù)或解決方案淹沒我的收件箱，”俄亥俄州倫敦麥迪遜-普萊恩斯地方學(xué)區(qū)的技術(shù)總監(jiān)埃里克·格里菲斯 (Eric Griffiths) 表示。
最著名和最廣泛宣傳的教育聊天機(jī)器人之一來自非營(yíng)利性機(jī)構(gòu)可汗學(xué)院。其產(chǎn)品被稱為 Khanmigo，該公司創(chuàng)始人 Khan 將其描述為人工智能驅(qū)動(dòng)的學(xué)生導(dǎo)師和助教。它可以幫助教師制定課程計(jì)劃、共同創(chuàng)建評(píng)分細(xì)則以及撰寫班級(jí)通訊等。
Khanmigo 面向?qū)W區(qū)每位學(xué)生的定價(jià)為每年 35 美元，其目標(biāo)不僅僅是為學(xué)生提供答案，而是通過提出問題和提供個(gè)性化反饋來指導(dǎo)他們完成學(xué)習(xí)過程。它還可以幫助學(xué)生完成論文修改過程。
另一種以教育為重點(diǎn)的聊天機(jī)器人是 Stretch AI，這是一款由 ISTE 和監(jiān)督與課程開發(fā)協(xié)會(huì) (ASCD) 開發(fā)的教師教練機(jī)器人，兩者已合并為一個(gè)組織。聊天機(jī)器人僅根據(jù) ISTE 和 ASCD 審查的信息進(jìn)行訓(xùn)練。
教育工作者目前正在測(cè)試和訓(xùn)練 Stretch AI。Culatta 表示希望在未來幾個(gè)月內(nèi)推出。他認(rèn)為專門的工具，其中的內(nèi)容經(jīng)過仔細(xì)審查，并引用答案進(jìn)行驗(yàn)證，這是人工智能的真正未來，尤其是在學(xué)習(xí)方面。
教師將能夠創(chuàng)建自己的定制機(jī)器人。Open AI 在 11 月推出了 ChatGPT 功能，允許用戶通過提示編程，輕松創(chuàng)建定制應(yīng)用程序。例如，Bailey表示，老師可以設(shè)計(jì)一款應(yīng)用程序來提供導(dǎo)師功能。老師可以提示機(jī)器人根據(jù)學(xué)生的興趣定制課程，然后對(duì)學(xué)生進(jìn)行測(cè)驗(yàn)。如果學(xué)生答錯(cuò)了，“導(dǎo)師”就會(huì)向?qū)W生解釋答案。
教師還可以規(guī)定聊天機(jī)器人獲取的信息來源。例如，他們可以通過利用美國(guó)教育部 What Works Clearinghouse 的有效教學(xué)方法研究來設(shè)計(jì)課程計(jì)劃。憑借信息交換所應(yīng)用程序中存儲(chǔ)的大量研究資源，教師可以確信每個(gè)課程計(jì)劃中包含了最好的可用教學(xué)研究。
雖然這一切看起來令人生畏，但一些老師在嘗試 ChatGPT 后卻感到驚喜。半島 (WA) 學(xué)區(qū)數(shù)字學(xué)習(xí)執(zhí)行主任克里斯·哈格爾 (Kris Hagel) 講述了一位資深教師在中斷 20 年后，現(xiàn)在重新教授《羅密歐與朱麗葉》課程的故事。
她與 ChatGPT 坐下來，要求它幫助編寫有關(guān)羅密歐與朱麗葉的標(biāo)題、課程計(jì)劃、評(píng)估和項(xiàng)目。Hagel哈格爾說，原本需要老師花 20 到 30 個(gè)小時(shí)完成的事情，現(xiàn)在只花了一個(gè)多小時(shí)。但是——這是關(guān)鍵——她知道聊天機(jī)器人什么時(shí)候會(huì)偏離準(zhǔn)確信息，因?yàn)樗嘘P(guān)于這部劇的背景知識(shí)。
華盛頓州斯波坎市弗朗西斯·斯科特小學(xué)老師 Tabea Peske 表示，當(dāng)她的學(xué)校提供使用人工智能改進(jìn)教學(xué)的試點(diǎn)項(xiàng)目時(shí)，她很高興決定嘗試這項(xiàng)新技術(shù)。“一開始我有點(diǎn)冷漠，但我想我仍然會(huì)嘗試一下，看看它是否能讓我成為一名更好的老師?！崩?AI 的指導(dǎo)、一臺(tái) iPad 和一臺(tái)跟隨她在房間里走動(dòng)的小攝像機(jī)，她錄制了 20 分鐘的數(shù)學(xué)課視頻。
她的兩個(gè)目標(biāo)是確保她在教學(xué)中擁有適當(dāng)?shù)恼Z(yǔ)氣和節(jié)奏，她對(duì)收到的反饋感到驚喜。Peske說，該AI工具沒有提出具體的改進(jìn)方法，但“提供了發(fā)人深省的問題”。例如，她被要求對(duì)自己進(jìn)行評(píng)分，而在一些評(píng)分較低的領(lǐng)域，人工智能程序建議采取措施進(jìn)行改進(jìn)。
她說，它“引導(dǎo)我完成了創(chuàng)建步驟”?！袄?，它說‘你注意到你走得太快了。你可以做哪一件具體的事情來確保你放慢速度？’”Peske的解決方案之一很簡(jiǎn)單，就是貼一張便利貼來提醒她注意自己的步速。
“我不太懂技術(shù)，但該程序似乎確實(shí)很好地回答了我非常個(gè)性化的問題，而不僅僅是一般性的回答，”Peske說。整個(gè)過程花了大約一個(gè)小時(shí)，再加上觀看視頻。
測(cè)試技術(shù)
學(xué)校和學(xué)區(qū)可以采取的重要第一步，是讓教育工作者有機(jī)會(huì)輕松研究人工智能工具，而不必?fù)?dān)心犯錯(cuò)誤?！敖o老師一些時(shí)間進(jìn)行一些結(jié)構(gòu)化的探索，”Culatta表示。“例如可能是，選擇一個(gè)你已經(jīng)完成的任務(wù)，并探索一些人工智能工具如何幫助使該任務(wù)更有意義?！?/p>
大多數(shù)人在投入自己不熟悉的事物時(shí)都會(huì)感到害怕。為教師提供使用人工智能的策略可能會(huì)有所幫助。Culatta 舉了一個(gè)例子，他與一位持懷疑態(tài)度的三年級(jí)老師交談，這位老師不明白人工智能有什么用處。他問這位老師，她在做什么。她回答說，這是關(guān)于設(shè)計(jì)未來的城市，其中包含環(huán)境問題。Culatta 建議使用人工智能程序，例如 Stable Diffusion，它可以幫助創(chuàng)建適合孩子們的圖像，例如，一座由草制成的摩天大樓?！安淮嬖卺槍?duì)此的搜索圖像，因?yàn)檫@是他們?cè)谀X海中創(chuàng)造的東西，”他說。“這位老師開始使用人工智能來使這些想法變?yōu)楝F(xiàn)實(shí)，這是一種非常強(qiáng)大的方式?！?/p>
了解此類探索的好處是Learn21（一家與學(xué)校在教育技術(shù)領(lǐng)域合作的非營(yíng)利組織）創(chuàng)建 AI 的原因之一。該組織的首席學(xué)術(shù)官史黛西·霍桑 (Stacy Hawthorne) 表示，在 2023 年年度會(huì)議上設(shè)立了一個(gè)在線平臺(tái)，讓參與者可以在不同的站點(diǎn)中探索，并嘗試計(jì)算機(jī)上已加載的十幾個(gè)應(yīng)用程序。
俄亥俄州學(xué)校技術(shù)總監(jiān)Griffiths格里菲斯參加了這次會(huì)議，并表示這給了他一些可以向老師建議的想法?！拔艺J(rèn)為有點(diǎn)巧妙的是讓人工智能歷史人物能夠給孩子們講故事，”他說。“這可以在任何年級(jí)使用，對(duì)吧，只需調(diào)整人工智能的響應(yīng)方式和輸入內(nèi)容即可。”
Griffiths說，目前，他所在學(xué)區(qū)的教師似乎對(duì)人工智能不太感興趣；他們可以安排他參加任何類型的技術(shù)教程，但沒有人問過人工智能?！暗医佑|這些想法和例子越多，我就越能與老師建立融洽的關(guān)系，”他說。“把它推薦給他們也是我的工作。一旦他們信任我，他們就會(huì)在課堂上嘗試。
有人認(rèn)為，教師必須學(xué)習(xí)人工智能，因?yàn)閷W(xué)生需要將其作為教育和就業(yè)的技能來學(xué)習(xí)。“至少，”Hawthorne霍桑說，“人工智能需要納入所有核心科目，以便學(xué)生了解人工智能在各個(gè)領(lǐng)域的適用性、影響和素養(yǎng)。”
作弊和隱私政策
美國(guó)一些學(xué)區(qū)對(duì)人工智能最大的兩個(gè)擔(dān)憂是：如何防止學(xué)生利用它作弊以及如何保護(hù)隱私政策。
關(guān)于作弊沒有簡(jiǎn)單的答案，老師們的擔(dān)心是有道理的。但是，Bailey 說，“坦率地說，這是我們以前面臨過的挑戰(zhàn)。在計(jì)算器時(shí)代，在互聯(lián)網(wǎng)時(shí)代，在智能手機(jī)問世的時(shí)代，我們都曾面對(duì)過這個(gè)問題——如果你回顧一下，2009年，學(xué)校禁止使用智能手機(jī)。但這并沒有實(shí)際作用。”
一些人認(rèn)為，在英語(yǔ)課上，老師可以了解學(xué)生的寫作風(fēng)格，并可以檢測(cè)是否使用了人工智能。但Mollick說這根本不是真的——ChatGPT 等工具的優(yōu)勢(shì)在于，如果學(xué)生向它提供他們寫的幾篇論文，人工智能就可以快速模仿他們的風(fēng)格。
一些人認(rèn)為技術(shù)本身將成為解決技術(shù)的答案——將會(huì)出現(xiàn)防止人工智能作弊的軟件。相反，人工智能的出現(xiàn)可能標(biāo)志著教學(xué)的重大轉(zhuǎn)變，其中獲得答案的過程與正確答案同樣重要。因?yàn)檎鏗awthorne所說，“如果人工智能可以完成這項(xiàng)工作，那么我們真的在評(píng)估正確的事情（專注于答案）嗎？”
例如，Hagel說，去年，他所在學(xué)區(qū)的一些老師改變了對(duì)作弊的看法?！八麄冋f，‘我們知道你會(huì)用這個(gè)。讓我們停止玩貓捉老鼠的游戲，試圖抓住你偷偷摸摸的行為。繼續(xù)使用它吧。如果你要使用 ChatGPT，我希望你向我發(fā)送這個(gè)共享鏈接，以便我可以閱讀你的整個(gè)對(duì)話，從而了解你的思維過程。”
一些教育工作者談到要做更多的課堂作業(yè)，這樣學(xué)生則就無法使用人工智能。因?yàn)檎鏜ollick 直言不諱地說的那樣：“所有作業(yè)都可以用人工智能完成。而且是無法察覺的。我們知道作業(yè)已經(jīng)做完了，沒有辦法把它重新再來一遍。”
隱私和保護(hù)學(xué)生數(shù)據(jù)是另一個(gè)主要擔(dān)憂。美國(guó)教育部教育技術(shù)辦公室的一份報(bào)告稱，為了以最有效的方式使用人工智能（例如個(gè)性化輔導(dǎo)），“需要訪問詳細(xì)數(shù)據(jù)”。“這些數(shù)據(jù)超越了傳統(tǒng)的學(xué)生記錄（名冊(cè)和成績(jī)冊(cè)信息），而是有關(guān)學(xué)生在使用技術(shù)學(xué)習(xí)時(shí)所做的事情，以及教師在使用技術(shù)教學(xué)時(shí)所做事情的詳細(xì)信息?！?/p>
該辦公室名為“人工智能與教學(xué)的未來”的報(bào)告指出，人工智能可以幫助教師定制課程資源，并且可以包括學(xué)生的人口統(tǒng)計(jì)詳細(xì)信息、外部興趣、關(guān)系或經(jīng)歷。
這引發(fā)了人們對(duì)人工智能系統(tǒng)收集和存儲(chǔ)兒童數(shù)據(jù)的擔(dān)憂，尤其是 13 歲以下的兒童。有幾項(xiàng)聯(lián)邦和州法律規(guī)范學(xué)生數(shù)據(jù)的收集和發(fā)布，并取得了不同程度的成功和執(zhí)行。
公共利益隱私中心（一家致力于兒童和學(xué)生數(shù)據(jù)隱私問題的非營(yíng)利組織）主席阿米莉亞·萬斯（Amelia Vance）指出，學(xué)校使用的大多數(shù)技術(shù)和聯(lián)邦隱私法都存在廣泛的隱私問題，因此重點(diǎn)不應(yīng)只是依靠人工智能。
“與人工智能相關(guān)的具體隱私問題并不多。這只是一種新的技術(shù)形式，沒有人知道它是如何被采用的，數(shù)據(jù)流向何處，”她說?！斑@最終導(dǎo)致嚴(yán)重缺乏信任，家長(zhǎng)、學(xué)生自己和其他人對(duì)我們帶入課堂的內(nèi)容感到擔(dān)憂?！?/p>
Hawthorne的一項(xiàng)建議是：尚未這樣做的學(xué)區(qū)應(yīng)該聘請(qǐng)一名首席技術(shù)官。“這可能是我認(rèn)為學(xué)校中少數(shù)需要集中化的事情之一，”她說?！敖逃萍脊痉浅Ｉ瞄L(zhǎng)向教師進(jìn)行營(yíng)銷，因?yàn)樗麄兿Ｍ處熌闷鹚麄兊漠a(chǎn)品并將其投入課堂。普通教師沒有能力——他們也不應(yīng)該有能力——做出這些隱私政策決定。”
美國(guó)各州可以在設(shè)定一定規(guī)則，并向?qū)?yīng)學(xué)區(qū)就此問題提供指導(dǎo)方面發(fā)揮重要作用，但截至 11 月，美國(guó)只有兩個(gè)州，加利福尼亞州和俄勒岡州，發(fā)布了人工智能使用指南，包括隱私政策，另有 11 項(xiàng)正在制定過程中。
然而，保護(hù)學(xué)生隱私可能與使用人工智能提供的個(gè)性化學(xué)習(xí)發(fā)生沖突，因?yàn)槿斯ぶ悄苄枰獙W(xué)生的數(shù)據(jù)。它還需要更多樣化的來源來解決用于訓(xùn)練人工智能的材料中的偏見。
可汗學(xué)院首席學(xué)習(xí)官克里斯汀·迪塞博 (Kristen Dicerbo) 表示：“我們可以減少偏見的模型的一種方法是，它們包含來自更多樣化人群的數(shù)據(jù)。” “但在談?wù)搶W(xué)生隱私時(shí)，這可能會(huì)出現(xiàn)問題，她指出。“這時(shí)候事情就變得棘手了?！?/p>
公平與偏見
一些人希望人工智能能夠幫助縮小 K12 教育的公平差距；其他人則擔(dān)心它會(huì)擴(kuò)大范圍。
許多 AI 工具，例如 ChatGPT，都是免費(fèi)的（功能更強(qiáng)大的 ChatGPT-4，每月 20 美元），因此，許多人說，對(duì)比其他技術(shù)費(fèi)用，這項(xiàng)技術(shù)的費(fèi)用門檻更低，低收入人群和低收入群體更容易使用它。
Bailey說：“任何地區(qū)，包括收入最低的地區(qū)，都可以獲得以前只有真正富裕地區(qū)才能擁有的專業(yè)知識(shí)和能力?！?/p>
但Hawthorne 表示，更富裕的學(xué)校仍將擁有更多資源的優(yōu)勢(shì)，包括時(shí)間和靈活性，這將有助于教師和學(xué)生更深入地理解和學(xué)習(xí)如何使用人工智能。
正如 GSV Ventures 副總裁 Claire Zau 所指出的那樣：“如果你將第一種類型的數(shù)字鴻溝視為富人和窮人在獲取技術(shù)方面的脫節(jié)，那么就會(huì)出現(xiàn)新的數(shù)字鴻溝——孩子們會(huì)被遺棄落后是因?yàn)樗麄儧]有接受人工智能教育，甚至沒有接觸過人工智能。”
至少，公平意味著制定適當(dāng)?shù)恼吆蛯?shí)踐，以確保所有學(xué)生和教職員工都能使用生成式人工智能工具。但它還不止于此；如果人工智能接受有偏見的數(shù)據(jù)訓(xùn)練，它的程序就會(huì)傳播這些偏見。
在一個(gè)臭名昭著的例子中，亞馬遜測(cè)試了人工智能來審查技術(shù)職位的申請(qǐng)人；它通過訓(xùn)練其十年內(nèi)提交的簡(jiǎn)歷數(shù)據(jù)來做到這一點(diǎn)。但由于大多數(shù)簡(jiǎn)歷來自男性，人工智能訓(xùn)練自己更喜歡男性申請(qǐng)人而不是女性申請(qǐng)人，并降低包含“女性”一詞的簡(jiǎn)歷選擇，例如“女子足球隊(duì)隊(duì)長(zhǎng)”。
人工智能數(shù)據(jù)不可能擺脫偏見，就像人類不可能擺脫偏見一樣。大城市學(xué)校委員會(huì)和 CoSN（學(xué)校網(wǎng)絡(luò)聯(lián)盟）發(fā)布的 K12 生成式人工智能“準(zhǔn)備清單”，敦促各學(xué)區(qū)確保他們的政策解決人工智能傳播現(xiàn)有偏見的可能性。它還建議他們要求供應(yīng)商在其產(chǎn)品中包含算法歧視保護(hù)。
促進(jìn)教育數(shù)字公平的非營(yíng)利組織 Digital Promise 的學(xué)習(xí)科學(xué)研究執(zhí)行主任杰里米·羅斯謝爾 (Jeremy Roschelle) 表示，學(xué)校應(yīng)該警惕追求熱門技術(shù)，尤其是這些技術(shù)產(chǎn)生了偏見但尚未得到適當(dāng)?shù)慕鉀Q。教育領(lǐng)導(dǎo)者可以查看現(xiàn)有的框架來指導(dǎo)學(xué)區(qū)，例如準(zhǔn)備清單。
Roschelle自己的組織正在致力于產(chǎn)品認(rèn)證。開發(fā)人工智能工具的公司可以提交證據(jù)，專家評(píng)估員將評(píng)估這些證據(jù)，以確定研究基礎(chǔ)是否有效；如果是，則該產(chǎn)品將獲得認(rèn)證。但Roschelle和Mollicka等人一樣，認(rèn)為學(xué)?，F(xiàn)在購(gòu)買人工智能產(chǎn)品還為時(shí)過早?！盀榱嗣髦堑夭捎卯a(chǎn)品，”他說，“你需要當(dāng)?shù)仡I(lǐng)導(dǎo)者、教育工作者、家長(zhǎng)、學(xué)校管理人員比現(xiàn)在擁有更多的人工智能素養(yǎng)?！?/p>