■針對類似AI學習機等人工智能教育產(chǎn)品應用可能存在的潛在風險，要未雨綢繆，標本兼治
　　
　　■探索利用AI促進教育創(chuàng)新的有效模式，促進AI教育產(chǎn)品應用的倫理性、包容性和公平性
　　
　　以人工智能為代表的數(shù)字技術迅速發(fā)展，滲透到社會生活的各個環(huán)節(jié)、各個領域。在教育領域，一些中小學校周邊出現(xiàn)不少AI自習室，這不僅為學生提供了個性化的學習體驗，也引發(fā)了關于教育未來發(fā)展的廣泛討論。
　　
　　AI自習室的核心是通過由AI算法和大模型支持的學習機與學習機上的智能助學系統(tǒng)，提供線下督學、托管等服務，打造“以智助學”的新型學習空間。它主要通過先進的人工智能技術，搭建沉浸式學習環(huán)境，為學生提供定制化的學習計劃和智能推薦學習資源，學生在其平臺還可以同時購買會員服務獲得更多的學習便利，實現(xiàn)學習資源按需供給。不僅如此，自習室中的AI學習機還可以幫助檢查作業(yè)中的基礎錯誤、知識點講解，增強互動性學習體驗，提升學生的學習效率，滿足學生多樣化需求。
　　
　　但AI如同一把雙刃劍，在為教育注入變革能量的同時也會帶來諸多現(xiàn)實隱憂。AI自習室的出現(xiàn)，既能給學生帶來很多便利和好處，也有可能存在不少潛在風險。從教育公平的角度看，AI自習室過度依賴高端智能硬件設備和付費學習資源，盡管滿足了部分學生個性化學習的需求，也會使弱勢群體學生被排除在AI賦能的教育之外，這顯然不利于教育資源公平分配，可能會加劇學生之間的數(shù)字鴻溝和學習不平等。從“雙減”政策治理的角度看，隨著大批校外培訓機構的關停和轉(zhuǎn)型，隱形變異學科類校外培訓價格隨之“水漲船高”，部分機構由“地上”轉(zhuǎn)入“地下”，改頭換面，可能會以AI自習室的名義違規(guī)開展學科類校外培訓，這就增加了校外培訓治理的難度。并且，學生學習成績的提升，不僅僅取決于AI學習機本身的功能和質(zhì)量，更重要的是教師的指導、學生的學習習慣和自律性以及家長的參與等。過度依賴AI學習室，可能會適得其反，成為學生新的負擔。從隱私安全的角度看，在AI自習室中，學生的一舉一動處于智能設備“監(jiān)控”之下，學生處于AI空間之中，不經(jīng)意間就會留下“痕跡”，這些在深度學習過程中保留下的敏感數(shù)據(jù)，可能會引起不法分子通過窺視、數(shù)據(jù)非法采集、算法深度挖掘等造成個人隱私侵權，對學生個人隱私安全造成不利影響。從“信息繭房”的角度看，AI自習室中的學生個性化學習的自動推送功能，可能會增加學生“懶惰”行為，使其喪失探索未知和創(chuàng)新的可能性。
　　
　　聯(lián)合國教科文組織編制的《人工智能與教育：政策制定者指南》中提出，以合乎倫理、包容和公平的方式將人工智能應用于教育領域，影響著每一個可持續(xù)發(fā)展的目標。為此，我們要慎重看待AI自習室“伴學”的功能，針對類似AI學習機等人工智能教育產(chǎn)品應用可能存在的潛在風險，要未雨綢繆，標本兼治，探索利用AI促進教育創(chuàng)新的有效模式，促進AI教育產(chǎn)品應用的倫理性、包容性和公平性。
　　
　　為確保AI教育產(chǎn)品安全可靠、高效服務教學，促進學生健康成長，應加強AI教育產(chǎn)品的治理。首先，建立全覆蓋的AI教育產(chǎn)品差異化準入審查制度。按照“凡進必審”“誰選用誰負責”等原則建立“雙審查”責任制，圍繞AI教育產(chǎn)品的需求設計、算法驗證、驗收評估等環(huán)節(jié)，對AI教育產(chǎn)品公平性、健康性、科學性和適宜性進行審查。其次，構建全方位、全過程的AI教育產(chǎn)品動態(tài)監(jiān)測體系。對AI教育產(chǎn)品的研發(fā)、應用等全過程進行監(jiān)測，其重點包括不當內(nèi)容與違法信息傳播、個人隱私侵犯、數(shù)據(jù)泄露、算法歧視等。再次，完善綠色科學的AI教育產(chǎn)品倫理規(guī)約體系。在AI教育數(shù)據(jù)生成、記錄和共享過程中遵循“有用”“無害”的倫理訴求，在重組、分析和解釋教育數(shù)據(jù)時避免算法不合理帶來的“信息繭房”和“算法歧視”。最后，構建AI教育產(chǎn)品公平使用機制。優(yōu)先在農(nóng)村、邊遠、貧困地區(qū)配備教育數(shù)字化基礎設施，為弱勢群體學生提供AI教育產(chǎn)品應用指導，讓優(yōu)質(zhì)AI教育資源惠及更多學生群體。
　　
　�。ㄗ髡呦等A中師范大學教授）