防止機(jī)械刷題、不傳播教育焦慮：AI頭部企業(yè)聯(lián)合發(fā)布公約

　　據(jù)中國(guó)民辦教育協(xié)會(huì)信息，協(xié)會(huì)近日與百度、騰訊、科大訊飛等10家人工智能領(lǐng)域企業(yè)聯(lián)合簽署《智能體賦能學(xué)生全面成長(zhǎng)公約》(以下簡(jiǎn)稱《公約》)，為教育智能體的發(fā)展劃定了清晰的邊界。

　　據(jù)介紹，當(dāng)前帶有“主體性”特征的教育智能體不但在倫理身份、互動(dòng)方式、學(xué)習(xí)方式及價(jià)值觀念等層面形成沖擊，更使教育實(shí)踐面臨被AI技術(shù)操控取代的風(fēng)險(xiǎn)，迫切需要探尋智能體的倫理邊界。基于此，《公約》提出，教育智能體的發(fā)展應(yīng)有效防范違背教育本質(zhì)的功利化傾向，堅(jiān)決杜絕傳播錯(cuò)誤價(jià)值觀和不良信息，防止機(jī)械重復(fù)刷題，避免加重學(xué)生學(xué)業(yè)負(fù)擔(dān)、限制學(xué)生想象空間、惰化學(xué)生思維。

　　《公約》強(qiáng)調(diào)，教育智能體要嚴(yán)格遵守《未成年人保護(hù)法》《網(wǎng)絡(luò)安全法》《個(gè)人信息保護(hù)法》等相關(guān)法律法規(guī)及政策要求，對(duì)涉及未成年人的，應(yīng)嚴(yán)格依法落實(shí)數(shù)據(jù)安全及隱私保護(hù)機(jī)制。

　　《公約》倡議，相關(guān)人工智能企業(yè)應(yīng)強(qiáng)化與學(xué)校、家庭的協(xié)同育人，擴(kuò)大資源普惠，不制造惡性競(jìng)爭(zhēng)，不傳播教育焦慮，推動(dòng)在全社會(huì)樹立科學(xué)的人才觀、成才觀、教育觀。

　　針對(duì)《公約》的出臺(tái)，北京師范大學(xué)教授李玉順表示：“人工智能教育，尤其是智能體融入教育過程中，必須確保教育性、科學(xué)性、安全性三大原則。”談及《公約》所倡導(dǎo)的AI教育精神，北京航空航天大學(xué)熊璋教授特別強(qiáng)調(diào)了“安全至上”原則。他指出，需圍繞AI教育特有的自主性、交互性與學(xué)習(xí)特性，構(gòu)建覆蓋技術(shù)、倫理、數(shù)據(jù)、心理等維度的防護(hù)體系。在規(guī)劃與設(shè)計(jì)之初，就必須秉承“安全至上”的原則，包括不傷害學(xué)習(xí)者、不誤導(dǎo)學(xué)習(xí)者、不泄露學(xué)習(xí)者隱私的全方位安全。“對(duì)學(xué)習(xí)者異常行為的預(yù)警、報(bào)告、疏導(dǎo)也是安全至上的一個(gè)側(cè)面。”

　　另?yè)?jù)透露，《公約》或適用于所有可能面向中小學(xué)生提供智能體產(chǎn)品或服務(wù)的企業(yè)。

　　涉及的產(chǎn)品和服務(wù)包括但不限于人工智能大模型、自適應(yīng)學(xué)習(xí)系統(tǒng)、虛擬教師等軟件，智能學(xué)習(xí)機(jī)、學(xué)練機(jī)、學(xué)習(xí)教具、可穿戴設(shè)備等硬件，以及基于上述軟硬件的課程、教學(xué)、測(cè)評(píng)、數(shù)據(jù)分析等衍生服務(wù)，覆蓋產(chǎn)品設(shè)計(jì)、算法研發(fā)、模型訓(xùn)練、運(yùn)營(yíng)服務(wù)等全生命周期。