GES觀點(diǎn)碰撞：教育+科技的倫理與邊界

　　多知網(wǎng)12月4日消息，在2018未來教育大會上，在《教育+科技的倫理與邊界》圓桌論壇中，嘉賓們探討了互聯(lián)網(wǎng)在教育中應(yīng)用后，如何趨利避害，真正讓技術(shù)服務(wù)于教育。

　　本場論壇的主持人為北京師范大學(xué)遠(yuǎn)程教育研究中心教授張偉遠(yuǎn)；嘉賓有西安交通大學(xué)副校長鄭慶華；工信部信息中心副主任李德文；北京師范大學(xué)哲學(xué)院教授、北京師范大學(xué)-香港浸會大學(xué)聯(lián)合國國際學(xué)院教務(wù)長李建會；微軟全渠道事業(yè)部首席技術(shù)官徐明強(qiáng)。

　　本場論壇，嘉賓們認(rèn)為互聯(lián)網(wǎng)技術(shù)應(yīng)用于教育后，會產(chǎn)生一些負(fù)面價值，會有隱私問題和知識產(chǎn)權(quán)問題，而解決方法就是需要企業(yè)不要做惡，加強(qiáng)技術(shù)防范；而政府部門加強(qiáng)監(jiān)管，用規(guī)范和法律制度保障。

　　以下為圓桌論壇實(shí)錄，經(jīng)多知網(wǎng)編輯整理：

　　主持人(張偉遠(yuǎn))：技術(shù)為教育提供了精準(zhǔn)的服務(wù)，那么新興技術(shù)會不會帶來新的倫理方面的問題？

　　鄭慶華：科技與教育的融合一定能推動信息化、個性化、智能化、國際化基礎(chǔ)的支撐手段，任何科學(xué)技術(shù)對于任何事務(wù)一樣都具有兩面性，趨利避害，謀劃研究是非常必要的。那么教育與科技的融合過程中，怎樣對數(shù)據(jù)進(jìn)行分析利用是一個根本性的東西。

　　所有的行為都會留下痕跡，在信息化時代，所有數(shù)據(jù)都會產(chǎn)生日志，互聯(lián)網(wǎng)教育當(dāng)中基本數(shù)據(jù)都會采集利用，問題是采集數(shù)據(jù)的動機(jī)是什么？帶來的是正面的，還是負(fù)面的？這些都是人工智能、大數(shù)據(jù)等信息技術(shù)對教育的影響和作用的發(fā)揮問題。

　　互聯(lián)網(wǎng)在教育中的應(yīng)用里面有三個問題需要關(guān)注和考慮：

　　第一，學(xué)會或者是理解在監(jiān)督下，或者說有記錄的情況下去做事情，現(xiàn)在大街小巷各種會議室都有攝像，都有上網(wǎng)的日志記錄，這不以我們的意志為轉(zhuǎn)移；

　　第二，一定要在教育領(lǐng)域要從善，要正面引領(lǐng)，而不是去研究人的隱私而不是倫理等問題，也就是說要讓科學(xué)技術(shù)引領(lǐng)教育的發(fā)展；

　　第三，在新的歷史時代，作為國家層面也好，一定要研究隱私新的范式、新的定義，它的內(nèi)涵與外延。另外，要在這個基礎(chǔ)上，分析倫理、隱私等對教育的影響。從而，做到有選擇的發(fā)揮科學(xué)技術(shù)的作用。

　　李德文：科學(xué)技術(shù)與教育深度融合，科學(xué)技術(shù)推動科學(xué)創(chuàng)新方面起到了越來越重大的作用，但是科學(xué)技術(shù)是雙刃劍，它可以帶來正面的價值，比如經(jīng)濟(jì)的發(fā)展、社會的進(jìn)步，文化的繁榮等，它也帶來了越來越多的負(fù)面價值，比如環(huán)境污染、溫室效應(yīng)、隱私的效應(yīng)等。

　　同時，技術(shù)對教育的發(fā)展產(chǎn)生正價值的同時，也在產(chǎn)生負(fù)價值，隨著互聯(lián)網(wǎng)技術(shù)的發(fā)展，尤其是多媒體互聯(lián)網(wǎng)技術(shù)的發(fā)展，其在教育中的應(yīng)用逐漸從局外的、邊緣的教育工具轉(zhuǎn)變?yōu)殛P(guān)鍵的，重要的支撐來改造教育，科學(xué)技術(shù)也越來越從塞入教學(xué)加入教學(xué)變?yōu)榱藵撊虢虒W(xué)和融入教學(xué)，在這種情況下，教育越來越離不開技術(shù)，離開了電腦，離開了多媒體，在很多情況下教育可能就無法進(jìn)行，結(jié)果，技術(shù)逐步由服務(wù)者的角色轉(zhuǎn)變?yōu)榭刂普叩慕巧?，有可能出現(xiàn)了過度依賴技術(shù)而產(chǎn)生，技術(shù)對教育的控制或者壟斷的情況。

　　負(fù)面價值由此產(chǎn)生：

　　一，師生關(guān)系冷漠化，比如慕課等大量使用，使得傳統(tǒng)的教師與學(xué)生的從二元關(guān)系變?yōu)榱藱C(jī)器、學(xué)生、教師三元關(guān)系，空間上限制了師生之間的對話，使得學(xué)生無法直接感受教師的情感、態(tài)度、價值觀。學(xué)生逐漸改變?yōu)闆]有感情色彩的信息接受者，這在心理距離越來越遠(yuǎn)，師生關(guān)系逐漸冷漠化，教育中的人文關(guān)懷嚴(yán)重受到影響；

　　二，信息過量，信息污染導(dǎo)致學(xué)生壓力增大，損害身心健康，由于互聯(lián)網(wǎng)技術(shù)的提升，學(xué)生接受信息大幅度增加，虛假信息泛濫，過時、垃圾、冗余、謠言等信息泛濫，導(dǎo)致學(xué)習(xí)者壓力增大，身心健康受到危害；

　　三，文化霸權(quán)，一些發(fā)達(dá)國家和地區(qū)，利用自己的技術(shù)優(yōu)勢，對自己的文化和理念進(jìn)行宣傳，對其他國家和地區(qū)造成無形中的巨大影響，形成文化霸權(quán)，形成文化殖民的目的；

　　四，造成教育不公平，很多情況下技術(shù)能達(dá)到教育的公平，比如慕課能打破階層和地域的限制，能快速集結(jié)資源，但是現(xiàn)在教育技術(shù)也可能加劇這種不公平。發(fā)達(dá)地區(qū)的民眾可以使用先進(jìn)的技術(shù)，但不發(fā)達(dá)的地區(qū)使用不到，從而導(dǎo)致數(shù)字鴻溝的出現(xiàn)，教育公平會受到影響。

　　此外，還有隱私問題和知識產(chǎn)權(quán)問題。

　　總之，科學(xué)技術(shù)對教育的應(yīng)用必須重視這些負(fù)面價值的影響，努力減少負(fù)面價值的影響，這是我們教育工作者應(yīng)當(dāng)承擔(dān)的責(zé)任。

　　徐明強(qiáng)：我來自微軟，那么我從技術(shù)角度探討AI帶來的倫理問題。

　　第一是公正性，美國獨(dú)立宣言中提到“造物者面前人人平等”，后來有人解讀稱其中的“evry man”中的“man”指得是自由人，不包括奴隸。今天我們發(fā)現(xiàn)，人工智能在這方面也有不公正的地方，比如《紐約時報(bào)》在今年2月公布的結(jié)果中顯示，美國人工智能人臉識別對于白人女性判斷的錯誤率為7%，如果是深色皮膚的女性，錯誤率高達(dá)30%。因此，人工智能在人種方面不是太公平。

　　那在教育方面，還有種種不公正，曾有一個學(xué)校說有一個機(jī)器學(xué)習(xí)的演示，可以幫助學(xué)生發(fā)現(xiàn)哪些學(xué)生有好的成績，希望和微軟聯(lián)合演示，學(xué)校數(shù)據(jù)出來我們看了后，我們拒絕了合作，因?yàn)閿?shù)據(jù)出來后就是家里富裕的孩子成績好，我們認(rèn)為這個數(shù)據(jù)不公正，微軟就沒繼續(xù)談合作。

　　第二是包容性，微軟在技術(shù)上吃過虧，比如微軟第一款Xbox游戲機(jī)在日本賣得不好，分析以后知道那個“ Control”(手柄)太大，因?yàn)榘兹耸执螅跃褪前窗兹耸终茦?biāo)準(zhǔn)去做得，他們覺得挺好的，但亞洲人握起來不舒服，沒考慮到亞洲人的手相對小一些。這就反映出產(chǎn)品不夠包容。因此，在人工智能在教育中的應(yīng)用注意到這些。

　　第三是透明度，比如現(xiàn)在人工智能的圍棋都非常厲害，成為了教學(xué)工具，AI棋走得好，但是為什么走得好，它講不出來。這就是人工智能的問題，解答不了為什么的問題。

　　李德文：教育+科技的倫理問題，可以說是互聯(lián)網(wǎng)+教育產(chǎn)生的倫理問題，因?yàn)殡S著大數(shù)據(jù)、人工智能、云計(jì)算等技術(shù)的使用產(chǎn)生了新的思考，互聯(lián)網(wǎng)的使用產(chǎn)生了倫理的問題。

　　教育引入互聯(lián)網(wǎng)是毋庸置疑的，大家已經(jīng)達(dá)成共識，打破時空的限制，進(jìn)行信息流的傳遞，而教育正好是信息的傳遞，因此，教育也是互聯(lián)網(wǎng)適合發(fā)揮的領(lǐng)域之一。此前，鄧小平講過，教育要面向現(xiàn)代化，這個現(xiàn)代化就是應(yīng)用，但是，現(xiàn)在教育在現(xiàn)代化的應(yīng)用遠(yuǎn)遠(yuǎn)不夠。

　　由于互聯(lián)網(wǎng)的應(yīng)用帶來的倫理問題，我會從行政的角度談?wù)勥@個看法，教育是公共事業(yè)，國家提倡公共服務(wù)均等化，到教育領(lǐng)域就是，基本教育均等化，教育有很多目標(biāo)，均等化知識目標(biāo)之一，這也是倫理的問題，也就是公平公正的問題。

　　教育是支撐信息的傳遞，對人和物的依賴最少，因此是最有條件實(shí)現(xiàn)均等化的公共服務(wù)之一。從政府的角度可以從三個方面促進(jìn)均等化：

　　一、大力加強(qiáng)基礎(chǔ)設(shè)施的建設(shè)，讓大家能夠用得上和用得起互聯(lián)網(wǎng)，這個是工信部推進(jìn)的工作，如提速降費(fèi)，這在目前取得了階段性的成果。

　　全國96%以上的行政村通上了光纜寬帶，資費(fèi)方面月均消費(fèi)約51元，與德國相當(dāng)，與美國日本韓國要低。在我國，我們對貧困地區(qū)投入很多，越是貧困地區(qū)資費(fèi)越底。

　　二、優(yōu)質(zhì)資源供給問題，大城市的好的學(xué)校才有優(yōu)質(zhì)資源，邊遠(yuǎn)地區(qū)只要有寬帶就都會去爭取優(yōu)質(zhì)資源，現(xiàn)在的問題是主要是自下而上的發(fā)動方式，作為教育的組織部門，怎么樣自上而下作為整體的聯(lián)動，這是一個很大的問題。

　　三、還有資源覆蓋的問題，比如學(xué)而思的雙師教學(xué)，怎么利用線上線下發(fā)揮作用都是需要考慮的問題。

　　另外還有信息保護(hù)的問題，互聯(lián)網(wǎng)大數(shù)據(jù)的應(yīng)用，這些都需要政府部門保證信息不被非法獲取，確保學(xué)習(xí)者不能被一些信息受到傷害。

　　主持人(張偉遠(yuǎn))：大家探討了互聯(lián)網(wǎng)在教育應(yīng)用中帶來的倫理問題，大家都認(rèn)為會帶來一些新的問題，那么，有沒有解決的策略和方法？

　　鄭慶華：我是學(xué)計(jì)算記專業(yè)的，技術(shù)應(yīng)用于教育管理，提升教育質(zhì)量是基本的目標(biāo)和手段。從目前來看，有三個方面：

　　第一，推動教育管理手段的效果，比如對學(xué)校所有課程可以實(shí)現(xiàn)全覆蓋的評價，我們還可以及時發(fā)現(xiàn)失聯(lián)的學(xué)生，心理比較孤獨(dú)的學(xué)生，關(guān)系活躍的學(xué)生等等，通過大數(shù)據(jù)平臺可以實(shí)現(xiàn)精準(zhǔn)的發(fā)現(xiàn)。對提升教育教學(xué)的效率、針對性和個性化起到了良好作用；

　　第二，在教育內(nèi)容的數(shù)字化、智慧化、呈現(xiàn)化也有好處，比如，我們提出了知識圖譜概念，把過去只見樹木不見森林的離散的知識融合成一個相互關(guān)聯(lián)的層次邏輯清晰的組織方式，這對提高知識過程的效率，有針對地進(jìn)行導(dǎo)航學(xué)習(xí)也起到了非常重要的作用；

　　第三，測試，評價手段現(xiàn)代化智慧化改革，我們承擔(dān)了教育部的一個課題，探討5-10年以后運(yùn)用人工智能技術(shù)、VR/AR 技術(shù)如何解決現(xiàn)在只能通過紙和筆考試的問題，紙和筆只能考知識，不能考能力，考能力現(xiàn)在的手段做不到，比如實(shí)驗(yàn)、設(shè)計(jì)的能力，快速反應(yīng)的能力，一問一答的能力等，通過人工智能虛擬技術(shù)的應(yīng)用，將來一定會突破考試的瓶頸，考試模式的改革一定會倒逼中小學(xué)走向素質(zhì)教育的軌道，所以非常有意義。

　　要做到這些事情，有一個基礎(chǔ)性的保障，也就是保障學(xué)生教師應(yīng)有的基本權(quán)利，比如隱私等倫理問題，這些問題確實(shí)需要關(guān)注。

　　這些問題的解決我認(rèn)為一是依靠教育，就是讓老師知道職業(yè)操守是什么，不能超越底線；

　　二是依靠制度規(guī)范，就是要靠制度和法律去保證；

　　三是依靠技術(shù)手段，讓管理有跡可循。

　　教育、制度規(guī)范、技術(shù)手段是三位一體，讓技術(shù)真正服務(wù)于教育。

　　李德文：我是做哲學(xué)研究的，我曾經(jīng)參與編撰了圖書《離散同行》，幫助解決科技的倫理問題和價值選擇，那么，科技倫理的解決方法是國際通行的叫原則主義，提出一些大家公認(rèn)的原則，我認(rèn)為教育過程中產(chǎn)生的倫理問題可以這樣解決：

　　一，堅(jiān)持教師在教育教學(xué)中的主導(dǎo)地位，注重師生互動，人文關(guān)懷，避免過度被技術(shù)控制；

　　二，堅(jiān)持健康的原則，很多領(lǐng)域的有一條原則，就是不傷害原則。這里我想做一點(diǎn)改造，叫健康原則。也就是說，科學(xué)技術(shù)在應(yīng)用教育時努力使得技術(shù)不會對教育者造成身心傷害，或者容易時教育者身心健康。

　　三，堅(jiān)持有利有效原則，要讓這些科技有利于教育者和受教育者，造福教育者、受教育者。這樣有利有效不僅是短時的，還應(yīng)該是長期的有利和有效。

　　四，堅(jiān)持公平公正的原則，讓不同地區(qū)的教師和學(xué)生都能使用到信息技術(shù)。

　　五，保護(hù)個人隱私，保護(hù)知識產(chǎn)權(quán)。

　　主持人（張偉遠(yuǎn)）：謝謝李教授，從一個哲學(xué)的角度來探討這個問題，而且提出的幾條基本原則，非常的重要。下面請微軟徐博士發(fā)表自己的觀點(diǎn)。有請徐博士。

　　徐明強(qiáng)：我也回應(yīng)一下李教授講到這個隱私，這是大家關(guān)心的一個問題。我介紹一下微軟近年來和英特爾做一個合作，就是叫隱私計(jì)算。什么意思呢？現(xiàn)在大家迫切想要做的一件事情，就是比如兩個學(xué)校，它都有不同的數(shù)據(jù)，如果各自做各自模型訓(xùn)練的話，最后出來的模型都不是非常好。兩個學(xué)校希望把數(shù)據(jù)合成到一起，一起做一個訓(xùn)練，但是這個隱私法辦不到的。過去是小人愛數(shù)據(jù)，得之有盜。現(xiàn)在和英特爾做，希望君子愛數(shù)據(jù)，得之有道。我們做的辦法，是可以讓數(shù)據(jù)傳輸?shù)臅r候加密，有隱私保護(hù)；在存儲的時候加密，有隱私保護(hù)。但是唯一沒有辦法在運(yùn)行的時候?qū)λ用堋，F(xiàn)在我們跟英特爾合作后，照樣可以加密?，F(xiàn)在在傳輸、運(yùn)算的時候都可以保護(hù)?，F(xiàn)在可以讓兩個學(xué)校加密在一起，可以訓(xùn)練好出更好的模型。所以這是我們一個努力的方向，將來會成為機(jī)器學(xué)習(xí)，陰私計(jì)算的一個方向。

　　我剛才講到公正性問題，解決方法首先一定要非常仔細(xì)地訓(xùn)練數(shù)據(jù)，看看訓(xùn)練者是否把偏見引入。第二，不希望看到光是互聯(lián)網(wǎng)公司，就是跨界和教育競爭，這個做教育，做AI應(yīng)用，一定把教育界專家介入。從包容性方面來說，包容性比較重要的一點(diǎn)是，很多時候機(jī)器今天AI它智商很高，但是它同理心沒有辦法像一個教師這樣，所以我們確實(shí)擔(dān)心，沒有同理心，教育出來的孩子，我們過去聽到他山猿人的故事，害怕孩子機(jī)器人一樣的思維。所以我想這方面AI更多的開發(fā)不光IQ，還有情商的開發(fā)。最后到了透明性，透明性的時候就是要把很多的，還是回到剛才數(shù)據(jù)的搜集采樣那邊，要更多的從制度上，要把數(shù)據(jù)本身，不光是要這個數(shù)據(jù)審查，另外在實(shí)際應(yīng)用當(dāng)中有反饋的，要隨時發(fā)現(xiàn)這個片面的引入。感謝。

　　主持人（張偉遠(yuǎn)）：非常感謝徐博士，現(xiàn)在他們在技術(shù)方面給在保護(hù)用戶隱私方面做出的一些突破性貢獻(xiàn)。而謝謝。

　　最后請壓軸代表工信部的李主任發(fā)表觀點(diǎn)。

　　李德文：剛才講的都很好。但是我覺得技術(shù)的進(jìn)步是一種對社會帶來影響最大的一種進(jìn)步。一種重大的進(jìn)步也會帶來重大的社會變革，比如蒸汽機(jī)也好，電也好，現(xiàn)在互聯(lián)網(wǎng)也好，這種變革是全方位的，深入到社會的各個領(lǐng)域，各個方面，各個角度。至于教育這方面必然帶來倫理的問題。這個是我們永遠(yuǎn)無法能夠回避的。

　　剛才幾位專家都講了，主要現(xiàn)在重點(diǎn)集中在數(shù)據(jù)保護(hù)問題。這個保護(hù)涉及到兩個方面：一個是資源提供者，包括公共機(jī)構(gòu)也好，比如學(xué)校也好，包括像好未來這種商業(yè)機(jī)構(gòu)也好，他們掌握這種教育資源，他們有學(xué)員，學(xué)生數(shù)據(jù)，他們首先我覺得有兩個義務(wù)要去做：

　　第一個，企業(yè)自己要不主動作惡。因?yàn)楝F(xiàn)在工信部打擊垃圾短信，詐騙等，很多都是信息泄露。這個泄露是自己內(nèi)部人賣數(shù)據(jù)。所以作為資源提供者首先保證自己不作惡；

　　第二，保證采取必要的技術(shù)手段，把你產(chǎn)生的數(shù)據(jù)加密也好，用各種防范措施也好，通過這種防御手段讓別人拿不到這個數(shù)據(jù)，這也是很重要的一個方面。但是這里也離不開監(jiān)管方的努力，監(jiān)管方首先有一個定義，叫什么是要保護(hù)的數(shù)據(jù)。這可能通過立法來進(jìn)一步明確。

　　第三，作為監(jiān)管肯定要有效的實(shí)行監(jiān)管的責(zé)任，它一定要加強(qiáng)對資源提供者的監(jiān)督，要求它們一定要加強(qiáng)技術(shù)防范，加強(qiáng)倫理的教育，使他們信息不能夠泄露出去。

　　最后，監(jiān)管者還是要加強(qiáng)，打擊個人信息，違法犯罪力度，對出現(xiàn)這種行為的，無論是資源提供方主動做的也好，還是外部有人竊取也好，要中重拳出擊，使竊取信息的人受到法律的嚴(yán)懲，就是警戒后來者，懲戒犯規(guī)者，這個也是監(jiān)管從兩方面對教育+科技帶來倫理方面的問題。

　　主持人（張偉遠(yuǎn)）：感謝李主任給出的實(shí)效性的建議?？萍际请p刃劍，給教育帶來的發(fā)展的機(jī)遇，也探討了倫理方面的主題。今天四位專家給我們這個主題進(jìn)行了點(diǎn)題和開始破解這么一個難題，這也是現(xiàn)在國際上討論非常熱烈的一個主題。今天四位專家的啟發(fā)性精彩的觀點(diǎn)給我們研究這個主題提供了一個非常好的方向。讓我們共同參與到這個主題的研究。最后我們再一次感謝各位嘉賓的精彩發(fā)言。也感謝各位積極參與。教育+科技的倫理和邊界的主題圓桌到此結(jié)束了，再次謝謝大家。