警惕AI濫用帶偏青少年

　　近日，用AI制作“流浪漢闖入家中”圖片來整蠱家人的帖子、視頻，在社交平臺(tái)走紅。有網(wǎng)友用AI制作流浪漢闖入家中吃早餐的視頻并發(fā)給爸爸，并將爸爸的反應(yīng)發(fā)到網(wǎng)上，有40多萬人點(diǎn)贊，70多萬人轉(zhuǎn)發(fā)；一名12歲的小孩用AI制作流浪漢闖入家中的整蠱圖片，圖片流入業(yè)主群，嚇壞業(yè)主……

　　隨著AI相關(guān)應(yīng)用技術(shù)的日益成熟和普及，其應(yīng)用場(chǎng)景不斷拓寬，使用門檻也持續(xù)降低。然而，當(dāng)這樣的技術(shù)進(jìn)步成果被用于制作恐慌性整蠱內(nèi)容，其性質(zhì)顯然就偏離了科技向善的軌道。要知道，這些整蠱內(nèi)容的效果越“逼真”，可能帶來的危害性就越大。比如，引發(fā)恐慌和誤判，導(dǎo)致報(bào)警，繼而浪費(fèi)公共資源，甚至還可能擾亂公共秩序，造成不必要的社會(huì)緊張。更值得警惕的是，這類濫用行為還可能對(duì)青少年造成惡劣的示范，引發(fā)不良的模仿效應(yīng)。事實(shí)上，已有一些青少年用這類工具來整蠱，這背后的風(fēng)險(xiǎn)不可不察。

　　隨著AI應(yīng)用的普及，一些人的好奇心被打開，愿意積極嘗試，這本身無可厚非。但是，技術(shù)應(yīng)用也得有邊界，在使用中守住倫理底線，不違背公序良俗和法律規(guī)范，這是起碼的要求。對(duì)此，一方面需要AI開發(fā)企業(yè)在產(chǎn)品設(shè)計(jì)之初就設(shè)置必要的安全提示與使用規(guī)范，對(duì)可能引發(fā)誤解、恐慌或侵權(quán)的生成內(nèi)容進(jìn)行風(fēng)險(xiǎn)標(biāo)識(shí)，甚至對(duì)特定敏感場(chǎng)景進(jìn)行技術(shù)限制。特別是針對(duì)青少年的使用，應(yīng)該有相應(yīng)的分類引導(dǎo)，防止讓他們?cè)谌狈η逦J(rèn)知的情況下誤用、濫用。

　　另一方面，也離不開社會(huì)大背景下的國民科技素養(yǎng)的培育。近日，教育部等七部門聯(lián)合印發(fā)的《關(guān)于加強(qiáng)中小學(xué)科技教育的意見》就指出，要在科技教育中融入人文元素，引導(dǎo)學(xué)生在科學(xué)實(shí)驗(yàn)、項(xiàng)目探究等活動(dòng)中，主動(dòng)思考科技發(fā)展對(duì)社會(huì)、環(huán)境及倫理的深遠(yuǎn)影響，增強(qiáng)社會(huì)責(zé)任感與人文底蘊(yùn)。這一點(diǎn)在AI技術(shù)日益滲透日常生活的今天，無疑顯得愈發(fā)重要。

　　說到底，我們不僅需要培養(yǎng)青少年的創(chuàng)新意識(shí)和能力，也要從娃娃抓起培育善用技術(shù)的責(zé)任感。一定程度上說，“流浪漢闖入家中”這類利用AI技術(shù)來整蠱的現(xiàn)實(shí)案例，恰恰是開展科技倫理教育生動(dòng)的反面教材。從家庭到學(xué)校、社區(qū)等都不妨積極利用好這類案例的教育價(jià)值，增強(qiáng)大眾尤其是青少年對(duì)科技應(yīng)用濫用的風(fēng)險(xiǎn)認(rèn)知，以及善用科技的自覺意識(shí)和責(zé)任感。

　?。ㄗ髡呦得襟w評(píng)論員）

《中國教育報(bào)》2025年11月19日 第02版