人工智能在虛假信息中的應(yīng)用既帶來(lái)了挑戰(zhàn)，也提供了應(yīng)對(duì)虛假信息的工具。隨著技術(shù)的不斷進(jìn)步，虛假信息的生成和傳播變得更加隱蔽和復(fù)雜。為了維護(hù)社會(huì)的穩(wěn)定和公眾的信任，必須采取有效措施，利用人工智能技術(shù)檢測(cè)和應(yīng)對(duì)虛假信息，同時(shí)提高公眾的識(shí)別能力，以應(yīng)對(duì)這一全球性挑戰(zhàn)。
虛假信息帶來(lái)挑戰(zhàn)
虛假信息是指故意傳播的錯(cuò)誤或誤導(dǎo)性的信息，通常旨在操縱公眾輿論、影響決策或造成混亂。隨著社交媒體和數(shù)字通信技術(shù)的迅猛發(fā)展，虛假信息的傳播速度和范圍顯著增加。近年來(lái)，虛假信息在政治、經(jīng)濟(jì)、公共衛(wèi)生等多個(gè)領(lǐng)域的影響愈發(fā)顯著，尤其在選舉、疫情應(yīng)對(duì)等關(guān)鍵時(shí)刻，虛假信息的傳播往往會(huì)造成嚴(yán)重后果。
人工智能技術(shù)，特別是自然語(yǔ)言處理（NLP），可以被用于自動(dòng)生成虛假信息。如通過(guò)訓(xùn)練語(yǔ)言模型，人工智能可以生成看似真實(shí)的新聞文章、社交媒體帖子或評(píng)論。這些自動(dòng)生成的內(nèi)容在形式上與真實(shí)信息無(wú)異，難以被普通用戶識(shí)別，從而加大了虛假信息傳播的風(fēng)險(xiǎn)。
深度偽造技術(shù)（Deepfake）是利用深度學(xué)習(xí)生成偽造圖像、視頻或音頻的一種方法。這項(xiàng)技術(shù)可以將一個(gè)人的面孔或聲音，合成到另一個(gè)人的視頻中，制造出虛假的場(chǎng)景。例如，深度偽造技術(shù)可以被用于制造虛假的政治演講、假新聞視頻等，嚴(yán)重誤導(dǎo)公眾認(rèn)知。
人工智能技術(shù)在虛假信息檢測(cè)中也發(fā)揮了重要作用。通過(guò)機(jī)器學(xué)習(xí)算法，人工智能可以分析大量的在線內(nèi)容，識(shí)別出潛在的虛假信息。社交媒體平臺(tái)和新聞網(wǎng)站利用這些技術(shù)，對(duì)用戶生成的內(nèi)容進(jìn)行審核，及時(shí)標(biāo)記或刪除虛假信息。
情感分析是利用自然語(yǔ)言處理技術(shù)分析文本情感傾向的一種方法。人工智能可以通過(guò)情感分析，識(shí)別出那些具有煽動(dòng)性或偏見(jiàn)的內(nèi)容，從而幫助平臺(tái)更好地判斷信息的真實(shí)性。通過(guò)監(jiān)測(cè)情感變化，人工智能還可以發(fā)現(xiàn)虛假信息傳播的網(wǎng)絡(luò)和模式。
虛假信息在政治領(lǐng)域的影響尤為顯著。選舉期間，虛假信息的傳播可能會(huì)影響選民的投票決策，造成選舉結(jié)果的偏差。通過(guò)操縱信息，某些團(tuán)體或國(guó)家可能試圖干擾他國(guó)的政治穩(wěn)定，破壞民主程序。
在公共衛(wèi)生危機(jī)中，虛假信息的傳播可能導(dǎo)致嚴(yán)重后果。例如，疫情期間關(guān)于病毒傳播、疫苗有效性等虛假信息的傳播，可能導(dǎo)致公眾恐慌、抵制疫苗接種等行為，從而影響公共健康政策的實(shí)施。虛假信息的泛濫可能導(dǎo)致公眾對(duì)媒體、政府和科學(xué)機(jī)構(gòu)的信任下降。當(dāng)人們無(wú)法分辨信息的真?zhèn)螘r(shí)，社會(huì)信任關(guān)系受到侵蝕，可能導(dǎo)致社會(huì)動(dòng)蕩和不安。
提高公眾對(duì)虛假信息的識(shí)別能力是應(yīng)對(duì)虛假信息的重要策略。通過(guò)教育和宣傳，幫助公眾了解虛假信息的特征，增強(qiáng)其批判性思維能力，從而有效減少虛假信息的傳播。政府和社交媒體平臺(tái)應(yīng)加強(qiáng)對(duì)人工智能技術(shù)的監(jiān)管，確保其在虛假信息檢測(cè)中的合理應(yīng)用。同時(shí)，建立透明的算法審查機(jī)制，確保公眾了解信息審核的標(biāo)準(zhǔn)和流程。應(yīng)對(duì)虛假信息的挑戰(zhàn)需要各方合作，包括政府、科技公司、學(xué)術(shù)機(jī)構(gòu)和公眾。通過(guò)共享數(shù)據(jù)、技術(shù)和最佳實(shí)踐，各方可以共同打擊虛假信息的傳播，維護(hù)信息環(huán)境的健康。
軍事領(lǐng)域的虛假信息
在某些沖突地區(qū)，人工智能可以被利用來(lái)自動(dòng)生成虛假的新聞報(bào)道，制造敵對(duì)國(guó)家或組織的負(fù)面形象。
例如，利用自然語(yǔ)言處理技術(shù)，人工智能可以創(chuàng)建看似真實(shí)的新聞文章，聲稱敵方軍隊(duì)實(shí)施了戰(zhàn)爭(zhēng)罪行或侵犯人權(quán)。這類虛假信息不僅誤導(dǎo)公眾輿論，還可能激化沖突。深度偽造技術(shù)可以用于制作偽造的視頻，顯示某國(guó)領(lǐng)導(dǎo)人發(fā)表煽動(dòng)性言論或簽署不利條約。
又如，利用深度學(xué)習(xí)算法生成一個(gè)假視頻，顯示某國(guó)總統(tǒng)在會(huì)議上支持對(duì)敵國(guó)采取軍事行動(dòng)。這種視頻可能在社交媒體上迅速傳播，引發(fā)公眾恐慌和國(guó)際關(guān)系緊張。
在軍事對(duì)抗中，人工智能可以被用來(lái)生成虛假的情報(bào)報(bào)告，誤導(dǎo)敵方?jīng)Q策，利用機(jī)器學(xué)習(xí)分析敵方的通信模式。人工智能可以生成假情報(bào)，聲稱本國(guó)部隊(duì)在某區(qū)域集結(jié)，從而誘使敵方調(diào)動(dòng)資源，造成戰(zhàn)略失誤。
人工智能工具可以監(jiān)測(cè)社交媒體上的輿論動(dòng)態(tài)，并自動(dòng)生成與特定軍事行動(dòng)相關(guān)的虛假評(píng)論或帖子，以操縱公眾情緒。
在軍事沖突期間，人工智能可以快速生成大量支持某一方的虛假評(píng)論，影響民眾對(duì)戰(zhàn)爭(zhēng)的看法，制造對(duì)敵方的負(fù)面情緒。
在網(wǎng)絡(luò)戰(zhàn)中，人工智能可以被用來(lái)制造和傳播虛假信息，干擾敵方的指揮鏈。例如，通過(guò)社交媒體平臺(tái)散布關(guān)于虛假攻擊的消息，導(dǎo)致敵方誤判局勢(shì)，從而影響其軍事決策和行動(dòng)。
人工智能工具在軍事領(lǐng)域的虛假信息應(yīng)用，展示了技術(shù)在現(xiàn)代戰(zhàn)爭(zhēng)中的“雙刃劍”特性。雖然這些工具可以用于信息戰(zhàn)，但同時(shí)也可能引發(fā)倫理和法律問(wèn)題。為了應(yīng)對(duì)這些挑戰(zhàn)，各國(guó)需要加強(qiáng)對(duì)人工智能技術(shù)的監(jiān)管，確保其在軍事行動(dòng)中的合理使用。
自主武器系統(tǒng)如無(wú)人機(jī)和機(jī)器人，能夠在沒(méi)有人類干預(yù)的情況下進(jìn)行攻擊。如果這些系統(tǒng)出現(xiàn)故障或被黑客攻擊，可能會(huì)導(dǎo)致誤殺平民或非戰(zhàn)斗人員。例如，人工智能可能錯(cuò)誤地將友軍識(shí)別為敵人，從而導(dǎo)致誤擊友軍，造成不必要的損失。
人工智能系統(tǒng)可能成為網(wǎng)絡(luò)攻擊的目標(biāo)。如果敵方成功入侵軍事系統(tǒng)，操控人工智能生成虛假信息或干擾指揮鏈，可能導(dǎo)致整個(gè)軍事行動(dòng)的失敗。
隨著人工智能在軍事決策中應(yīng)用的增加，可能會(huì)出現(xiàn)“責(zé)任缺失”的問(wèn)題。當(dāng)自主系統(tǒng)做出致命決策時(shí)，責(zé)任歸屬變得模糊，可能導(dǎo)致對(duì)戰(zhàn)爭(zhēng)罪行的追責(zé)困難。這種情況可能會(huì)引發(fā)國(guó)際社會(huì)的強(qiáng)烈反對(duì)，增加沖突的復(fù)雜性。人工智能系統(tǒng)能夠在極短時(shí)間內(nèi)做出決策，這可能導(dǎo)致軍事行動(dòng)的過(guò)度反應(yīng)。在緊張局勢(shì)下，人工智能可能會(huì)在沒(méi)有充分驗(yàn)證信息的情況下迅速采取行動(dòng)，導(dǎo)致不可逆轉(zhuǎn)的后果。
人工智能在軍事領(lǐng)域的應(yīng)用雖然具有提升效率和精準(zhǔn)度的潛力，但其潛在的災(zāi)難性風(fēng)險(xiǎn)也不容忽視。各國(guó)在推進(jìn)軍事人工智能技術(shù)時(shí)，必須加強(qiáng)倫理審查和技術(shù)監(jiān)管，以確保其安全、可靠地應(yīng)用于軍事行動(dòng)中。■
（作者系北京郵電大學(xué)人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任）
《科學(xué)新聞》 (科學(xué)新聞2024年10月刊 AI)