人工智能在虛假信息中的應用既帶來了挑戰，也提供了應對虛假信息的工具。隨著技術的不斷進步，虛假信息的生成和傳播變得更加隱蔽和復雜。為了維護社會的穩定和公眾的信任，必須采取有效措施，利用人工智能技術檢測和應對虛假信息，同時提高公眾的識別能力，以應對這一全球性挑戰。
虛假信息帶來挑戰
虛假信息是指故意傳播的錯誤或誤導性的信息，通常旨在操縱公眾輿論、影響決策或造成混亂。隨著社交媒體和數字通信技術的迅猛發展，虛假信息的傳播速度和范圍顯著增加。近年來，虛假信息在政治、經濟、公共衛生等多個領域的影響愈發顯著，尤其在選舉、疫情應對等關鍵時刻，虛假信息的傳播往往會造成嚴重后果。
人工智能技術，特別是自然語言處理（NLP），可以被用于自動生成虛假信息。如通過訓練語言模型，人工智能可以生成看似真實的新聞文章、社交媒體帖子或評論。這些自動生成的內容在形式上與真實信息無異，難以被普通用戶識別，從而加大了虛假信息傳播的風險。
深度偽造技術（Deepfake）是利用深度學習生成偽造圖像、視頻或音頻的一種方法。這項技術可以將一個人的面孔或聲音，合成到另一個人的視頻中，制造出虛假的場景。例如，深度偽造技術可以被用于制造虛假的政治演講、假新聞視頻等，嚴重誤導公眾認知。
人工智能技術在虛假信息檢測中也發揮了重要作用。通過機器學習算法，人工智能可以分析大量的在線內容，識別出潛在的虛假信息。社交媒體平臺和新聞網站利用這些技術，對用戶生成的內容進行審核，及時標記或刪除虛假信息。
情感分析是利用自然語言處理技術分析文本情感傾向的一種方法。人工智能可以通過情感分析，識別出那些具有煽動性或偏見的內容，從而幫助平臺更好地判斷信息的真實性。通過監測情感變化，人工智能還可以發現虛假信息傳播的網絡和模式。
虛假信息在政治領域的影響尤為顯著。選舉期間，虛假信息的傳播可能會影響選民的投票決策，造成選舉結果的偏差。通過操縱信息，某些團體或國家可能試圖干擾他國的政治穩定，破壞民主程序。
在公共衛生危機中，虛假信息的傳播可能導致嚴重后果。例如，疫情期間關于病毒傳播、疫苗有效性等虛假信息的傳播，可能導致公眾恐慌、抵制疫苗接種等行為，從而影響公共健康政策的實施。虛假信息的泛濫可能導致公眾對媒體、政府和科學機構的信任下降。當人們無法分辨信息的真偽時，社會信任關系受到侵蝕，可能導致社會動蕩和不安。
提高公眾對虛假信息的識別能力是應對虛假信息的重要策略。通過教育和宣傳，幫助公眾了解虛假信息的特征，增強其批判性思維能力，從而有效減少虛假信息的傳播。政府和社交媒體平臺應加強對人工智能技術的監管，確保其在虛假信息檢測中的合理應用。同時，建立透明的算法審查機制，確保公眾了解信息審核的標準和流程。應對虛假信息的挑戰需要各方合作，包括政府、科技公司、學術機構和公眾。通過共享數據、技術和最佳實踐，各方可以共同打擊虛假信息的傳播，維護信息環境的健康。
軍事領域的虛假信息
在某些沖突地區，人工智能可以被利用來自動生成虛假的新聞報道，制造敵對國家或組織的負面形象。
例如，利用自然語言處理技術，人工智能可以創建看似真實的新聞文章，聲稱敵方軍隊實施了戰爭罪行或侵犯人權。這類虛假信息不僅誤導公眾輿論，還可能激化沖突。深度偽造技術可以用于制作偽造的視頻，顯示某國領導人發表煽動性言論或簽署不利條約。
又如，利用深度學習算法生成一個假視頻，顯示某國總統在會議上支持對敵國采取軍事行動。這種視頻可能在社交媒體上迅速傳播，引發公眾恐慌和國際關系緊張。
在軍事對抗中，人工智能可以被用來生成虛假的情報報告，誤導敵方決策，利用機器學習分析敵方的通信模式。人工智能可以生成假情報，聲稱本國部隊在某區域集結，從而誘使敵方調動資源，造成戰略失誤。
人工智能工具可以監測社交媒體上的輿論動態，并自動生成與特定軍事行動相關的虛假評論或帖子，以操縱公眾情緒。
在軍事沖突期間，人工智能可以快速生成大量支持某一方的虛假評論，影響民眾對戰爭的看法，制造對敵方的負面情緒。
在網絡戰中，人工智能可以被用來制造和傳播虛假信息，干擾敵方的指揮鏈。例如，通過社交媒體平臺散布關于虛假攻擊的消息，導致敵方誤判局勢，從而影響其軍事決策和行動。
人工智能工具在軍事領域的虛假信息應用，展示了技術在現代戰爭中的“雙刃劍”特性。雖然這些工具可以用于信息戰，但同時也可能引發倫理和法律問題。為了應對這些挑戰，各國需要加強對人工智能技術的監管，確保其在軍事行動中的合理使用。
自主武器系統如無人機和機器人，能夠在沒有人類干預的情況下進行攻擊。如果這些系統出現故障或被黑客攻擊，可能會導致誤殺平民或非戰斗人員。例如，人工智能可能錯誤地將友軍識別為敵人，從而導致誤擊友軍，造成不必要的損失。
人工智能系統可能成為網絡攻擊的目標。如果敵方成功入侵軍事系統，操控人工智能生成虛假信息或干擾指揮鏈，可能導致整個軍事行動的失敗。
隨著人工智能在軍事決策中應用的增加，可能會出現“責任缺失”的問題。當自主系統做出致命決策時，責任歸屬變得模糊，可能導致對戰爭罪行的追責困難。這種情況可能會引發國際社會的強烈反對，增加沖突的復雜性。人工智能系統能夠在極短時間內做出決策，這可能導致軍事行動的過度反應。在緊張局勢下，人工智能可能會在沒有充分驗證信息的情況下迅速采取行動，導致不可逆轉的后果。
人工智能在軍事領域的應用雖然具有提升效率和精準度的潛力，但其潛在的災難性風險也不容忽視。各國在推進軍事人工智能技術時，必須加強倫理審查和技術監管，以確保其安全、可靠地應用于軍事行動中。■
（作者系北京郵電大學人機交互與認知工程實驗室主任）
《科學新聞》 (科學新聞2024年10月刊 AI)