World Geostrategic Insights 就人工智能 (AI) 在國際關係和全球治理中的應用以及人工智能的惡意使用和人工智能在俄羅斯 –烏克蘭戰爭的影響等問題對Fatima Roumate 進行了採訪。
Fatima Roumate 博士 是摩洛哥Agdal Mohammed V 大學法律、經濟和社會科學學院國際法教授。 自 2010 年起擔任 International Institute of Scientific Research Marrakech的創始主席。自 2020 年起，她是摩洛哥聯合國教科文組織Recommendation on the Ethics of Artificial Intelligence （UNESCO）專家組和聯合國教科文組織Information Ethics Working Group IFAP 的成員。
Q1——人工智能（AI）正日益成為我們日常生活的一部分，因此不可避免地影響外交和國際議程，地緣戰略關係，並成為外交官和談判者的支持工具和論據。在您看來，人工智能的現有應用和可預見的未來發展如何影響外交行為，以及在更廣泛的背景下，影響國際關係和全球治理？該問題的主要機遇、挑戰和擔憂是什麼？
A1 – 在這二十一世紀，人工智能（AI）正在改變世界，其對國際社會的影響是無限的。它正在影響國際社會，並對國際參與者（國家、國際組織、非政府組織和跨國公司）提出新的挑戰。如今，人工智能為國際和雙邊合作提供了新的機遇，並促進了所有行為者參與全球治理。然而，惡意使用人工智能對國際安全構成威脅。這意味著政府作為國際社會的主要參與者，被迫重新考慮其公共政策、立法和國際合作，考慮到在多個領域，特別是在國際心理安全方面與惡意使用人工智能相關的新挑戰。考慮到新的技術和經濟力量的崛起，新的國際秩序正在形成，這意味著新的參與者和新的國際關係規則的出現。
對於 AI 挑戰，我們有兩種類型。第一種類型與人工智能的雙重用途有關，這意味著人工智能用於民用和軍事目標。人工智能有時被用作這樣的武器，例如網絡安全。
第二類是法律挑戰，因為人工智能時代是國際法發展的新階段，變得非常傳統。人工智能影響國際經濟法和國際衛生法等所有國際法分支，也影響國際人道主義法和國際人權法。從某種意義上說，我們有一些很好的國際機制，第一個是歐洲委員會通過的《Budapest Convention on Cybercrime 》，即使該公約對所有國家開放，它仍然是一個區域機制。第二個國際機制是世界貿易組織的技術貿易壁壘協議，它涵蓋了自動駕駛汽車等一些先進技術。然而，它僅限於工業和貿易，需要根據人工智能的當前和未來趨勢進行更新。第三個國際機制是聯合國教科文組織於 2021 年通過的關於人工智能倫理的建議。它為與人工智能挑戰相關的幾個主題提供了解決方案和政策行動，但它不是被禁止的工具。聯合國特定常規武器公約還關注人工智能的某些軍事應用，尤其是致命自主武器。
一般而言，《特定常規武器公約》的職責是“禁止或限制使用被認為會給戰鬥人員或平民造成不必要或不合理痛苦的特定類型的武器”（《特定常規武器公約》，2001 年）。然而，迄今為止，外交在製定新機制以減少對人工智能的惡意使用和保障國際安全方面並未取得成功。經濟合作與發展組織 (OECD)、亞太經濟合作組織 (APEC) 和七國集團 (G7) 等多個國際機構研究了這個問題。不過，重點必須仍然放在人類身上，以評估使用致命自主武器所需的人類控制的類型和程度，以確保遵守國際法和國際人道主義法。需要各種操作限制，包括任務、目標類型、操作環境、操作時間框架和移動範圍，以確保法律合規性，例如可預測性；人工監督等。
Q2 – 人工智能的主要惡意用途是什麼？它們對國際安全構成哪些威脅？它們對外交有何影響？需要採取哪些應對措施？數码外交能否成為阻止混合戰爭、網絡安全威脅和假新聞的戰略工具？
A2 – 2011 年，假新聞、假演講和其他惡意使用人工智能被用於阿拉伯國家創造政治變革。青年活動家認為他們是在抗議民主、社會正義和人權，而不是被第三方改變埃及、利比亞、敘利亞和突尼斯的政治制度。政府投資於使用人工智能進行監視和防禦。其他國家和非國家行為者正在使用人工智能來創建或支持旨在特定政治變革的社會運動。在結合了來自衛星圖像、面部識別驅動的攝像頭和手機位置信息等數據的系統中，人工智能可以提供個人運動的詳細圖片，並預測未來的運動和位置。
從某種意義上說，考慮到強大工具推動的人權革命，MUAI 會隨著世界各地民粹主義民族主義運動的興起而產生不穩定。 當涉及到一些全球性的外交問題時，例如關於烏克蘭戰爭的宣傳和虛假信息，MUAI 可以用來引導國際輿論。 聯合國安理會討論了一些強有力的圖像，考慮到其在敘利亞政治危機期間的影响，例如难民儿童臉朝下躺在海灘上被淹死的屍體的照片。 國際關係中所有參與者之間的大規模相互聯繫要求更新外交工具，尤其是隨著數字外交的出現。 這將我們帶到了兩個層面：
– 人工智能是一種新的強大工具，可以用於外交。
– 外交在創造新機會和增強人工智能創新和創造力方面的重要性。
人工智能時代是國際社會歷史上的一個新台階，其特點是基於大數據的新石油不斷增長的電子經濟。然而，這種新油帶來了一個新的挑戰，那就是值得信賴的信息。從某種意義上說，當數據不可靠時，外交官和政策制定者如何根據數據做出決策？所有參與者如何才能訪問正確的數據？考慮到人工智能的趨勢，外交官可以被機器人取代嗎？當機器人做出決定時，國際安全的未來會是什麼？
從某種意義上說，有必要重新思考外交使命，應該關注技術主權。中美競爭的主要目標是爭奪與數據主權、創新主權等新型主權相聯繫的技術主權。
人工智能為實現國家利益提供了新的機會，但也帶來了許多與數字外交相關的挑戰。總的來說，這種新的外交形式為外交官的工作環境做好了準備，因為可以輕鬆訪問大數據。數码外交有助於界定共同問題和共同利益，為談判和決策帶來新話題。人工智能使外交更加高效和有效，因為它有助於在行動者、學術界、私營部門、民間社會和個人之間架起一座橋樑。
如果說經濟是國家間雙邊關係中最重要的優先事項，那麼如果沒有依賴數據的數字外交，那現在是不可想像的。從某種意義上說，各國需要重新考慮其夥伴關係中包含的優先事項。他們應該更加重視技術、科學和研究領域的合作。農業、工業、旅遊和文化方面的合作很重要，但所有這些部門都受到技術的製約。隨著人工智能的創新，這一領域的合作對所有國家來說都是必要條件，因為這一領域的創新正在改變經濟。外交應該更多地關注關鍵優先事項，這是一項關於人工智能倫理的國際戰略，這是應對所有人工智能挑戰以確保所有人的人工智能全球治理的唯一途徑。
Q3——人工智能在戰爭中的使用存在爭議，但不可否認它正在推進。機器學習、Clearview AI 的面部識別技術、算法和其他人工智能工具正在烏克蘭衝突中部署。美國五角大樓正在利用人工智能工具分析大量數據，生成有用的戰場情報，並了解俄羅斯的戰術和戰略。您如何看待人工智能在俄烏戰爭中的作用和影響？
A3 – 在烏克蘭惡意使用人工智能是一種新的“Westphalian系統”，這意味著對第三次世界大戰後和平與安全的新定義，考慮到所有直接或間接促成這場戰爭的國家及其對國家遊戲和國際關係的未來。這場戰爭，無論誰是贏家或輸家，最重要的是，這是國際關係史上新的一步，當前和未來都面臨挑戰。人工智能是理解國際比賽的關鍵。從某種意義上說，人工智能帶來的當前和未來挑戰需要新的國際、區域和國家戰略，更新國際法，重新思考國際機構，考慮基於新的力量平衡的新世界秩序的後果。
烏克蘭戰爭的特點是使用新武器和新的戰爭面貌與新的參與者，特別是隨著美國全球領導地位的衰落和新的強大行動者的出現。即使是烏克蘭使用的“傳統”武器也是基於人工智能，考慮到強國發布的新防禦戰略是基於採用新方法，例如軍隊、學術界和企業之間的協調。在此背景下，美國陸軍在Training and Doctrine Command（TRADOC）下發起了“科學家計劃”，重點關注基於人工智能的軍事作戰創新。人工智能的武器化貫穿始終，致命的自主機器人、基因工程和激光武器，一些國家正在接近生產完全自主的武器。
這裡的挑戰是在結束這一領域的科學研究或結束人類之間做出選擇。 俄烏戰爭中人工智能的武器化正在使各個層面的威脅加倍，心理戰、網絡安全、生物戰以及經濟和金融戰。
在烏克蘭，戰爭是混合的，它在線上和離線之間搖擺不定，從假新聞和網絡攻擊開始，到使用無人機和其他基於人工智能的新型精密武器。
正如我們在俄羅斯和烏克蘭之間的戰爭中觀察到的那樣，大國正在競相尋求高科技武器，這解釋了人工智能和 COVID 19 時代的這些新型戰爭。 考慮到俄羅斯聲稱北約和烏克蘭正在開發此類武器，這場戰爭可能會升級為使用核武器或生物武器。 從某種意義上說，考慮到國際上關於首先使用核武器和在各種戰爭中使用人工智能的爭論，國際社會應該做出國際關係史上最重要的選擇，那就是結束這場戰爭， 國際社會應回歸新世界秩序中地緣戰略利益與技術主權之間的力量平衡态势。
Fatima Roumate—-IIRS 國際科學研究所主席，摩洛哥Agdal Mohammed V 大學法律、經濟和社會科學學院國際法教授。 自 2010 年起擔任 International Institute of Scientific Research Marrakech的創始主席。自 2020 年起，她是摩洛哥聯合國教科文組織Recommendation on the Ethics of Artificial Intelligence （UNESCO）專家組和聯合國教科文組織Information Ethics Working Group IFAP 的成員。 她在 2017 年女性經濟論壇上獲得了題為“Iconic Leaders Creating a Better World for All”獎。她是多個索引期刊科學委員會的成員，並以阿拉伯語、法語和英語出版了多本書籍和被索引的文章。 她是《人工智能與數字外交》一書的編輯。