韓國政府宣佈將對所有使用人工智慧生成的廣告實施強制性標注制度，這是全球人工智慧生成廣告監管領域的一項具有里程碑意義的舉措。新規定於 2026 年初生效，旨在直接應對社交媒體平臺上諸如名人深度偽造視頻和虛假專家背書等日益氾濫的欺騙性數位內容，包括Instagram、TikTok 和 YouTube 等平台。
這決定性的行動措施主要在增強消費者信心，並為數字廣告領域帶來更大的透明度。該聲明是在由總理主持的政策會議之後發佈的，他強調隨著國家全面進入人工智慧時代，將新技術的副作用降至最低。政府的重點在於保護消費者，尤其是那些可能難以區分真實內容和人工智慧生成內容的老年人。新規定將要求對韓國的電信法進行修訂，明確廣告商和內容發佈平臺雙方的責任。關鍵政策負責人表示，任何生成或發佈人工智慧內容的人都必須明確標注，且禁止篡改這些標注。這一新的責任層級是確立明確的人工智慧廣告合規標準的重要一步，尤其是在全球各地的企業都在努力應對不斷變化的人工智慧法規之際。
誤導性的 AI 生成廣告氾濫成災，已成為一個嚴重的問題。據食品和藥品安全部門稱，2024 年已發現超過96700條食品和藥品的非法網路廣告，較 2023 年約59000條大幅增加。對 AI 生成廣告採取積極監管措施，是全球努力應對合成媒體帶來的倫理和法律挑戰的一部分。出於類似擔憂，其他司法管轄區也採取了行動，紐約州最近就通過了立法，要求在廣告中披露 AI 生成的合成表演者。
應對深度偽造廣告的風險
深度偽造廣告的興起是監管機構的核心關注。能夠生成高度逼真但完全虛構的公眾人物視頻和音訊，為一種新型的虛假資訊打開了大門。這不僅僅是商業欺詐的問題；同樣的技術還被用於更惡意的目的，包括製作未經同意的色情內容和政治虛假資訊。對於企業和機構而言，理解規範人工智慧的細微差別已不再是可選項，而是負責任創新的核心組成部分。
為落實這些新規定，政府計畫出嚴厲的懲罰措施，包括最高可達損害金額五倍的罰款。還將設立新的快速審查機制，對有害內容進行 24 小時內審查處理。表明政府致力於打造更安全、更值得信賴的數字環境，這與構建人工智慧信任的原則相契合。
平衡創新與治理
雖然這些規定旨在應對人工智慧可能帶來的危害，但韓國政府仍致力於推動該領域的創新發展。當局領導一直宣導加大對該國人工智慧領域的投資，特別是在開發先進半導體和真正意義上的超大規模人工智慧模型方面。這種既促進技術進步又設立嚴格道德規範的雙重策略，是許多其他國家可能會密切關注的範例。在國際組織努力制定統一的人工智慧標準以減少全球規則的碎片化方面，韓國的積極態度展示了國家監管如何能夠樹立重要的先例。
對於在韓國運營或向韓國市場推廣產品的公司而言，新的基於人工智慧的廣告監管規定將要求他們對廣告製作流程和合規策略進行全面審查。建立強大的人工智慧管理系統對於成功應對這一新的監管環境至關重要。隨著人工智慧在我們日常生活中的應用日益廣泛，明確、一致且可執行的規則的需求只會變得更加迫切。韓國的這一積極舉措清楚地表明，不受監管的人工智慧生成內容的時代即將結束。
Nemko 集團的 Nemko Digital 提供 AI 相關的法規符合性諮詢、評估和 AI Trust 認證。
歡迎聯繫 bas.overtoom@nemko.com 諮詢。