A.I tạo sinh: Nội dung ảo, rủi ro thật | VTV24

Hàn Quốc Siết Chặt Quảng Cáo AI và Nguy Cơ Deepfake: Tổng Quan Chi Tiết

Key Concepts:

• AI Tạo Sinh (Gen AI): Trí tuệ nhân tạo có khả năng tạo ra nội dung mới, bao gồm hình ảnh, video, âm thanh và văn bản.
• Deepfake: Video hoặc hình ảnh giả mạo được tạo ra bằng AI, thường sử dụng để thay thế khuôn mặt hoặc giọng nói của một người bằng người khác.
• Defake: Thuật ngữ chung cho các nội dung giả mạo được tạo ra bằng AI, bao gồm deepfake.
• Mô Hình Ngôn Ngữ Lớn (LLM): Nền tảng công nghệ đứng sau các chatbot và công cụ tạo nội dung AI, có khả năng phân tích và tạo ra văn bản, hình ảnh, và video.
• Watermark: Dấu chìm kỹ thuật số được thêm vào nội dung để xác định nguồn gốc hoặc tính xác thực.

1. Bối Cảnh và Quy Định của Hàn Quốc

Chính phủ Hàn Quốc đang triển khai các biện pháp mạnh mẽ để đối phó với sự gia tăng của quảng cáo giả mạo sử dụng trí tuệ nhân tạo (AI). Kể từ năm 2026, tất cả các quảng cáo sử dụng AI phải được gắn nhãn rõ ràng để người tiêu dùng biết rằng nội dung đó không phải là hình ảnh thật. Quyết định này được đưa ra sau khi các cơ quan chức năng ghi nhận sự gia tăng của quảng cáo sử dụng hình ảnh chuyên gia và người nổi tiếng giả mạo để quảng bá các sản phẩm rủi ro cao như thực phẩm và dược phẩm. Chính phủ Hàn Quốc lo ngại rằng những nội dung này làm méo mó thị trường, gây thiệt hại cho người tiêu dùng, đặc biệt là người cao tuổi.

Quy định mới yêu cầu mọi hình ảnh và video quảng cáo do AI tạo ra phải có nhãn AI, và người dùng cũng như nền tảng không được phép gỡ bỏ hoặc chỉnh sửa nhãn này. Các công ty vận hành nền tảng sẽ chịu trách nhiệm đảm bảo tuân thủ quy định. Hàn Quốc dự kiến sửa đổi luật viễn thông để các biện pháp giám sát và xử phạt có hiệu lực sớm nhất.

2. Sự Phát Triển và Ứng Dụng của AI Tạo Sinh

AI tạo sinh đang tạo ra một cuộc cách mạng trong nhiều ngành công nghiệp, bao gồm giải trí, quảng cáo và phim ảnh. Các công ty sản xuất video AI hiện có thể thực hiện toàn bộ quy trình sản xuất, từ viết kịch bản, đạo diễn, thiết kế đến hậu kỳ. Điều này giúp giảm chi phí, rút ngắn thời gian marketing, cá nhân hóa quảng cáo và cho phép các doanh nghiệp nhỏ tiếp cận các công cụ truyền thông chuyên nghiệp.

• Giá trị kinh tế: AI tạo sinh được ước tính sẽ mang lại thêm 2,6 đến 4,4 nghìn tỷ đô la Mỹ giá trị mỗi năm cho kinh tế toàn cầu.
• Chi tiêu toàn cầu: Năm ngoái, chi tiêu toàn cầu cho AI tạo sinh ước tính khoảng 644 tỷ đô la Mỹ, tăng hơn 70% so với năm trước đó.
• Tiết kiệm chi phí: Nhiều tập đoàn báo cáo giảm từ 30 đến 50% chi phí làm quảng cáo nhờ sử dụng AI.

Một chuyên gia nhận xét: “AI giống như một công cụ tính toán cho bộ não sáng tạo. Nó có thể đưa ra nhiều phương án nhưng con người vẫn phải chọn lọc, đánh giá và chịu trách nhiệm về chất lượng cuối cùng.”

3. Nguy Cơ và Thách Thức của Deepfake và Defake

Mặc dù AI tạo sinh mang lại nhiều lợi ích, nhưng nó cũng đi kèm với những rủi ro đáng kể. Sự phát triển của deepfake và defake đang làm mờ ranh giới giữa thật và giả, gây ra những hậu quả nghiêm trọng cho thông tin, niềm tin xã hội và nền kinh tế.

• Độ chính xác nhận diện: Một nghiên cứu cho thấy người tham gia chỉ đạt độ chính xác khoảng 50% khi nhận diện nội dung do AI tạo ra.
• Lan truyền nội dung gây sốc: Các video gây sốc, đánh mạnh vào cảm xúc thường được thuật toán ưu tiên lan truyền trên mạng xã hội.
• Lạm dụng: Deepfake và AI tạo sinh bị lạm dụng cho các hành vi lừa đảo, gian lận, hình ảnh không có sự đồng thuận, xâm hại trẻ em và các chiến dịch tung tin sai lệch.
• Phản ứng phủ nhận: Khi video thật ghi lại hành vi sai trái, phản ứng phổ biến lại là phủ nhận rằng đó là giả.

4. Công Nghệ và Cơ Chế Tạo Video AI

Video AI thường được tạo ra từ các mô hình ngôn ngữ lớn (LLM). AI phân tích câu lệnh của người dùng, bối cảnh, hành động và cảm xúc, sau đó tạo hình ảnh từng khung hình, dự đoán chuyển động theo thời gian và ghép lại thành một video hoàn chỉnh. Một số mô hình thậm chí có thể tạo ra cả âm thanh và lời thoại.

Các video defake thường tuân theo một công thức: kích hoạt các cảm xúc mạnh như sợ hãi, phẫn nộ hoặc thương tâm để tăng tương tác và mức độ lan truyền.

5. Rủi Ro Trong Lĩnh Vực Tài Chính và Yêu Cầu Kiểm Chứng Thông Tin

Thị trường tài chính đang coi deepfake là một rủi ro thực sự. Cơ quan chống rửa tiền Mỹ (FinCEN) cảnh báo tội phạm đã sử dụng nội dung do AI tạo để làm giả giấy tờ và video nhằm vượt qua bước định danh khách hàng và mở tài khoản. Ủy ban chứng khoán Mỹ (SEC) cũng cảnh báo về nguy cơ các video deepfake được sử dụng để giả mạo CEO nhằm thao túng giá cổ phiếu hoặc mạo danh cơ quan quản lý để lừa tiền.

Trong một thế giới mà hình ảnh có thể bị làm giả dễ dàng, việc kiểm chứng thông tin không còn là lựa chọn cá nhân mà là yêu cầu bắt buộc. Bởi khi niềm tin bị bào mòn, cái giá phải trả không chỉ là những cú lừa trên mạng Internet mà là sự bất ổn lâu dài của toàn bộ hệ thống.

6. Phát Hiện Deepfake và Hạn Chế Hiện Tại

Việc phát hiện deepfake hiện nay vẫn còn nhiều hạn chế. Một số video có watermark, nhưng phần lớn thì không. Các công cụ phát hiện AI chỉ mang tính tham khảo. Người xem vẫn cần tự quan sát các chi tiết bất thường, chuyển động thiếu tự nhiên, các bộ phận cơ thể hòa lẫn vào nền hoặc hành vi phi logic trong bối cảnh tưởng chừng như rất kịch tính.

Kết luận:

Sự phát triển nhanh chóng của AI tạo sinh mang lại cả cơ hội và thách thức. Trong khi nó có thể tăng hiệu quả và giảm chi phí trong nhiều lĩnh vực, nó cũng tạo ra những rủi ro đáng kể liên quan đến thông tin sai lệch và lừa đảo. Các biện pháp như quy định gắn nhãn AI của Hàn Quốc và việc nâng cao nhận thức về deepfake là rất quan trọng để bảo vệ người tiêu dùng và duy trì niềm tin vào thông tin. Việc kiểm chứng thông tin và phát triển các công cụ phát hiện deepfake hiệu quả hơn là những ưu tiên hàng đầu trong bối cảnh công nghệ ngày càng phát triển này.