Deepfake AI: Cảnh giác khi kẻ lừa đảo ngụy trang hoàn hảo | VTV24

Tóm tắt nội dung video về rủi ro từ video AI trên mạng xã hội

Key Concepts:

• Video AI giả mạo
• Lừa đảo bằng AI
• Nhận diện video AI
• Quản lý nội dung AI
• Rủi ro mất dữ liệu
• Tin giả
• Kênh không chính thống

1. Thực trạng video AI và rủi ro

• Mạng xã hội tràn lan video AI rác, câu view, thậm chí lừa đảo.
• Nhiều người hướng dẫn tạo video AI ghép mặt, giọng nói bạn bè, người quen, ban đầu chỉ mang tính chất vui đùa.
• Tuy nhiên, có những nội dung gây hiểu nhầm, công kích cá nhân, gây hại.
• Đối tượng xấu dùng AI để lừa đảo.
• Ví dụ: Video giả mạo ca sĩ Khắc Việt quảng bá cờ bạc trái phép. Ca sĩ phải lên tiếng đính chính.
• Ranh giới giữa thật và giả rất mong manh, người nhận thức kém dễ tin vào video giả.
• Người dùng khó phân biệt video AI và video thật.
• Nguy cơ lan truyền tin giả, bị lừa đảo, đánh cắp tài khoản, mất tiền.
• 70% người dùng không nhận ra video do AI tạo ra, nghĩ là video thật.
• Thông tin trên mạng trở nên không đáng tin.
• Người thiếu hiểu biết dễ bị lừa đảo.
• Rủi ro mất dữ liệu khi mua tài khoản từ nguồn trôi nổi.

2. Các hình thức lừa đảo bằng AI

• AI có thể giả mạo hình ảnh, giọng nói, sinh ra nội dung dựa trên nội dung thật.
• Mạo danh người nổi tiếng, người thân, bạn bè để tạo kịch bản lừa đảo.
• Tạo tin giả (nhân vật, câu chuyện không có thật) giật gân, đánh vào lòng thương cảm, nói xấu, bôi nhọ người khác.

3. Dấu hiệu nhận biết video AI

• Nguồn gốc video: Xuất hiện trên kênh không chính thống (không phải báo chí, trang uy tín).
• Bối cảnh: Xuất hiện ở thời điểm đặc biệt, trong hội nhóm trao đổi vấn đề giật gân, bạo lực.
• Độ chân thật: Xem xét kỹ, bình tĩnh để nhận ra điểm bất thường.

4. Đối tượng dễ bị ảnh hưởng

• Tất cả các lứa tuổi đều có thể là nạn nhân.
• Kịch bản lừa đảo tinh vi, dựa trên câu chuyện có thật, dựng lên phù hợp với từng lứa tuổi, nhóm đối tượng.
• Cần hình dung rằng bất cứ ai cũng có thể trở thành nạn nhân của tấn công bằng AI.

5. Giải pháp quản lý và ngăn chặn

• Cần có bộ luật riêng cho AI, vì AI xuất hiện sau khi các luật an ninh mạng, công nghệ ra đời.
• Luật cần nhấn mạnh việc không được sử dụng AI vào mục tiêu vi phạm quyền lợi hợp pháp của người khác (giả mạo, lừa đảo).
• Bắt buộc dán nhãn cho nội dung sử dụng AI để người xem chủ động trong việc tiếp nhận thông tin (giải trí hay tin thật).

6. Kết luận

• Các chiêu trò lừa đảo bằng AI ngày càng khó lường và tinh vi.
• Sự cảnh giác của mỗi người là lớp bảo vệ đầu tiên.
• Đừng vội tin, đừng vội chuyển tiền, luôn xác minh kỹ bất kỳ yêu cầu bất thường nào.