Nhức nhối vấn nạn dùng clip AI đưa tin giả về mưa lũ miền Trung tràn lan trên mạng xã hội: Chuyên gia nói gì?
Trong lúc người dân miền Trung "căng mình" chống mưa lũ, nhiều đối tượng xấu lại lợi dụng nỗi đau của đồng bào, biến chúng thành công cụ câu like, câu view bẩn.
Những ngày qua, mạng xã hội liên tiếp xuất hiện loạt clip người dân vùng lũ tại miền Trung bị mắc kẹt, bị đuối nước; nhà cửa, tài sản bị lũ cuốn; người dân ôm vật nuôi la hét… khiến cộng đồng mạng không khỏi xót xa và hoang mang trước những thiệt hại kinh hoàng do thiên tai mang tới. Tuy nhiên, trong số đó, không ít clip là sản phẩm do AI tạo ra nhằm câu tương tác, bình luận từ người dùng mạng.
.png)
Thậm chí, có nhiều đối tượng làm video AI giả mạo để xuyên tạc tình hình, dẫn dắt dư luận công kích lực lượng chức năng trong bối cảnh mưa lũ phức tạp, cần đề cao tinh thần đoàn kết giữa quân và dân.
.png)
Việc sử dụng công nghệ AI tạo tin giả, clip giả mạo còn khiến luồng thông tin bị loãng, dễ gây ra những hiểu lầm nghiêm trọng và người dân không nắm bắt được tình hình thực tế.
Dù đã nỗ lực chọn lọc, hạn chế tối đa tình trạng các clip AI độc hại nhưng tình trạng trên vẫn tiếp diễn tràn lan trên mạng xã hội, gây nhiều nỗi nhức nhối trong dư luận. Vậy, nguyên nhân của vấn nạn trên là gì?
Chia sẻ với báo Người Lao động, ông Lê Anh Bằng - Giám đốc Giải pháp Khách hàng Công ty CP Công nghệ Haravan nhận định, nguyên nhân của tình trạng này có thể xuất phát từ những thay đổi của các nền tảng như Facebook, Tiktok… trong việc nhận diện và phân loại nội dung.
Theo ông, các nền tảng có thể dễ dàng phát hiện và gắn nhãn sản phẩm AI nếu những clip đó được sử dụng 100% công nghệ AI để tạo dựng. Ngược lại, đối với các clip, nội dung có sự can thiệp của con người, AI chỉ đóng vai trò là công cụ hỗ trợ cắt ghép, chỉnh sửa, nền tảng sẽ gặp khó khăn trong việc phân biệt. Từ đó dẫn tới tình trạng các clip giả mạo không được gắn nhãn AI và được gợi ý, xuất hiện cùng với các clip thực tế.
Ngoài ra, ông Bằng cho biết công nghệ AI ngày càng phát triển mạnh mẽ trong khi các nền tảng cần thời gian để cập nhật thuật toán và những tiêu chí mới để phân loại nội dung. Ngoài ra, hành lang pháp lý vẫn đang trong quá trình hoàn thiện còn các nội dung trên mạng xã hội hiện nay phần lớn đều có sự can thiệp của AI khiến cho việc kiểm soát gặp nhiều trở ngại.
Trước tình hình này, các chuyên gia khuyến cáo người dùng mạng cần tỉnh táo trước khi tiếp nhận các nguồn tin, tuyệt đối không tương tác, chia sẻ các nội dung giả, nội dung chưa được kiểm chứng để góp phần xây dựng một môi trường mạng trong sạch, lành mạnh hơn.
