Europol cảnh báo sự gia tăng các vụ phạm tội sử dụng thủ thuật 'deepfake'

“Deepfake” là công nghệ sử dụng AI để tạo ra những nội dung giả mạo, có thể là hình ảnh, video, thậm chí là âm thanh, rất khó phân biệt theo cách thông thường. Do đó, thủ thuật này thường được sử dụng để tạo tin tức giả và những trò lừa đảo độc hại.

Europol đã công bố một báo cáo dài 23 trang, trong đó đi sâu tìm hiểu các cách mà trí tuệ nhân tạo và công nghệ “deepfake” tác động đến niềm tin của người dân đối với chính quyền và các thông tin chính thức.

Theo cơ quan này, tình trạng gia tăng các thông tin sai lệch và việc lợi dụng công nghệ “deepfake” sẽ ảnh hưởng đến nhận thức chung của con người về chính quyền và các phương tiện truyền thông chính thống, dẫn đến những bất ổn trong chính trị cũng như xã hội.

Những kẻ có ý đồ xấu có thể sử dụng công nghệ “deepfake” để thao túng người khác trực tuyến, trong đó có những hành vi lạm dụng trẻ em hoặc làm sai lệch thông tin trong các cuộc điều tra tư pháp. Theo Europol, các doanh nghiệp cũng có thể trở thành mục tiêu bị đe dọa, trong đó trích dẫn một ví dụ mà công nghệ “deepfake” được những kẻ lừa đảo sử dụng để bắt chước giọng nói của giám đốc điều hành công ty, yêu cầu nhân viên chuyển 35 triệu USD vào tài khoản.

Mặc dù con người vẫn có thể nhận diện hình ảnh “deepfake” theo cách thủ công, thông qua các chi tiết bất thường trong cử động hay nét mờ quanh khuôn mặt,... song công nghệ đang phát triển mạnh mẽ, khiến deepfake ngày càng được sử dụng tinh vi, khó phát hiện hơn. Nhiều công ty công nghệ đã triển khai các hệ thống ngăn chặn deepfake, trong đó có Meta - chủ quản của Facebook và Instagram - cũng như các nền tảng mạng xã hội khác như TikTok, Reddit và Youtube.

Europol cho rằng các nhà hoạch định chính sách và các cơ quan thực thi pháp luật cần đánh giá các chính sách hiện hành và thực tiễn áp dụng, theo đó đưa ra những điều chỉnh cần thiết để chuẩn bị và thích ứng với thực tế gia tăng các vụ lừa đảo liên quan thủ thuật này.