Sự nguy hiểm của Deepfake

Thời gian gần đây, Deepfake đã trở thành một trong những vấn đề đáng lo ngại đối với rất nhiều người dùng Internet. Khái niệm này đang được đề cập rất nhiều trên các phương tiện truyền thông khi hình thức giả danh thực hiện các cuộc gọi video call để lừa đảo xuất hiện ngày càng nhiều.

Cụm từ “deepfake” ngày càng được biết đến rộng rãi. Nguồn: Feng Yu

Deepfake là gì?

Thuật ngữ “deepfake” kết hợp từ “deep learning” (học sâu) và “fake” (giả mạo). Đây là một công nghệ sử dụng trí tuệ nhân tạo (AI) và deep learning để học cách tái tạo hình ảnh và âm thanh giống người thật nhờ vào các thuật toán, từ đó tạo ra nhiều video giả rất khó phân biệt với video thực tế.

Cách thức hoạt động của Deepfake

Deepfake sử dụng mạng nơ-ron nhân tạo, đặc biệt là Generative Adversarial Networks (GANs), để học và mô phỏng khuôn mặt, giọng nói và các đặc điểm khác của một người. Sau khi được huấn luyện, mạng nơ-ron có thể tạo ra nội dung hoàn toàn mới bằng cách tích hợp bản sao các đặc điểm của người này chồng lên người khác.

Bên cạnh đó, deepfake ngày càng trở nên nguy hiểm hơn khi nó áp dụng phương pháp mô hình điều khiển. Cụ thể, công nghệ này sẽ dùng các quy tắc xác định cách giọng nói được tạo ra dựa trên một số đặc điểm như tốc độ, âm điệu, âm lượng, và cao độ để từ đó tái tạo giọng nói và khuôn mặt của một người một cách chân thực, phù hợp với các đặc trưng riêng của họ.

Cách thức hoạt động của Deepfake. Nguồn: Mdv Edwards

Sự nguy hiểm của Deepfake

1. Phát Tán Thông Tin Sai Lệch

Một đặc điểm của thời đại truyền thông trực tuyến là hình ảnh hoặc video dù chất lượng thấp và không cần đặt vào ngữ cảnh cụ thể vẫn có khả năng tiếp cận và lấy được lòng tin của người xem, do đó mà các đối tượng xấu càng lợi dụng điều này để phát tán những thông tin sai lệch. Họ dùng công nghệ deepfake để tạo ra các video và hình ảnh giả mạo các người nổi tiếng, gây ra sự hiểu lầm nghiêm trọng trong cộng đồng, ảnh hưởng đến các quyết định quan trọng, đặc biệt là trong lĩnh vực chính trị.

Ví dụ, một video được làm giả về một chính trị gia phát biểu những điều không đúng sự thật có thể thay đổi nhận thức của cử tri, làm ảnh hưởng đến kết quả của cuộc bầu cử. Điển hình là vào năm 2018, trên mạng xã hội lan truyền đoạn video Tổng thống Mỹ Barack Obama sử dụng những lời lẽ không hay để chỉ trích Tổng thống Donald Trump. Dù sau đó đoạn video được phát hiện là sử dụng công nghệ AI để làm giả nhưng những tranh cãi và nhiều ý kiến trái chiều cũng mang đến nhiều tiêu cực liên quan đến những người liên quan lúc bấy giờ.

Video sử dụng công nghệ AI giả mạo cựu Tổng thống Mỹ Barack Obama.

2. Xâm phạm quyền riêng tư và làm tổn hại hình ảnh cá nhân của người khác

Nhiều đối tượng xấu thường dùng công nghệ này để tạo ra các nội dung khiêu dâm giả mạo với khuôn mặt của người khác với mục đích trêu chọc, quấy rối và làm tổn hại đến danh tiếng của nạn nhân. Trong nhiều trường hợp, mục đích sử dụng Deepfake không chỉ dừng lại ở mục đích trêu chọc và bôi nhọ danh dự mà còn là dùng để tống tiền nạn nhân.

3. Lừa đảo

Lợi dụng việc công nghệ này có thể tạo ra các video hoặc âm thanh, những đối tượng xấu thường sử dụng chúng cho các vụ lừa đảo tài chính hoặc gian lận danh tính. Một trong những hình thức được dùng nhiều nhất là giả mạo người thân trong gia đình để gọi điện thoại hoặc gọi video yêu cầu chuyển tiền gấp vì lý do khẩn cấp. Sự chân thực của các video và âm thanh này khiến nạn nhân dễ dàng bị lừa, dẫn đến những tổn thất tài chính lớn và tạo ra tâm lý hoang mang, bất an trong xã hội.

Gọi điện thoại mạo danh để lừa tiền nạn nhân.

Lời Kết

Deepfake, mặc dù là một công nghệ đột phá trong lĩnh vực trí tuệ nhân tạo và học sâu, đang trở thành mối đe dọa nghiêm trọng đối với xã hội. Việc sử dụng deepfake để phát tán thông tin sai lệch, xâm phạm quyền riêng tư, và thực hiện các hành vi lừa đảo đã gây ra nhiều hậu quả tiêu cực và làm tăng lo ngại về an ninh mạng và quyền riêng tư cá nhân.

Do đó, việc nâng cao nhận thức về các mối nguy hiểm từ deepfake là cực kỳ quan trọng. Các cơ quan chức năng, tổ chức và cá nhân cần hợp tác để phát triển và áp dụng các biện pháp bảo vệ hiệu quả nhằm đối phó với những mối đe dọa này. Đồng thời, việc tăng cường giáo dục và đào tạo về kỹ năng nhận diện nội dung giả mạo cũng là một yếu tố then chốt để bảo vệ cộng đồng khỏi những hậu quả tiêu cực của deepfake.

Trong thời đại kỹ thuật số hiện nay, mỗi người dùng Internet cần tự trang bị cho mình kiến thức và kỹ năng để phân biệt thông tin thật và giả, góp phần xây dựng một môi trường mạng an toàn và lành mạnh hơn.

Học viện Công nghệ Kid Leader Hub – Where Leader’s Dream Begin