Công nghệ Deepfake: Hữu ích hay nguy hiểm?

Phan Văn Hòa 22/05/2023 09:46

(Baonghean.vn) - Công nghệ Deepfake đang được sự quan tâm của nhiều người trong thời gian gần đây, khi đã xuất hiện tình trạng kẻ xấu lợi dụng công nghệ này để thực hiện các cuộc gọi video lừa tiền thông qua các ứng dụng trên nền tảng mạng xã hội như Zalo, Messenger...

Chúng ta đang sống trong một thế giới của những tiến bộ công nghệ. Có rất nhiều công nghệ mới đang được phát triển và ứng dụng trong cuộc sống hàng ngày, trong đó có công nghệ Deepfake.

Khi công nghệ ngày càng tinh vi, các chuyên gia lo ngại chúng có thể gây ra mối đe dọa nghiêm trọng. Tuy nhiên, bất cứ công nghệ nào cũng có hai mặt, nếu chúng ta bỏ qua mặt tối thì Deepfake là một trong những công nghệ cực kỳ hữu dụng và có tiềm năng phát triển theo chiều hướng tích cực trong tương lai.

Công nghệ Deepfake là gì?

Deepfake là thuật ngữ được tạo nên với sự kết hợp của “Deep Learning” (học sâu) và “Fake” (giả mạo), là công nghệ mô phỏng hình ảnh khuôn mặt con người và tạo ra các sản phẩm âm thanh, hình ảnh hoặc thậm chí là cả video giả. Người tạo Deepfake có thể thao túng phương tiện truyền thông và thay thế nó bằng ngoại hình của một người thật.

Về bản chất, công nghệ Deepfake được xây dựng trên nền tảng công nghệ học máy mã nguồn mở của hãng công nghệ Google. Deepfake sẽ quét video và ảnh chân dung của một người, sau đó hợp nhất với video riêng biệt nhờ AI và thay thế các chi tiết trên gương mặt như mắt, miệng, mũi với chuyển động gương mặt, giọng nói như thật. Càng có nhiều hình ảnh gốc thì AI càng có nhiều dữ liệu để học và tạo ra các hình ảnh hoặc video giả chân thực hơn. Deepfake có thể gán khuôn mặt của người này sang người khác trong video với độ chân thực đến kinh ngạc.

Ảnh minh họa

Deepfake hoạt động như thế nào?

Deepfake sử dụng hai thuật toán gồm trình tạo dữ liệu (Generator) để tạo ra các dữ liệu giống như thật và trình phân biệt dữ liệu (Discriminator) để cố gắng phân biệt đâu là dữ liệu được sinh ra từ trình tạo dữ liệu và đâu là dữ liệu thật. Trình tạo dữ liệu xây dựng tập dữ liệu huấn luyện dựa trên đầu ra mong muốn, tạo nội dung kỹ thuật số giả mạo ban đầu, trong khi trình phân biệt dữ liệu phân tích mức độ thực hoặc giả của phiên bản ban đầu của nội dung.

Quá trình này được lặp lại, cho phép trình tạo dữ liệu cải thiện việc tạo nội dung thực tế và trình phân biệt dữ liệu trở nên thành thạo hơn trong việc phát hiện ra các sai sót để chỉnh sửa.

Sự kết hợp giữa các thuật toán tạo dữ liệu và phân biệt dữ liệu tạo ra một mạng đối nghịch chung, hay còn gọi là mạng GAN (Generative Adversarial Network). GAN sử dụng phương pháp học sâu để nhận dạng các mẫu trong hình ảnh thực và sau đó sử dụng các mẫu đó để tạo ra hình ảnh giả.

Khi tạo một bức ảnh deepfake, hệ thống GAN sẽ xem các bức ảnh của mục tiêu từ một loạt các góc độ để nắm bắt tất cả các chi tiết và phối cảnh. Khi tạo video Deepfake, GAN xem video từ nhiều góc độ khác nhau, đồng thời phân tích hành vi, chuyển động và mẫu giọng nói. Thông tin này sau đó được chạy qua bộ phân biệt dữ liệu nhiều lần để tinh chỉnh độ chân thực của hình ảnh hoặc video nhằm tạo ra phiên bản giả giống y như thật.

Deepfake có những hữu ích gì?

Công nghệ Deepfake cho phép người sáng tạo tạo ra nội dung chân thực cho người xem theo cách sáng tạo hơn. Công nghệ này không chỉ cho phép người sáng tạo thử nghiệm tạo ra những bộ phim chân thực mà còn có thể được sử dụng để nâng cao hơn nữa chất lượng của trò chơi điện tử và nội dung đa phương tiện khác.

Công nghệ tiên tiến đằng sau Deepfake đem tới nhiều hứa hẹn trong nhiều lĩnh vực, đặc biệt là trong các ngành sáng tạo như làm phim và quảng cáo. Các chiến dịch quảng cáo hoặc làm phim có thể sử dụng Deepfake để lồng tiếng, thực hiện cảnh khó quay, giúp tiết kiệm thời gian và ngân sách sản xuất. Deepfake cũng được xem là một trò giải trí đơn thuần trên Internet khi giúp người dùng dễ dàng hoán đổi khuôn mặt mình với các nhân vật nổi tiếng. Công nghệ này cũng được phát triển dành cho những người mua sắm trực tuyến thử quần áo trong những phòng thử đồ ảo.

Các chuyên gia công nghệ cho rằng, khi được sử dụng với mục đích tích cực, Deepfake sẽ là một công cụ tiếp thị mạnh mẽ, với chức năng cắt ghép ảnh một cách tự động và chính xác, công nghệ này thực sự sẽ đem lại nhiều ích lợi cho ngành công nghiệp tiếp thị như:

Tiết kiệm chi phí

Trong một số trường hợp việc sử dụng diễn viên do con người đóng là không cần thiết. Lúc này Deepfake có thể là một giải pháp mới khi nhà sản xuất chỉ cần mua giấy phép sử dụng hình ảnh diễn viên, tạo hoặc sử dụng lại một video quảng cáo, sau đó chèn hình ảnh và lời thoại thích hợp để tạo ra một sản phẩm quảng cáo mới hoàn toàn. Thậm chí, nhà sản xuất có thể tiết kiệm được nhiều chi phí hơn nếu sử dụng chính nhân sự nội bộ để làm video. Nói tóm lại, Deepfake sẽ cực kì hữu ích cho các nhà tiếp thị có ngân sách eo hẹp nhưng vẫn muốn sản xuất nội dung chất lượng cao cho các chiến dịch.

Dễ dàng tiếp thị đa kênh

Vì không sử dụng diễn viên thật, thương hiệu có thể dễ dàng điều chỉnh/sản xuất video để phù hợp với tính chất từng kênh tiếp thị. Ví dụ, vẫn là gương mặt đó nhưng thương hiệu có thể dùng Deepfake để hợp nhất nó trong nhiều nền tảng khác nhau như video đăng trên Youtube, TikTok, hay Reels trên Instagram…. Chưa kể, quy trình này không hề đắt đỏ và mất nhiều thời gian bằng việc thuê diễn viên để quay lại một lần nữa.

“Siêu” cá nhân hóa nội dung

Deepfake sẽ mở ra một kỷ nguyên mới cho các nội dung/chiến dịch cá nhân hóa. Với công nghệ này, thương hiệu có thể dễ dàng điều chỉnh video/hình ảnh sao cho phù hợp với trải nghiệm, sở thích và đặc điểm của khách hàng mục tiêu - chẳng hạn như màu da của họ. Nếu nhà sản xuất hướng tới các nhóm đối tượng khác hàng khác nhau như nhóm người yếu thế, hoặc nhóm người dân tộc khác không giống với đại sứ/người mẫu của thương hiệu, vậy thì Deepfake sẽ giúp họ giải quyết được hạn chế này. Thậm chí, cũng sẽ không quá khó thực hiện với Deepfake nếu thương hiệu cần một video sử dụng một loại ngôn ngữ hoàn toàn khác.

Có thể nói, công nghệ Deepfake có thể mang lại sự thay đổi to lớn trong cách quay và trình chiếu các bộ phim và chương trình cho người xem.

Những nguy hiểm khi sử dụng Deepfake là gì?

Bất chấp những công dụng tích cực của Deepfake, công nghệ này phổ biến hơn đối với tội phạm mạng và cũng có thể được sử dụng cho mục đích xấu. Deepfake cho phép tội phạm mạng dễ dàng tạo nội dung lừa đảo và lan truyền thông tin sai lệch có thể ảnh hưởng nghiêm trọng đến tâm trí người xem.

Trong thực tế, người dùng không dễ dàng phát hiện ra một hình ảnh hoặc video Deepfake, vì vậy hầu hết người xem trực tuyến có thể trở thành nạn nhân của thông tin sai lệch được lan truyền bằng công nghệ Deepfake.

Nếu chúng ta xem xét một số cách mà Deepfake có thể được sử dụng vì những lý do xấu, thì nó có thể bao gồm việc thay đổi các cảnh quay lịch sử và tạo ra các câu chuyện tin tức giả mạo. Không chỉ vậy, công nghệ này có thể được sử dụng để vu khống các tổ chức kinh doanh hoặc thậm chí gây ảnh hưởng đến dư luận về một số vấn đề nhất định.

Deepfake có thể được sử dụng cho nhiều loại tội phạm khác nhau, chẳng hạn như làm mất uy tín của một cá nhân nào đó. Sẽ ra sao khi các phần mềm Deepfake lan tràn trên mạng, một ai đó có thể tạo video khiêu dâm về bạn rồi đăng lên Facebook? Dù chỉ là một hành động trêu đùa với mục đích trêu chọc, tuy nhiên, khi đã xuất hiện trên mạng, không có cách gì để kiểm soát sự phát tán đoạn video này và những hệ lụy sau đó.

Trong nhiều trường hợp, mục đích sử dụng Deepfake không còn là trò đùa nữa, mà nhằm làm mất uy tín, sỉ nhục, quấy rối hoặc chơi xấu và dùng vào mục đích tống tiền người khác.

Nội dung khiêu dâm chỉ là một trong số rất nhiều vấn đề mà Deepfake đặt ra. Ban đầu xuất hiện chủ yếu trong những video khiêu dâm, Deepfake bắt đầu lan sang lĩnh vực chính trị với nguy cơ tạo ra tác động lớn ngoài đời thực.

Ngày 17/4/2018, trên mạng xuất hiện đoạn video cho thấy một người giống với cựu Tổng thống Mỹ Barack Obama sử dụng những lời lẽ không hay để chỉ trích đương kim Tổng thống Donald Trump. Mặc dù công chúng sau đó phát hiện video này không phải sự thật, nhưng đoạn phim trên đã được lan truyền rất nhanh chóng và gây ra những hậu quả đáng tiếc.

Các chuyên gia lo ngại công nghệ Deepfake có thể tác động đến tình hình kinh doanh của công ty, phá hủy danh tiếng một người có ảnh hưởng đến công chúng, gây bất ổn chính trị, nhất là trong quá trình bầu cử. Sẽ thật tồi tệ nếu trên mạng bỗng dưng xuất hiện một video Deepfake mô tả ứng cử viên tổng thống đang quấy rối trẻ em, hoặc một cảnh sát trưởng đang xúi giục nhân viên thực hiện hành vi bạo lực với người dân tộc thiểu số, hay những người lính có hành động tàn ác trong chiến tranh…

Những nhân vật có tiếng tăm như chính trị gia, nhà lãnh đạo doanh nghiệp rất dễ có nguy cơ bị tấn công bằng video giả mạo. Ngay cả những người phụ nữ bình thường cũng có thể bị người xấu dùng công nghệ này tạo ra những video khiêu dâm, khỏa thân giả mạo, gây ảnh hưởng xấu đến danh dự và phẩm giá của họ. Một khi video đã bị lan truyền trên Internet thì gần như không thể ngăn chặn nổi. Hơn nữa, rất khó để phân biệt tính thật giả của những nội dung này.

Rõ ràng, Deepfake đã trở thành vấn nạn trên thế giới, khiến nhiều người bị lâm vào tình cảnh khó khăn sau khi bị phát tán những những đoạn video giả mạo trên không gian mạng.

Tóm lại, bên cạnh các lợi ích mà công nghệ Deepfake có thể mang lại trong nhiều lĩnh vực như truyền thông, giải trí, trò chơi… thì công nghệ này cũng có thể được sử dụng để lừa đảo trên Internet và truyền bá thông tin sai lệch. Vì vậy, các cơ quản lý cần có các biện pháp thích hợp để ngăn chặn việc lạm dụng công nghệ Deepfake./.


Tham khảo

1.https://www.tech21century.com/deepfake-artificial-intelligence/

2.https://www.techtarget.com/whatis/definition/deepfake

Phan Văn Hòa