Trang chủ Công nghệ Microsoft trình làng công cụ phát hiện deepfake

Microsoft trình làng công cụ phát hiện deepfake

12

Microsoft vừa ra mắt một công nghệ mới được thiết kế để giúp chống lại hành vi lừa đảo, sử dụng thông tin, hình ảnh và thậm chí là video giả mạo (theo kỹ thuật deepfake) để truyền bá thông tin sai lệch.

Công cụ có tên Microsofft Video Authenticator, được phát triển bởi đội ngũ Microsoft Research với sự phối hợp của ủy ban Microsoft AI, Ethics and Effects in Engineering and Research. Video Authenticator được tạo bằng cách sử dụng tập dữ liệu công khai từ Face Forensic ++ và đã được thử nghiệm trên DeepFake Detection Challenge Dataset – hai mô hình hàng đầu để đào tạo và thử nghiệm công nghệ phát hiện deepfake.

Phân tích video deepfake

Phương thức hoạt động của Microsoft Video Authenticator về cơ bản không có gì phức tạp, nó sử dụng thuật toán để phân tích ảnh tĩnh hoặc video ở cấp độ pixel mà mắt thường không thể nhìn thấy được, nhằm đưa ra tỷ lệ phần trăm cơ hội hoặc điểm số tin cậy, cho biết khả năng hình ảnh, video đó bị can thiệp deepfake là bao nhiêu. Đặc biệt đối với video, công cụ có thể cung cấp điểm số đánh giá theo thời gian thực trên mỗi khung hình nhằm đưa ra kết quả chuẩn xác nhất.

Deepfake (một từ ghép của “deep learning” và “fake”) là một kỹ thuật tổng hợp hình ảnh con người dựa trên trí tuệ nhân tạo (AI). Nó được sử dụng để kết hợp và chồng các hình ảnh, video khác lên các hình ảnh hoặc video nguồn bằng cách sử dụng một kỹ thuật học máy (machine learning) được gọi là Generative Adversarial Network (tạm dịch: mạng chống đối tạo sinh). Nói theo cách dễ hiểu hơn, deepfake là một chương trình sử dụng trí thông minh nhân tạo, cho phép người sử dụng hoán đổi khuôn mặt của ai đó trong video (và cả hình ảnh) bằng khuôn mặt của người khác.

Vì những khả năng này, deepfake thường bị kẻ xấu sử dụng để tạo tin tức giả và những trò lừa đảo nhằm bôi nhọ, gây ảnh hưởng đến uy tín của các cá nhân, tổ chức, đặc biệt là người nổi tiếng. Điều này không chỉ gây tổn hại đến danh dự, nhân phẩm của người bị giả mạo mà còn khiến dư luận trở nên xôn xao và xảy ra nhiều tranh cãi hoặc có thể là những mâu thuẫn tệ hơn thế nữa.

Video Authenticator được Microsoft triển khai đầu tiên dưới dạng tiện ích mở rộng cho các trình duyệt, nhưng chưa rõ thời gian có mặt cho người dùng. Hãng phần mềm Mỹ hiện hợp tác với một liên minh các công ty truyền thông có tên Project Origin, bao gồm BBC và New York Times, để thử nghiệm công nghệ mới.

Microsoft thừa nhận công cụ của họ chưa hoàn hảo và đang đi sau các công nghệ về deepfake. Tuy nhiên, hãng cho biết sẽ chạy đua để tạo thuật toán đủ mạnh để phát hiện nội dung này nhanh và chính xác hơn.