YouTube triển khai công nghệ phát hiện deepfake AI cho quan chức, nhà báo, tăng cường tính toàn vẹn thông tin

YouTube vừa công bố mở rộng công nghệ phát hiện nội dung deepfake được tạo bởi AI đến một nhóm thử nghiệm bao gồm các quan chức chính phủ, ứng cử viên chính trị và nhà báo. Chương trình thí điểm này cho phép những người tham gia truy cập công cụ phát hiện nội dung AI giả mạo trái phép và yêu cầu gỡ bỏ nếu họ tin rằng nó vi phạm chính sách của YouTube.

Công nghệ này đã được triển khai từ năm ngoái cho khoảng 4 triệu nhà sáng tạo thuộc Chương trình Đối tác YouTube sau các thử nghiệm ban đầu. Tương tự như hệ thống Content ID hiện có của YouTube dùng để phát hiện tài liệu có bản quyền, tính năng phát hiện chân dung này tìm kiếm các khuôn mặt được mô phỏng bằng công cụ AI. Các công cụ này thường bị lạm dụng để lan truyền thông tin sai lệch và thao túng nhận thức của công chúng, bằng cách sử dụng hình ảnh giả mạo của những nhân vật nổi bật như chính trị gia để tạo ra các hành động hoặc lời nói mà họ không thực hiện trong đời thực.

Với chương trình thí điểm mới, YouTube đặt mục tiêu cân bằng giữa quyền tự do ngôn luận của người dùng và những rủi ro liên quan đến công nghệ AI có thể tạo ra hình ảnh giống như thật của một nhân vật công chúng. Bà Leslie Miller, Phó Chủ tịch phụ trách các vấn đề chính phủ và chính sách công của YouTube, chia sẻ trong một buổi họp báo rằng: “Việc mở rộng này thực sự hướng đến sự toàn vẹn của cuộc đối thoại công khai. Chúng tôi biết rằng rủi ro giả mạo bằng AI đặc biệt cao đối với những người trong không gian dân sự.”

Bà Miller cũng giải thích rằng không phải tất cả các yêu cầu gỡ bỏ đều sẽ được chấp thuận. Thay vào đó, YouTube sẽ đánh giá từng yêu cầu dựa trên các nguyên tắc chính sách quyền riêng tư hiện có để xác định xem nội dung đó có phải là nhại lại (parody) hoặc phê bình chính trị hay không, vốn là các hình thức tự do ngôn luận được bảo vệ. Công ty cũng đang ủng hộ Đạo luật NO FAKES tại Washington D.C., một dự luật liên bang nhằm điều chỉnh việc sử dụng AI để tạo ra các bản sao giọng nói và hình ảnh trái phép của một cá nhân.

Để sử dụng công cụ mới, những người thử nghiệm đủ điều kiện phải xác minh danh tính bằng cách tải lên ảnh tự chụp và giấy tờ tùy thân do chính phủ cấp. Sau đó, họ có thể tạo hồ sơ, xem các nội dung trùng khớp được phát hiện và tùy chọn yêu cầu gỡ bỏ. YouTube cho biết họ có kế hoạch cuối cùng sẽ cung cấp cho người dùng khả năng ngăn chặn việc tải lên nội dung vi phạm trước khi chúng công khai, hoặc thậm chí cho phép họ kiếm tiền từ những video đó, tương tự cách hệ thống Content ID hoạt động.

Các video được tạo bằng AI sẽ được gắn nhãn tương ứng, tuy nhiên vị trí của các nhãn này không nhất quán. Đối với một số video, nhãn xuất hiện trong phần mô tả, trong khi các video tập trung vào "chủ đề nhạy cảm" hơn sẽ có nhãn hiển thị ở đầu video. Đây là cách tiếp cận mà YouTube áp dụng cho tất cả nội dung được tạo bằng AI. Ông Amjad Hanif, Phó Chủ tịch Sản phẩm dành cho Nhà sáng tạo của YouTube, giải thích rằng sự khác biệt này phụ thuộc vào việc nội dung đó có thực sự cần một tuyên bố miễn trừ trách nhiệm rõ ràng hay không, ví dụ như một bộ phim hoạt hình được tạo bằng AI có thể không cần nhãn hiển thị nổi bật như một deepfake.

YouTube hiện chưa chia sẻ số lượng deepfake AI đã được gỡ bỏ thông qua công nghệ phát hiện này trong tay các nhà sáng tạo, nhưng lưu ý rằng số lượng nội dung bị gỡ bỏ cho đến nay là "rất nhỏ". Ông Hanif cho biết, đối với nhiều nhà sáng tạo, việc này chủ yếu là để nhận thức về những gì đang được tạo ra, nhưng số lượng yêu cầu gỡ bỏ thực tế rất thấp vì hầu hết chúng đều khá lành tính hoặc có lợi cho hoạt động kinh doanh của họ. Tuy nhiên, điều này có thể sẽ khác khi áp dụng cho deepfake của các quan chức chính phủ, chính trị gia hoặc nhà báo. Trong tương lai, YouTube dự định mở rộng công nghệ phát hiện deepfake sang nhiều lĩnh vực hơn, bao gồm cả giọng nói dễ nhận biết và các tài sản trí tuệ khác như các nhân vật nổi tiếng.

Theo Max