YouTube mở ra công cụ phát hiện deepfake do trí tuệ nhân tạo tạo ra cho tất cả người dùng trên 18 tuổi, hiện cho phép bất kỳ người lớn nào theo dõi khả năng xuất hiện nội dung sai lệch trên khuôn mặt của họ.
Quét khuôn mặt để phát hiện deepfake
Cho đến nay, công cụ này chủ yếu được dành riêng cho những hồ sơ có mức độ lộ diện cao, với những người sáng tạo nội dung. tháng 10 năm ngoái rồi quan chức, nhà báo hay ngành giải trí vào tháng ba và những người nổi tiếng vào tháng Tư. Do đó, việc mở rộng nó tới công chúng đánh dấu một sự thay đổi thực sự: khả năng bảo vệ chống lại các tác phẩm sâu không còn được thiết kế chỉ dành cho những nhân vật nổi tiếng.
Hệ thống này dựa trên tính năng quét khuôn mặt theo phong cách selfie. Sử dụng dấu vân tay này, YouTube tìm kiếm nội dung tương tự và sau đó thông báo cho người dùng khi phát hiện thấy kết quả trùng khớp. Chủ thể dữ liệu sau đó có thể yêu cầu xóa video. Tuy nhiên, YouTube chỉ rõ rằng việc rút tiền này không tự động: chúng được kiểm tra theo từng trường hợp cụ thể trong khuôn khổ chính sách quyền riêng tư của nền tảng.
Một số tiêu chí được áp dụng khi đánh giá một ứng dụng. YouTube đặc biệt xem xét liệu nội dung đó có thực tế hay không, liệu nội dung đó có được trình bày dưới dạng do AI tạo ra hay không và liệu người liên quan có thể được nhận dạng duy nhất hay không.
Cũng có những trường hợp ngoại lệ. Nội dung liên quan đến hành vi nhại lại hoặc châm biếm có thể không bị xóa và công cụ này chỉ bao gồm những nét giống nhau trên khuôn mặt chứ không bao gồm các yếu tố nhận dạng khác như giọng nói.
YouTube cũng để lại một lối thoát
Nền tảng này không yêu cầu sự giám sát suốt đời này. Người dùng có thể rút khỏi chương trình và yêu cầu xóa dữ liệu của họ, điều này ít nhất hạn chế một phần tính logic của việc giám sát vĩnh viễn mà một thiết bị như vậy đảm nhận.
YouTube cũng tuyên bố rằng tiện ích mở rộng này đặt tất cả người sáng tạo trên cơ sở bình đẳng, cho dù họ đã sử dụng nền tảng này được 10 năm hay chỉ mới bắt đầu.
Ngoài ra, deepfake thường ảnh hưởng đến những người nổi tiếng hoặc các nhà lãnh đạo chính trị, nhưng các cá nhân cũng tiếp xúc với các bản sao kỹ thuật số ngày càng đáng tin cậy.
Rủi ro càng ít mang tính lý thuyết hơn vì thanh thiếu niên đã trở thành mục tiêu của các trò lừa đảo sâu do các học sinh khác thực hiện. Trong một trường hợp khác, ba cô gái tuổi teen cũng kiện xAI, cáo buộc Grok đã tạo ra nội dung khiêu dâm trẻ em mô tả họ, bằng chứng cho thấy mối đe dọa vượt xa sự bối rối đơn giản trên mạng.
