Meta hôm nay đã công bố các biện pháp bảo vệ mới trên Instagram, Facebook và Messenger nhằm hạn chế thanh thiếu niên tiếp xúc nhiều lần với nội dung được coi là nhạy cảm. Thông báo này được đưa ra vài tháng sau hai quyết định bất lợi của tòa án, đặt sự an toàn của người dùng trẻ làm trung tâm áp lực đối với công ty.
Gã khổng lồ truyền thông xã hội hiện muốn giảm tần suất xuất hiện các bài đăng về dinh dưỡng, thể hình và sự lo lắng trên bảng tin của thanh thiếu niên. Meta giải thích rằng những chủ đề này có thể hữu ích nhưng chúng không nên chiếm quá nhiều không gian cùng một lúc trong trải nghiệm của người khai thác. Logic này kéo dài vào thời điểm công ty tìm cách chứng tỏ rằng họ hành động dựa trên sự lặp lại của nội dung chứ không chỉ dựa trên sự hiện diện riêng biệt của họ.
Vào tháng 3, bồi thẩm đoàn Los Angeles phán xét Meta và YouTube chịu trách nhiệm làm hại một phụ nữ trẻ thông qua các tính năng như bộ lọc làm đẹp và cuộn vô hạn. Cùng tháng đó, bồi thẩm đoàn New Mexico bị lên án Meta phải trả 375 triệu USD vì vi phạm luật bảo vệ người tiêu dùng địa phương trong vụ án bao gồm cáo buộc cho phép bóc lột tình dục.
Meta cũng đang mở rộng cho Facebook và Messenger một hệ thống xếp hạng nội dung được ra mắt vào tháng 10 trên Instagram và lấy cảm hứng từ tiêu chí phân loại phim. Công ty áp dụng logic tương tự để trao đổi giữa thanh thiếu niên và chatbot Meta AI. Do đó, các cuộc trò chuyện với trợ lý trí tuệ nhân tạo phải tuân theo các hạn chế về nội dung giống như các hạn chế đã được sử dụng để phân loại một số ấn phẩm nhất định.
Việc thắt chặt này cũng mở rộng một loạt các biện pháp đã được thực hiện xung quanh các tác nhân đàm thoại. Vào tháng 10, Meta đã trình bày các quy tắc bảo mật đầu tiên xung quanh chatbot trí tuệ nhân tạo. Vào tháng 1, công ty sau đó đã chặn thanh thiếu niên viết thư cho các nhân vật AI của Instagram, các chatbot được thiết kế xoay quanh những tính cách riêng biệt.
Tài khoản tuổi teen bước vào giai đoạn mới
Các biện pháp mới này là một phần của chương trình “Tài khoản thanh thiếu niên” được triển khai vào năm 2024. Hệ thống này mặc định đặt tài khoản của thanh thiếu niên ở chế độ riêng tư và tăng cường quyền kiểm soát của phụ huynh đối với hoạt động của con họ. Do đó, Meta không bắt đầu lại từ đầu mà thêm một lớp bổ sung tập trung vào cách các chủ đề nhất định kết hợp với nhau trong các đề xuất.
Ngoài ra, Meta cho biết họ đã làm việc với Alice, một tổ chức chuyên về sự tin cậy và an toàn, để đo lường tính hiệu quả của các chính sách của mình. Nhóm cũng chỉ ra rằng họ đã có hàng triệu nội dung được phụ huynh đánh giá để điều chỉnh hệ thống kiểm duyệt của mình.
Vòng biện pháp mới này được đưa ra khi Meta vẫn nhắm đến các vấn đề an toàn trẻ em trong hơn mười năm. Công ty phải đối mặt với hàng nghìn vụ kiện từ phụ huynh, tổng chưởng lý tiểu bang và trường học. Với những thay đổi này, Meta đang cố gắng chứng tỏ rằng họ vẫn có thể giành lại quyền kiểm soát việc bảo vệ thanh thiếu niên, trong khi cuộc tranh luận về trách nhiệm của các nền tảng của họ rõ ràng đã gay gắt hơn.
