France Travail đang thử nghiệm một công cụ trí tuệ nhân tạo có thể tự động hóa việc lựa chọn các tệp cần kiểm tra, một tính năng mới vừa gây lo lắng vừa gây tò mò. Trong số 7.000 người tìm việc đã chấm dứt hợp đồng một cách thân thiện, tỷ lệ kiểm soát tăng lên 50,4% khi có thuật toán can thiệp, so với 33,2% khi không có thuật toán can thiệp.
Hệ thống lập hồ sơ với AI tại France Travail
TRONG một tài liệu của Pháp Travail được chuyển tiếp bởi La Quadrature du Net, hợp tác với Đài phát thanh Phápchúng tôi biết rằng AI dựa trên cây quyết định chứ không dựa trên mô hình tổng hợp như ChatGPT. Công cụ này phân tích 26 biến cho mỗi tệp: sự hiện diện và thâm niên của CV, việc hoãn hoặc hủy cuộc hẹn, từ chối lời mời làm việc, tuyên bố hoạt động tự kinh doanh. Thuật toán được đào tạo trên 60.000 tệp kiểm tra trước đây, cho phép nó xác định 79% trường hợp dẫn đến kiểm tra chuyên sâu và 64% trong số đó dẫn đến xử phạt hoặc phục hồi khóa học.
Hệ thống này lần đầu tiên được thử nghiệm trên các thiết bị chấm dứt hợp đồng thông thường, 7.000 người tìm việc đã được chọn để hiệu chỉnh công cụ trước khi triển khai rộng rãi hơn. France Travail hiện có kế hoạch mở rộng thử nghiệm tới các đối tượng khác, đặc biệt là những người thụ hưởng RSA, những người được yêu cầu đăng ký trong danh sách kể từ ngày 1 tháng 1 năm 2025. Cùng với nhau, những người tìm việc và những người nhận RSA đại diện cho một nhóm tiềm năng gồm 6 triệu người.
Sự mất lòng tin dai dẳng trong việc sử dụng
Thuật toán ban đầu ưu tiên những hồ sơ có thu nhập thấp nhất, một thành kiến mà France Travail quy cho một biến có tính phân biệt đối xử quá mức: mức lương hàng ngày tham chiếu, kể từ khi bị xóa khỏi mô hình. Thành kiến thứ hai liên quan đến trình độ đào tạo cũng đã được giảm bớt mà không biến mất hoàn toàn. France Travail bảo vệ dữ liệu của mình như “khách quan và có thể định lượng được” và khẳng định rằng công cụ này không bao giờ thay thế việc phân tích tệp của con người.
Bình phương mạng đạt tiêu chuẩn công cụ“mờ ám và nguy hiểm”. Hiệp hội lo ngại sự gia tăng đàn áp đối với những nhóm dân cư dễ bị tổn thương nhất, một cơ chế mà họ cho biết đã quan sát thấy trong các hệ thống tương tự được triển khai tại Quỹ Trợ cấp Gia đình Quốc gia (CNAF) và Bảo hiểm Y tế. Nỗi sợ hãi chính của cô vượt xa công cụ hiện tại: cô tưởng tượng ra một sự tiến hóa hướng tới một AI có khả năng tạo ra, về lâu dài, có khả năng đề xuất sau đó trực tiếp áp đặt quyết định xử phạt mà không cần sự xác nhận thực sự của con người.
Số lượng séc đã tăng từ 200.000 vào năm 2017 lên 730.000 vào năm 2025, tăng 3,6 lần trong 8 năm. Vào năm 2024, Gabriel Attal, khi đó là Thủ tướng, đã đặt ra một mục tiêu thậm chí còn tham vọng hơn: 1,5 triệu lượt kiểm tra vào năm 2027. Quỹ đạo này phần nào giải thích sự quan tâm của France Travail đối với một công cụ AI có khả năng tự động hóa việc sắp xếp tệp, trong bối cảnh lực lượng lao động con người không tuân theo đường cong giống như các mục tiêu được định lượng.
