Google ước lượng đã chặn được một bước ngoặt lớn trong tội phạm mạng. Theo các nhà nghiên cứu từ Threat Intelligence Group, một nhóm tin tặc đã sử dụng trí tuệ nhân tạo để khám phá và sau đó khai thác lỗ hổng bảo mật zero-day trong một công cụ được sử dụng rộng rãi để quản lý hệ thống máy tính.
Công ty cho biết họ có mức độ tin tưởng cao vào vai trò của AI. Cô cho biết công nghệ này được sử dụng để vừa xác định lỗ hổng vừa biến nó thành một công cụ khai thác sẵn sàng cho một chiến dịch rộng lớn hơn.
Tuy nhiên, Google đang giữ im lặng một số yếu tố chính. Nhóm tội phạm, phần mềm được nhắm mục tiêu và mô hình ngôn ngữ được sử dụng vẫn chưa được nêu tên, mặc dù các nhà nghiên cứu chỉ rõ rằng họ không tin rằng việc khai thác được thực hiện bằng Thần thoại nhân loại cũng như với Song Tử.
Lỗ hổng cho phép bỏ qua xác thực kép
Lỗ hổng này có thể được sử dụng để vượt qua xác thực đa yếu tố, thường được thêm vào mật khẩu để ngăn chặn sự xâm nhập vào các hệ thống nhạy cảm.
Trong trường hợp này, mục tiêu là giành quyền truy cập vào mạng nội bộ của các công ty bằng công cụ quản trị này. Tuy nhiên, loại phần mềm này thường được sử dụng để quản lý từ xa máy chủ, trang web, ứng dụng, cài đặt bảo mật, tài khoản nhân viên và quyền truy cập của họ.
Nói cách khác, tác động tiềm ẩn vượt xa một tài khoản bị xâm phạm đơn giản. Sự vi phạm như vậy có thể đã mở ra cánh cửa dẫn đến các môi trường quan trọng trong các công ty, cơ quan quản lý và các cơ cấu dễ bị lộ khác.
Google cho biết họ đã cảnh báo nhà xuất bản phần mềm trước bất kỳ hành vi khai thác thực sự nào đối với người dùng. Sự cố đã được khắc phục kịp thời, giúp cuộc tấn công đã chuẩn bị sẵn không thể triển khai trên quy mô lớn.
Google coi đây là bằng chứng cho thấy AI tấn công đã có mặt ở đây
Theo Google, nhóm tội phạm đang lên kế hoạch cho một sự kiện khai thác hàng loạt. Công ty tin rằng việc chủ động phát hiện có thể đủ để ngăn chặn hoạt động trước khi ra mắt.
Vụ việc này mang lại sự giảm nhẹ cụ thể cho rủi ro mà ngành này đã nói đến trong nhiều tháng. Google hiện coi việc tin tặc sử dụng AI để tấn công không còn là giả thuyết trong phòng thí nghiệm mà là mối đe dọa đã có thể quan sát được trên thực tế.
Bối cảnh củng cố thêm quan điểm này. Vào tháng 4, Anthropic giải thích rằng họ không muốn phổ biến rộng rãi mô hình Mythos của mình vì những rủi ro liên quan đến khả năng phát hiện và khai thác các lỗi phần mềm, và kể từ đó, chính quyền Mỹ đã bắt đầu giải quyết trực tiếp hơn vấn đề sử dụng độc hại các mô hình ngôn ngữ lớn.
Vấn đề không còn chỉ là liệu một ngày nào đó AI có thể giúp đỡ tin tặc hay không mà nó có thể được sử dụng để tăng tốc việc phát hiện các lỗ hổng nghiêm trọng và chuẩn bị các cuộc tấn công chống lại các mục tiêu thực sự.
