AI tăng cường tội phạm mạng khi lừa đảo qua mạng phát triển nhanh hơn, rẻ hơn và khó phát hiện hơn

Tội phạm mạng đang sử dụng trí tuệ nhân tạo để thực hiện các âm mưu tinh vi hơn. Họ nhắm mục tiêu vào mọi thứ từ tiền tiết kiệm hưu trí đến bí mật doanh nghiệp bằng các phương pháp ngày càng khó phát hiện.

Công nghệ tương tự được sử dụng để điều chỉnh quảng cáo cho người mua sắm trực tuyến hiện đang được những kẻ xấu sử dụng để thu thập thông tin cá nhân và thực hiện lừa đảo tùy chỉnh một cách nhanh chóng. Thực sự rất nhanh.

Các công ty AI lớn như Anthropic, OpenAI và Google báo cáo rằng tội phạm đang khai thác nền tảng của họ để điều phối các hoạt động giả mạo phức tạp, phát triển phần mềm độc hại và thực hiện các cuộc tấn công kỹ thuật số khác nhau. Các chuyên gia bảo mật cảnh báo rằng tội phạm cũng đang tạo ra các đoạn âm thanh và video giả mạo của các nhà lãnh đạo công ty để lừa nhân viên tiết lộ thông tin nhạy cảm.

Các doanh nghiệp và văn phòng chính phủ có thể sớm phải đối mặt với hàng loạt hệ thống hỗ trợ bởi AI có thể phát hiện điểm yếu trong mạng máy tính và sau đó lên kế hoạch và thực hiện các cuộc tấn công gần như không cần sự trợ giúp của con người.

Công nghệ đang thay đổi cách tội phạm hoạt động trực tuyến. Alice Marwick đứng đầu nghiên cứu tại Data & Society, một tổ chức nghiên cứu công nghệ độc lập. Bà nói với Wall Street Journal rằng sự thay đổi lớn nhất liên quan đến quy mô và phạm vi. "Sự thay đổi thực sự là phạm vi và quy mô. Các vụ lừa đảo lớn hơn, nhắm mục tiêu chính xác hơn, thuyết phục hơn."

Brian Singer là nghiên cứu sinh tiến sĩ tại Đại học Carnegie Mellon. Ông nghiên cứu cách các mô hình ngôn ngữ lớn được sử dụng trong các cuộc tấn công mạng và phòng thủ. Ước tính của ông? Một nửa đến ba phần tư tin nhắn spam và giả mạo trên toàn thế giới hiện đến từ các hệ thống AI.

Bản thân các cuộc tấn công đã trở nên đáng tin cậy hơn. Các hệ thống AI được đào tạo về giao tiếp doanh nghiệp có thể tạo ra hàng nghìn tin nhắn nghe tự nhiên và phù hợp với phong cách của công ty. Chúng sao chép cách các giám đốc điều hành viết. Chúng đề cập đến tin tức gần đây được tìm thấy trong hồ sơ công khai.

Công nghệ cũng giúp những kẻ lừa đảo ở nước ngoài che giấu các lỗi ngôn ngữ từng khiến nỗ lực của chúng trở nên rõ ràng. Tội phạm có thể mạo danh nạn nhân thông qua video giả và giọng nói sao chép. Chúng sử dụng cùng một danh tính giả để nhắm mục tiêu vào nhiều người cùng lúc.

John Hultquist là nhà phân tích trưởng tại Google Threat Intelligence Group. Ông mô tả sự thay đổi chính là "độ tin cậy theo quy mô."

Những kẻ xấu cũng đang trở nên giỏi hơn trong việc chọn mục tiêu. Họ sử dụng AI để xem xét mạng xã hội và tìm những người đang đối phó với những khó khăn lớn trong cuộc sống. Ly hôn, tử vong trong gia đình, mất việc làm và những tình huống có thể khiến ai đó dễ bị tổn thương hơn trước các trò gian lận tình cảm, lừa đảo đầu tư hoặc đề nghị việc làm giả.

Thị trường dark web hạ thấp rào cản gia nhập

Rào cản gia nhập tội phạm mạng đã giảm. Các thị trường ngầm hiện bán hoặc cho thuê các công cụ AI cho công việc tội phạm chỉ với 90 đô la mỗi tháng. Nicolas Christin lãnh đạo bộ phận phần mềm và hệ thống xã hội của Carnegie Mellon.

Ông nói rằng các nền tảng này đi kèm với các mức giá khác nhau và hỗ trợ khách hàng. "Các nhà phát triển bán đăng ký cho các nền tảng tấn công với giá phân tầng và hỗ trợ khách hàng."

Các dịch vụ này có tên như WormGPT, FraudGPT và DarkGPT. Chúng có thể tạo ra phần mềm độc hại và các chiến dịch giả mạo. Một số thậm chí còn bao gồm tài liệu giảng dạy về các kỹ thuật hack.

Margaret Cunningham là phó chủ tịch về bảo mật và chiến lược AI tại Darktrace, một công ty bảo mật. Bà nói rằng điều đó đơn giản. "Bạn không cần biết cách lập trình, chỉ cần biết nơi tìm công cụ."

Có một phát triển gần đây gọi là vibe-coding hoặc vibe-hacking. Nó có thể cho phép những tội phạm đầy tham vọng sử dụng AI để tạo ra các chương trình độc hại của riêng họ thay vì mua chúng từ các nguồn ngầm. Anthropic tiết lộ hồi đầu năm nay rằng công ty đã ngăn chặn một số nỗ lực sử dụng Claude AI của mình để tạo ransomware bởi "những tội phạm có ít kỹ năng kỹ thuật."

Bản thân các hoạt động tội phạm đang thay đổi. Tội phạm mạng đã hoạt động giống như một thị trường kinh doanh trong nhiều năm nay, theo các chuyên gia. Một hoạt động ransomware điển hình liên quan đến các nhóm khác nhau. Các môi giới truy cập đã xâm nhập vào mạng công ty và bán quyền truy cập. Các nhóm xâm nhập di chuyển qua các hệ thống để đánh cắp dữ liệu. Và các nhà cung cấp ransomware-as-a-service đã phát hành phần mềm độc hại, xử lý đàm phán và chia tiền.

Tốc độ và tự động hóa định hình lại mạng lưới tội phạm

AI đã tăng tốc độ, quy mô và khả năng tiếp cận của hệ thống này. Công việc trước đây được thực hiện bởi những người có kiến thức kỹ thuật giờ đây có thể chạy tự động. Điều này cho phép các nhóm này hoạt động với ít người hơn, ít rủi ro hơn và lợi nhuận cao hơn. "Hãy nghĩ về nó như lớp công nghiệp hóa tiếp theo. AI tăng thông lượng mà không cần thêm lao động có tay nghề," Christin giải thích.

AI có thể tự mình thực hiện các cuộc tấn công hoàn toàn không? Chưa hẳn. Các chuyên gia so sánh tình huống này với nỗ lực cho các phương tiện tự lái hoàn toàn. 95% đầu tiên đã đạt được. Nhưng phần cuối cùng cho phép một chiếc xe tự lái ở bất cứ đâu, bất cứ lúc nào vẫn chưa đạt được.

Các nhà nghiên cứu đang thử nghiệm khả năng hack của AI trong môi trường phòng thí nghiệm. Một nhóm tại Carnegie Mellon, được hỗ trợ bởi Anthropic, đã tái tạo vụ rò rỉ dữ liệu Equifax nổi tiếng bằng AI hồi đầu năm nay. Singer dẫn đầu công việc tại Viện An ninh và Bảo mật CyLab của Carnegie Mellon. Ông gọi đó là "một bước nhảy vọt lớn."

Tội phạm khai thác AI cho các mục đích có hại. Nhưng các công ty AI nói rằng các công cụ tương tự có thể giúp các tổ chức tăng cường phòng thủ kỹ thuật số của họ.

Anthropic và OpenAI đang xây dựng các hệ thống AI có thể liên tục kiểm tra mã phần mềm để xác định điểm yếu mà tội phạm có thể khai thác. Tuy nhiên, con người vẫn phải phê duyệt bất kỳ bản sửa lỗi nào. Một chương trình AI gần đây được phát triển bởi các nhà nghiên cứu Stanford đã hoạt động tốt hơn một số người kiểm tra con người khi tìm kiếm các vấn đề bảo mật trong mạng.

Ngay cả AI cũng sẽ không ngăn chặn được tất cả các vi phạm. Đó là lý do tại sao các tổ chức phải tập trung vào việc tạo ra các mạng cứng rắn tiếp tục hoạt động trong các cuộc tấn công, Hultquist nói.

Nếu bạn đang đọc bài này, bạn đã đi trước. Hãy ở đó với bản tin của chúng tôi.