Các nhà nghiên cứu phát hiện bộ định tuyến AI Agent độc hại có thể đánh cắp tiền mã hoá

Các nhà nghiên cứu Đại học California đã phát hiện ra rằng một số bộ định tuyến mô hình ngôn ngữ lớn (LLM) AI của bên thứ ba có thể gây ra các lỗ hổng bảo mật dẫn đến trộm cắp tiền mã hóa. 

Một bài báo đo lường các cuộc tấn công trung gian độc hại vào chuỗi cung ứng LLM, được công bố vào thứ Năm bởi các nhà nghiên cứu, đã tiết lộ bốn vectơ tấn công, bao gồm chèn mã độc hại và trích xuất thông tin xác thực. 

"26 bộ định tuyến LLM đang bí mật chèn các lệnh gọi công cụ độc hại và đánh cắp thông tin xác thực," đồng tác giả của bài báo, Chaofan Shou, cho biết trên X.

Các AI Agent LLM ngày càng định tuyến yêu cầu thông qua các trung gian API hoặc bộ định tuyến của bên thứ ba tổng hợp quyền truy cập vào các nhà cung cấp như OpenAI, Anthropic và Google. Tuy nhiên, các bộ định tuyến này chấm dứt kết nối Internet TLS (Transport Layer Security) và có quyền truy cập văn bản thuần túy đầy đủ vào mọi thông điệp. 

Điều này có nghĩa là các nhà phát triển sử dụng AI Agent viết mã như Claude Code để làm việc trên Hợp đồng thông minh hoặc ví có thể đang chuyển các khóa riêng tư, cụm từ khởi tạo và dữ liệu nhạy cảm thông qua cơ sở hạ tầng bộ định tuyến chưa được kiểm tra hoặc bảo mật.

ETH bị đánh cắp từ ví tiền mã hóa mồi nhử 

Các nhà nghiên cứu đã kiểm tra 28 bộ định tuyến trả phí và 400 bộ định tuyến miễn phí được thu thập từ các cộng đồng công khai. 

Phát hiện của họ thật đáng kinh ngạc, với chín bộ định tuyến đang tích cực chèn mã độc hại, hai triển khai trình kích hoạt lẩn tránh thích ứng, 17 truy cập thông tin xác thực Amazon Web Services thuộc sở hữu của nhà nghiên cứu và một rút Ether (ETH) từ khóa riêng tư thuộc sở hữu của nhà nghiên cứu.

Liên quan: Anthropic hạn chế quyền truy cập vào mô hình AI do lo ngại về tấn công mạng

Các nhà nghiên cứu đã nạp tiền trước cho "khóa mồi nhử" ví Ethereum với số dư danh nghĩa và báo cáo rằng giá trị bị mất trong thí nghiệm dưới 50 đô la, nhưng không có thêm thông tin chi tiết nào như mã băm giao dịch được cung cấp. 

Các tác giả cũng đã chạy hai "nghiên cứu đầu độc" cho thấy ngay cả các bộ định tuyến lành tính cũng trở nên nguy hiểm khi chúng tái sử dụng thông tin xác thực bị rò rỉ thông qua các rơ-le yếu.

Khó biết liệu bộ định tuyến có độc hại hay không

Các nhà nghiên cứu cho biết không dễ để phát hiện khi nào một bộ định tuyến là độc hại.  

Một phát hiện đáng lo ngại khác là những gì các nhà nghiên cứu gọi là "chế độ YOLO". Đây là cài đặt trong nhiều framework AI Agent nơi AI Agent thực thi lệnh tự động mà không yêu cầu người dùng xác nhận từng lệnh.

Các bộ định tuyến hợp pháp trước đây có thể bị vũ khí hóa âm thầm mà người vận hành thậm chí không biết, trong khi các bộ định tuyến miễn phí có thể đang đánh cắp thông tin xác thực trong khi cung cấp quyền truy cập API rẻ như mồi nhử, các nhà nghiên cứu nhận thấy.

Các nhà nghiên cứu khuyến nghị rằng các nhà phát triển sử dụng AI Agent để viết mã nên tăng cường phòng thủ phía máy khách, gợi ý không bao giờ để khóa riêng tư hoặc cụm từ khởi tạo truyền qua phiên AI Agent.

Giải pháp lâu dài là các công ty AI ký điện tử phản hồi của họ để các hướng dẫn mà AI Agent thực thi có thể được xác minh bằng toán học là đến từ mô hình thực tế. 

Tạp chí: Không ai biết liệu mật mã bảo mật lượng tử có thực sự hoạt động hay không