#an-ninh-mang

Trong một năm, Anthropic đã phân tích 832 trường hợp lạm dụng AI cho mục đích tấn công mạng, từ viết mã độc đến xâm nhập sâu vào hệ thống. Báo cáo này không chỉ vạch trần các chiến thuật mới của tin tặc mà còn chỉ ra những lỗ hổng trong các khung phòng thủ hiện tại như MITRE ATT&CK, đặt ra yêu cầu cấp thiết về việc phải suy nghĩ lại cách chúng ta bảo vệ không gian mạng.

Nhóm Frontier Red Team của Anthropic đã công bố LLM ATT&CK Navigator, một công cụ đột phá để lập bản đồ các mối đe dọa an ninh mạng do AI gây ra. Bằng cách điều chỉnh khuôn khổ MITRE ATT&CK nổi tiếng cho các mô hình ngôn ngữ lớn, nghiên cứu này cung cấp một cái nhìn sâu sắc về cách các tác nhân độc hại có thể khai thác AI và quan trọng hơn là cách chúng ta có thể xây dựng hệ thống phòng thủ chủ động để chống lại chúng.

Chính phủ Alberta đã triển khai Claude để tăng cường an ninh mạng, sử dụng công nghệ AI này để phát hiện và khắc phục các lỗ hổng bảo mật trên toàn bộ hệ thống của mình. Sáng kiến này giúp bảo vệ dữ liệu và thông tin quan trọng của công dân, đảm bảo an toàn cho các dịch vụ công trực tuyến.

Nhóm Đỏ Frontier của Anthropic đang tiên phong nghiên cứu để đánh giá mức độ ảnh hưởng của các Mô hình Ngôn ngữ Lớn (LLM) như Claude đối với việc khai thác lỗ hổng N-day. Nghiên cứu này đo lường liệu AI có thực sự giúp tin tặc dễ dàng tấn công các hệ thống chưa được vá hay không, và kết quả ban đầu cho thấy chuyên môn của con người vẫn là yếu tố quyết định.

Anthropic vừa công bố chi tiết về các biện pháp bảo vệ an ninh mạng tích hợp trong Fable 5, đặc biệt là các bộ phân loại an toàn (safety classifiers). Bài viết cũng giới thiệu bản dự thảo đầu tiên về khung đánh giá mức độ nghiêm trọng của jailbreak, một nỗ lực nhằm chuẩn hóa cách ngành công nghiệp AI thảo luận và xử lý các rủi ro bảo mật.