#llm

Anthropic đã tiên phong thực hiện một nghiên cứu an toàn quan trọng, thử nghiệm khả năng các mô hình ngôn ngữ lớn (LLM) tự phát triển mã khai thác lỗ hổng bảo mật. Công bố ngày 22/05/2026, báo cáo 'Nhóm Đỏ Tiên phong' không chỉ đo lường rủi ro hiện tại mà còn đề ra các biện pháp bảo vệ, định hình tương lai phát triển AI có trách nhiệm.

Nhóm Đỏ Frontier của Anthropic đang tiên phong nghiên cứu để đánh giá mức độ ảnh hưởng của các Mô hình Ngôn ngữ Lớn (LLM) như Claude đối với việc khai thác lỗ hổng N-day. Nghiên cứu này đo lường liệu AI có thực sự giúp tin tặc dễ dàng tấn công các hệ thống chưa được vá hay không, và kết quả ban đầu cho thấy chuyên môn của con người vẫn là yếu tố quyết định.

Nhóm Frontier Red Team của Anthropic đã công bố LLM ATT&CK Navigator, một công cụ đột phá để lập bản đồ các mối đe dọa an ninh mạng do AI gây ra. Bằng cách điều chỉnh khuôn khổ MITRE ATT&CK nổi tiếng cho các mô hình ngôn ngữ lớn, nghiên cứu này cung cấp một cái nhìn sâu sắc về cách các tác nhân độc hại có thể khai thác AI và quan trọng hơn là cách chúng ta có thể xây dựng hệ thống phòng thủ chủ động để chống lại chúng.