#red-team

Anthropic đã tiên phong thực hiện một nghiên cứu an toàn quan trọng, thử nghiệm khả năng các mô hình ngôn ngữ lớn (LLM) tự phát triển mã khai thác lỗ hổng bảo mật. Công bố ngày 22/05/2026, báo cáo 'Nhóm Đỏ Tiên phong' không chỉ đo lường rủi ro hiện tại mà còn đề ra các biện pháp bảo vệ, định hình tương lai phát triển AI có trách nhiệm.

Anthropic công bố giai đoạn hai của Dự án Fetch, một sáng kiến quan trọng do Nhóm Red Team Tiên phong của họ dẫn dắt. Dự án này tập trung vào việc đánh giá và tăng cường an toàn cho các hệ thống AI tiên tiến, đảm bảo chúng hoạt động một cách an toàn và đáng tin cậy.

Đội Red Team Tiên phong của Anthropic đang thử nghiệm Claude trong lĩnh vực robot. Nghiên cứu này khám phá khả năng của Claude trong việc tương tác và điều khiển các hệ thống robot, mở ra những ứng dụng tiềm năng mới.