6 nội dung gắn tag này
Một khảo sát gần đây với 81.000 người dùng Claude của Anthropic đã tiết lộ những lo ngại và lợi ích kinh tế từ AI. Những người làm việc trong các vai trò chịu ảnh hưởng nhiều bởi AI, đặc biệt là người mới vào nghề, thường lo lắng hơn về việc mất việc làm. Tuy nhiên, cả những người có thu nhập cao nhất và thấp nhất đều ghi nhận mức tăng năng suất đáng kể, chủ yếu nhờ mở rộng phạm vi công việc.
Tốc độ cải tiến nhanh chóng của các mô hình ngôn ngữ lớn đặt ra câu hỏi về khả năng căn chỉnh và giám sát các mô hình AI thông minh hơn con người. Một nghiên cứu mới của Anthropic khám phá cách Claude có thể tự động phát triển, thử nghiệm và phân tích các ý tưởng căn chỉnh, đặc biệt trong vấn đề giám sát từ yếu đến mạnh. Kết quả cho thấy Claude có thể vượt trội đáng kể so với hiệu suất của con người trong việc phục hồi khoảng cách hiệu suất.
Anthropic đã tiên phong thực hiện một nghiên cứu an toàn quan trọng, thử nghiệm khả năng các mô hình ngôn ngữ lớn (LLM) tự phát triển mã khai thác lỗ hổng bảo mật. Công bố ngày 22/05/2026, báo cáo 'Nhóm Đỏ Tiên phong' không chỉ đo lường rủi ro hiện tại mà còn đề ra các biện pháp bảo vệ, định hình tương lai phát triển AI có trách nhiệm.
Nhóm Đỏ Frontier của Anthropic đang tiên phong nghiên cứu để đánh giá mức độ ảnh hưởng của các Mô hình Ngôn ngữ Lớn (LLM) như Claude đối với việc khai thác lỗ hổng N-day. Nghiên cứu này đo lường liệu AI có thực sự giúp tin tặc dễ dàng tấn công các hệ thống chưa được vá hay không, và kết quả ban đầu cho thấy chuyên môn của con người vẫn là yếu tố quyết định.
Anthropic công bố giai đoạn hai của Dự án Fetch, một sáng kiến quan trọng do Nhóm Red Team Tiên phong của họ dẫn dắt. Dự án này tập trung vào việc đánh giá và tăng cường an toàn cho các hệ thống AI tiên tiến, đảm bảo chúng hoạt động một cách an toàn và đáng tin cậy.
Nghiên cứu này khám phá khả năng tạo ra một 'nút tắt' để vô hiệu hóa kiến thức lưỡng dụng trong các mô hình AI. Mục tiêu là kiểm soát và ngăn chặn việc AI sử dụng thông tin có thể gây hại, đảm bảo an toàn và đạo đức trong phát triển trí tuệ nhân tạo.
