Anthropic phát triển FlashProve nhằm xác thực nguồn gốc và danh tính mô hình AI
Anthropic vừa công bố dự án phát triển một hệ thống mã nguồn mở mang tên FlashProve, cho phép người dùng xác minh chính xác mô hình trí tuệ nhân tạo (AI) nào đã tạo ra một kết quả đầu ra cụ thể thông qua các bằng chứng mật mã học.
Bảo đảm toán học cho các phản hồi từ AI
Hệ thống được thiết kế dựa trên khái niệm suy luận có thể chứng minh (provable inference). Đây là một phương thức cung cấp bằng chứng mã hóa toán học nhằm khẳng định câu trả lời người dùng nhận được xuất phát đúng từ mô hình mà họ chỉ định, tương tự như cơ chế chữ ký điện tử xác thực người gửi trong email.
Công nghệ này giải quyết triệt để vấn đề gian lận hoặc ngụy tạo mô hình, kể cả khi bên gian lận chính là đơn vị sở hữu và vận hành hạ tầng máy chủ:
- Chống tráo đổi mô hình: Ngăn chặn các nhà cung cấp âm thầm hạ cấp hệ thống xuống một mô hình ngôn ngữ lớn (LLMs) giá rẻ hơn để tối ưu chi phí vận hành.
- Bảo vệ độ tin cậy của điểm benchmark: Ngăn chặn việc sử dụng các mô hình đắt tiền hơn ngoài dự kiến nhằm thổi phồng điểm số hiệu năng.
- Kiểm chứng tuyên bố bên thứ ba: Xác minh minh bạch các thông báo kiểm thử phần mềm bằng mô hình an ninh mạng tiên tiến hay phê duyệt kế hoạch kinh doanh bởi các hệ sinh thái AI độc quyền.
Cơ chế dấu vân tay không làm lộ trọng số nội bộ
Để vận hành FlashProve, các phòng thí nghiệm AI cần phát hành một tập dữ liệu đại diện gọi là dấu vân tay (fingerprint) cho từng mô hình được công bố. Dấu vân tay này sau đó sẽ được đối soát với phản hồi đầu ra bằng các thuật toán mã hóa.
Điểm mấu chốt nằm ở chỗ cơ chế này không làm lộ trọng số mô hình (model weights) — tài sản sở hữu trí tuệ tối mật của các công ty công nghệ như Anthropic hay OpenAI. Nhờ đó, cả các mô hình mã nguồn đóng lẫn mã nguồn mở đều có thể ứng dụng giao thức xác thực này. Hệ thống cũng được tối ưu hóa ở mức siêu nhẹ, cho phép các thiết bị cá nhân của người dùng tự thực hiện quy trình kiểm tra.
Tại Việt Nam, các kỹ sư và chuyên gia công nghệ theo dõi xu hướng bảo mật AI tại vmixvoice.net có thể tiếp cận tài liệu kỹ thuật chi tiết cùng mã nguồn thử nghiệm của FlashProve hiện đã được công khai trên GitHub.
Nhóm nghiên cứu tại Anthropic nhấn mạnh rằng dự án hiện đang trong giai đoạn chia sẻ tiến độ ban đầu chứ chưa phải giải pháp thương mại hoàn chỉnh. Mục tiêu của công ty là khuyến khích cộng đồng nghiên cứu toàn cầu cùng tham gia thử nghiệm, đóng góp và hoàn thiện chuẩn mực bảo mật mới này.
Nguồn: TechCrunch