Đánh giá độ tin cậy, an toàn và công bằng của hệ thống AI

Phạm vi

Hệ thống AI ra quyết định hoặc hỗ trợ ra quyết định; trợ lý ảo, chatbot; hệ thống nhận dạng.

Phương pháp, công cụ

• Kiểm thử với dữ liệu nhiễu, dữ liệu ngoài phân bố
• Đo sai lệch kết quả giữa các nhóm
• Kiểm thử đối kháng (red-teaming) cho mô hình ngôn ngữ
• Rà soát quy trình xử lý dữ liệu cá nhân

Quy trình thực hiện

1. Phân loại rủi ro

   Xác định mức độ rủi ro theo phạm vi tác động.

2. Lập kế hoạch

   Chọn tiêu chí và phương pháp tương ứng.

3. Kiểm thử

   Thực hiện kiểm thử, ghi nhận bằng chứng.

4. Khuyến nghị

   Đề xuất biện pháp giảm thiểu rủi ro.

Kết quả bàn giao

• Báo cáo đánh giá rủi ro
• Khuyến nghị kỹ thuật và quy trình