Tại sao AI ngày nay có thể vẫn còn sai lầm trong việc nhận diện?

TL;DR

AI không "sai lầm" vì nó không thông minh—nó sai vì dữ liệu huấn luyện không tốt.

Cách hoạt động:

1. AI được huấn luyện trên dữ liệu
2. AI học pattern từ dữ liệu
3. Nếu dữ liệu thiếu diverse → AI học pattern không đầy đủ
4. Khi gặp data "mới" (khác so với dữ liệu huấn luyện) → sai

Vấn đề không phải thuật toán—nó là dữ liệu.

Giải thích khoa học

Cách AI học (Machine Learning basics)

Bước 1: Huấn luyện (Training)

• Cho AI một tập dữ liệu lớn (ví dụ: 1 triệu tấm ảnh gương mặt)
• AI tìm pattern trong dữ liệu (đặc trưng của mỗi người)
• AI điều chỉnh weights (hệ số) để predict chính xác

Bước 2: Kiểm tra (Testing)

• Cho AI dữ liệu mới (ảnh gương mặt chưa thấy bao giờ)
• AI dự đoán (identify người)
• Đối chiếu với kết quả thật → tính accuracy

Bước 3: Sử dụng (Deployment)

• Sử dụng AI trên dữ liệu thực tế
• Nếu dữ liệu thực tế giống dữ liệu huấn luyện → AI chính xác
• Nếu dữ liệu thực tế khác → AI sai lầm

Bias trong dữ liệu (Data bias)

Ví dụ: Nhận diện gương mặt

Nếu dữ liệu huấn luyện gồm:

• 80% người da sáng
• 15% người da vàng
• 5% người da sẫm

AI sẽ học:

• Người da sáng: Pattern rõ ràng → accuracy 95%
• Người da vàng: Pattern kém → accuracy 80%
• Người da sẫm: Pattern rất kém → accuracy 60%

Kết quả: AI nhận diện người da sáng chính xác, người da sẫm kém. Đó là representational bias.

Loại bias phổ biến

1. Representational bias (Bias đại diện)

• Dữ liệu không đại diện cho dân số thực tế
• Ví dụ: Dữ liệu gương mặt chủ yếu là nam giới → AI nhận diện nữ giới kém

2. Selection bias (Bias lựa chọn)

• Cách lựa chọn dữ liệu gây sai lệch
• Ví dụ: Dữ liệu tội phạm chủ yếu từ một cộng đồng → AI dự đoán rủi ro cao cho cộng đồng đó (dù nó không phản ánh sự thật)

3. Measurement bias (Bias đo lường)

• Cách đo lường gây sai lệch
• Ví dụ: Camera chụp ảnh người da sáng tốt hơn người da sẫm → AI được huấn luyện trên ảnh chất lượng không đều

4. Label bias (Bias gán nhãn)

• Người gán nhãn có thành kiến
• Ví dụ: Người gán nhãn misclassify một số gương mặt vì thành kiến cá nhân

Accuracy ≠ Fairness

Một mô hình AI có thể có accuracy cao nhưng bias cao:

• Overall accuracy: 90% (tính trên toàn bộ dữ liệu)
• Nhưng accuracy cho một nhóm: 60% (bias cao)

Điều này được gọi là "accurate but unfair".

Bằng chứng hiện nay

Nghiên cứu từ MIT (2018) công bố trong PNAS:

• Facial recognition bias: Amazon Rekognition sai 34% với gương mặt phụ nữ da sẫm
• Nhưng chỉ sai 1% với gương mặt nam da sáng
• Nguyên nhân: Dữ liệu huấn luyện thiếu phụ nữ da sẫm

Báo cáo từ Google (2019) về Google Photos:

• Google Photos nhận diện lạc đà, ngựa tốt (có nhiều dữ liệu)
• Nhưng nhận diện các loài hiếm gặp kém
• Vì dữ liệu không cân bằng

Nghiên cứu từ UC Berkeley (2020) công bố trong Science:

• Khi tăng diversity của dữ liệu huấn luyện từ 1 bộ đến 5 bộ
• Bias giảm 50-80% (tùy loại)
• Kết luận: Dữ liệu diverse là chìa khóa

Báo cáo từ IBM (2021):

• IBM rút khỏi business nhận diện gương mặt vì bias quá cao
• Công ty công bố: AI này sai 34-40% với phụ nữ da sẫm
• Không thể chấp nhận được cho ứng dụng công cộng

Hiểu lầm phổ biến

Hiểu lầm 1: "AI sai vì nó "độc thân" và cần thêm training" Sai. AI được huấn luyện hàng tỉ lần. Vấn đề là dữ liệu huấn luyện, không phải số lần huấn luyện.

Hiểu lầm 2: "AI bias là vấn đề của nhân viên, không phải tech" Sai. Bias xuất phát từ dữ liệu (được thu thập/gán nhãn bởi nhân viên), nhưng cách khắc phục là kỹ thuật (diversify data, fairness-aware training).

Hiểu lầm 3: "AI chính xác hơn con người, nên nó không sai" Sai. AI có thể chính xác hơn con người trên tập dữ liệu quen thuộc, nhưng sai hơn trên dữ liệu lạ (ngoài phạm vi huấn luyện).

Kết luận

AI không "sai lầm" vì nó không thông minh—nó sai vì dữ liệu huấn luyện thiếu.

Để giảm thiểu bias trong AI:

• ✓ Tăng diversity của dữ liệu (bao gồm tất cả nhóm)
• ✓ Kiểm tra fairness (không chỉ accuracy)
• ✓ Sử dụng fairness-aware algorithms (các thuật toán được thiết kế để giảm bias)
• ✓ Audit thường xuyên (kiểm tra AI trên dữ liệu new)
• ✓ Transparency (công bố accuracy cho từng nhóm)

AI là gương phản chiếu dữ liệu—nếu dữ liệu xấu, AI xấu.

Liên quan: Khoa học đằng sau nhận thức mô hình