Cảnh báo về thiên kiến trong mô hình ngôn ngữ năm 2018

1. Vấn đề nổi lên

Khi mô hình học từ dữ liệu người dùng,
nó kế thừa định kiến xã hội có sẵn.
Nếu không kiểm soát, kết quả có thể gây bất công cho nhiều nhóm người.

2. Nguy cơ thực tế

Trong tuyển dụng hay xếp hạng tín dụng,
mô hình có thể đẩy mạnh sai lệch giữa các nhóm dân số.
Thiếu minh bạch khiến khó kiểm chứng nguồn gốc lỗi.

3. Tình trạng nghiên cứu

Chưa có chuẩn đo lường thống nhất nào để nhận biết độ lệch.
Một số nỗ lực nhận diện bắt đầu hình thành
nhưng vẫn cần thêm dữ liệu và phương pháp.

4. Kết luận

Cộng đồng cần kết hợp mục tiêu kỹ thuật và trách nhiệm xã hội.
Tránh việc chỉ tối ưu điểm số mà quên mất con người bị ảnh hưởng.