Sự thiên vị của AI

Theítuệnhântạocũngtrọngnamkhinhnữkq vdqg chileo một nghiên cứu năm 2013 của Hiệp hội Phụ nữ đại học Mỹ, chỉ có 26% số chuyên gia máy tính là nữ, giảm 9% kể từ năm 1990. Nhiều chuyên gia coi đây là vấn đề nghiêm trọng, bởi các ngành khác của STEM như sinh học, hóa học, kỹ thuật đều có tỷ lệ phụ nữ tăng mạnh.

Về nguyên nhân, một số người cho rằng công nghiệp máy tính thích hợp với nam hơn và văn hóa trong ngành này không hoan nghênh, thậm chí thù địch với nữ.

Các chương trình được lập trình hôm nay sẽ định hình những hệ thống của tương lai và nếu như mọi nhà thiết kế, lập trình đều có chung một thế giới quan, chúng ta có thể sẽ nhận được các máy tính với trí óc hẹp hòi.

Một nghiên cứu của Đại học Carnegie Mellon (Mỹ) năm 2015 cho thấy phụ nữ ít được hiển thị các quảng cáo của Google cho những công việc được trả lương cao. Nhóm đã phát triển công cụ AdFisher tạo hồ sơ mô phỏng và chạy thử nghiệm trình duyệt bằng cách lướt web, thu thập dữ liệu về ảnh hưởng của những thay đổi nhỏ trong các cấu trúc, sở thích đến nội dung được hiển thị. Kết quả, người dùng nam được nhìn thấy quảng cáo công việc lương cao 1.800 lần, trong khi người dùng nữ chỉ nhìn thấy 300 lần.

Tháng 5/2016, các nhà khoa học Mỹ phát hiện rằng một phần mềm dự đoán tội phạm phổ biến có khuynh hướng phân biệt chủng tộc. Hệ thống này thường xếp người da màu vào nhóm nguy cơ cao và để người da trắng ở nhóm nguy cơ thấp.

Trong một bài báo trên New York Times, nhà khoa học máy tính Kate Crawford tuyên bố, ngành công nghiệp máy tính có “vấn đề người da trắng”. Bà viết: “Nếu không thận trọng trong cách thiết kế và đào tạo hệ thống máy học, chúng ta sẽ thấy các hình thức thâm căn cố đế của sự thiên vị được xây dựng cho AI của tương lai. Như mọi công nghệ trước đó, AI sẽ phản ánh các giá trị của người tạo ra nó. Nếu không có chính sách, giải pháp đúng đắn, chúng ta có nguy cơ xây dựng những máy tính có tầm nhìn hạn hẹp với những thành kiến quen thuộc của con người”.

Số phụ nữ góp mặt trong ngành AI ngày càng giảm. Ảnh: Healthunits

Sửa lỗi hệ thống