← Glossary← Thuật ngữ

INNOVATIONĐỔI MỚI SÁNG TẠO

Data desertSa mạc dữ liệu

Sa mạc dữ liệuData desert

A group or language that is barely present in the data used to train AI, so the AI serves it poorly.Một nhóm người hay ngôn ngữ gần như vắng mặt trong dữ liệu huấn luyện AI, khiến AI phục vụ họ kém.

Data desertLighter-skinned men0.8Darker-skinned women34.7Worst-case error rate, %
Sa mạc dữ liệuNam giới da sáng0.8Phụ nữ da sẫm34.7Tỷ lệ sai cao nhất, %

AI models learn from the data available, and that data over-represents some languages, accents, ages and regions. Where data is thin, the model makes more mistakes and nobody notices, because the affected users rarely appear in tests. For Vietnam, local languages, dialects and specific domains are data deserts. Closing them is both an inclusion task and a business opportunity for local builders.

Mô hình AI học từ dữ liệu có sẵn, mà dữ liệu đó lại thiên về một số ngôn ngữ, giọng nói, độ tuổi và vùng miền. Ở nơi dữ liệu mỏng, mô hình sai nhiều hơn mà không ai để ý, vì người dùng bị ảnh hưởng hiếm khi xuất hiện trong khâu kiểm thử. Với Việt Nam, ngôn ngữ dân tộc, phương ngữ và những lĩnh vực chuyên biệt là các sa mạc dữ liệu. Lấp đầy chúng vừa là việc bao trùm, vừa là cơ hội kinh doanh cho người làm sản phẩm trong nước.

EXAMPLEVÍ DỤ

The Gender Shades study tested commercial face-analysis systems and found error rates under 1% for lighter-skinned men but up to about 35% for darker-skinned women, who were under-represented in the training data.

Nghiên cứu Gender Shades kiểm tra các hệ thống phân tích khuôn mặt thương mại và thấy tỷ lệ sai dưới 1% với nam giới da sáng nhưng lên tới khoảng 35% với phụ nữ da sẫm, nhóm bị thiếu trong dữ liệu huấn luyện.

SOURCENGUỒNBuolamwini, J. & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research, 81.