Nguy cơ và thách thức¶
Tóm lược nội dung
Bài này trình bày một số mặt trái của AI.
AI mang lại nhiều lợi ích nhưng cùng với đó là những nguy cơ và thách thức.
Việc làm¶
- Thất nghiệp
Các công việc có tính chất lặp đi lặp lại hoặc xử lý dữ liệu cơ bản như nhập liệu, dịch thuật cơ bản, chăm sóc khách hàng, v.v. dần bị AI thay thế. - Khoảng cách kỹ năng
Sự phát triển của AI đòi hỏi người lao động phải có các kỹ năng mới. Điều này cũng làm gia tăng khoảng cách về kỹ năng, thu nhập và gây ra nhiều nguy cơ khác cho lao động phổ thông.
Quyền riêng tư¶
- Giám sát hàng loạt
AI có năng lực xử lý lượng lớn dữ liệu từ camera an ninh, thiết bị IoT và mạng xã hội khiến quyền riêng tư cá nhân bị vi phạm. - Dữ liệu nhạy cảm
AI có thể thu thập lượng thông tin cá nhân khổng lồ như hồ sơ y tế, hành vi tiêu dùng, vị trí, v.v. dẫn đến nguy cơ sử dụng sai mục đích hoặc mua bán dữ liệu nhạy cảm, gây hại cho cá nhân hoặc tổ chức.
Đạo đức¶
- Thiên vị (còn gọi là thiên lệch thuật toán)
AI có thể học và nhân bản các định kiến về giới tính, chủng tộc, văn hóa từ dữ liệu huấn luyện do con người cung cấp, dẫn đến các quyết định thiếu công bằng. - Bài toán "Hộp đen"
Khi AI tự đưa ra các quyết định phức tạp, chẳng hạn như từ chối cho vay, loại bỏ hồ sơ xin việc, v.v., mà không có sự giám sát của con người có thể dẫn đến việc ra quyết định thiếu nhân văn hoặc thiếu cân nhắc các yếu tố đạo đức, hoặc rất khó để giải thích lý do chính xác đằng sau quyết định đó.
An toàn¶
- Vũ khí tự hành
AI có thể bị lợi dụng để chế tạo vũ khí tấn công tự động mà không cần sự can thiệp hay phê chuẩn trực tiếp từ con người. - Tấn công mạng
AI có thể bị lợi dụng để quét tìm lỗ hổng phần mềm nhanh hơn, hoặc viết mã độc để qua mặt các phần mềm chống virus. - Deepfake và tin giả:
AI tạo sinh có thể tạo ra hình ảnh, âm thanh, video giả lập y như thật để lừa đảo tài chính, thao túng dư luận hoặc gây bất ổn chính trị. - Chạy đua vũ trang
Sự đối đầu giữa các hệ thống AI phòng thủ và AI tấn công khiến môi trường không gian mạng trở nên phức tạp và khó kiểm soát hơn.
AI hóa vũ khí và vũ khí hóa AI
AI hóa vũ khí (AI-ifying weapons) nghĩa là tích hợp AI vào vũ khí quân sự để tăng cường hiệu năng về nhận diện mục tiêu, dẫn đường, tối ưu tác chiến, v.v..
Vũ khí hóa AI (weaponizing AI) nghĩa là biến AI và đầu ra của AI thành công cụ gây hại, chẳng hạn như: tấn công mạng bằng AI, thiết kế tác nhân sinh học bằng AI, tạo sai lệch thông tin quy mô lớn bằng AI, thao túng quyết định chiến lược bằng AI.
"Vũ khí hóa AI" nguy hiểm hơn "AI hóa vũ khí" vì nó mở rộng tác hại ra ngoài phạm vi quân sự, lan sang các phạm vi khác như cơ sở hạ tầng số, thông tin, viễn thông, điện, tài chính, vũ khí sinh học, hóa học, v.v..
Phát triển AI có trách nhiệm
Để hạn chế các mặt trái nói trên, cộng đồng quốc tế và các quốc gia đang xây dựng các khuôn khổ pháp lý và nguyên tắc đạo đức, chẳng hạn như:
- Tính minh bạch: phải giải thích được logic xử lý và công khai khi nội dung do máy tính tạo ra.
- Quyền giám sát của con người: các quyết định quan trọng liên quan đến tính mạng, pháp lý và tài chính bắt buộc phải có sự phê duyệt cuối cùng của con người.
- Bảo mật và không định kiến: dữ liệu huấn luyện phải được làm sạch, loại bỏ định kiến và tuân thủ các quy định bảo vệ quyền riêng tư.
Sơ đồ tóm tắt¶
Some English words¶
| Vietnamese | Tiếng Anh |
|---|---|
| bài toán "Hộp đen" | Black box problem |
| quyền giám sát của con người | human-in-the-loop |
| thiên lệch thuật toán | algorithmic bias |
| tính minh bạch | transparency |
| vũ khí tự hành | LAWS (Lethal Autonomous Weapons Systems) |