Các hiện nay đang thu hút sự chú ý của mọi ngành nghề, tuy nhiên, nguồn nhân lực kích hoạt các chương trình này (như dán mã hình ảnh hoặc tích hợp các chương trình AI vào nơi làm việc) thường ít được để ý đến hoặc bị đánh giá thấp.

Madeleine Clare Elish, nhà khoa học nghiên cứu cấp cao tại Google chia sẻ, "đây là một mô hình phổ biến trong các nghiên cứu xã hội về công nghệ. Việc tập trung vào công nghệ mới và sự đổi mới hiện đại đi kèm với việc bỏ quên những con người đang làm việc để đưa sự đổi mới đó hoạt động trong thế giới thực".

Phát biểu tại hội nghị EmTech Digital gần đây do MIT Technology Review tổ chức, Elish và các nhà nghiên cứu khác cho biết các chương trình AI thường không tính đến những người kết hợp các hệ thống ứng dụng AI vào quy trình làm việc hiện tại, nhân viên "đứng sau cánh gà" thực hiện các chương trình và những người bị ảnh hưởng tiêu cực bởi kết quả của AI.

Elish cho biết: "Đây là một thách thức đối với đạo đức AI, bởi vì việc bỏ qua vai trò của con người sẽ bỏ lỡ những gì đang thực sự diễn ra".

Dưới đây là kết quả của nhóm nghiên cứu về cách làm cho các hệ thống AI hoạt động hiệu quả và đạo đức hơn.

Xem xét cách AI được tích hợp vào nơi làm việc

Elish và nhóm nghiên cứu đã xem xét một sáng kiến ​​của Đại học Duke có tên là Sepsis Watch, một hệ thống dựa trên AI để xác định các trường hợp nhiễm trùng huyết và sớm đưa ra cảnh báo.

Chương trình đã cải thiện đáng kể các trường hợp bệnh nhân bị nhiễm trùng huyết, nhưng đối với các nguồn nhân lực trong bệnh viện, Sepsis Watch đã gây rắc rối. Nó đã thay đổi cách thức giao tiếp của các y tá và bác sĩ phản ứng nhanh, dẫn đến việc các y tá phải tìm ra những cách thức khác để chuyển điểm rủi ro cho bác sĩ.

Cụ thể, các y tá cấp cứu sẽ là những người dùng chính của Sepsis Watch. Bởi lẽ, các bác sỹ, những người chịu trách nhiệm đánh giá tình trạng và chẩn đoán cho bệnh nhân thường có quá nhiều trách nhiệm khác, vì vậy không có thời gian để liên tục theo dõi ứng dụng. Trái lại, các y tá cấp cứu lại luôn phải kiểm tra tình trạng bệnh nhân và hỗ trợ họ khi cần thiết. Do đó, Sepsis Watch có thể được tích hợp dễ dàng vào quy trình làm việc của y tá.

Tuy nhiên, điều này lại mang tới một trở ngại lớn. Ví dụ như khi ứng dụng phát hiện bệnh nhân có nguy cơ sốc nhiễm khuẩn cao, y tá sẽ phải gọi bác sỹ phụ trách nhiễm khuẩn ở khoa cấp cứu, người không hề có liên quan gì với họ trước đó, đồng thời làm việc ở một bộ phận hoàn toàn khác. Sự thay đổi này đã làm xáo trộn tiến trình thông báo thông thường tại bệnh viện, các y tá cũng đã rất bất ngờ khi biết họ phải đảm nhận cả việc gọi cấp cứu.

Elish cho biết: "Nhóm phát triển công nghệ thậm chí còn chưa suy tính đến điều này, nhưng chiến lược này tỏ rõ vai trò cần thiết. Chúng tôi đã thấy những cá nhân có kỹ năng thực hiện công việc cần thiết nhưng bị bỏ qua và đánh giá thấp."

Các y tá đã hoàn thành công việc mà Elish và các nhà nghiên cứu gọi là công việc sửa chữa (repair work). Công việc này rất cần thiết để đưa ứng dụng vào hệ thống hoạt động hiệu quả trong thực tiễn.

Cách mà nhiều người tập trung vào công nghệ và sự phát triển của các chương trình AI đã bỏ sót những người đang thực hiện vận hành AI. "Rất nhiều công việc đằng sau sự phổ biến của AI trên thế giới trở nên vô hình và sau đó bị đánh giá thấp," Elish nói.

Trong trường hợp của Sepsis Watch, mọi người sau đó tôn trọng quyền tự chủ của các y tá và họ được phép ứng biến linh hoạt, tạo ra các cách thông báo về số nguy cơ nhiễm trùng huyết. Những người tạo ra hệ thống AI cần phân bổ nguồn lực để hỗ trợ những người sẽ thực hiện loại công việc sửa chữa này và đảm bảo họ là một phần của dự án từ đầu đến cuối.

Elish nói: "Về lý thuyết, một giải pháp AI không thực sự giúp chúng ta tiến xa được. Thực hiện có trách nhiệm và hiệu quả xuất phát từ việc tập trung vào cách các cá nhân sẽ được trao quyền để sử dụng giải pháp trong một bối cảnh cụ thể".

Đừng quên những "nhân viên vô hình"

Công việc sửa chữa để tích hợp AI vào nơi làm việc không phải là công việc duy nhất không thể nhìn thấy. Saiph Savage, giám đốc Phòng thí nghiệm Đổi mới công dân tại Đại học Tự trị Quốc gia Mexico cho biết, AI đã tạo ra hàng triệu việc làm mới, bao gồm cả nhân viên làm những việc như dán nhãn hình ảnh để một mô hình học máy (Machine Leanring) có thể học hỏi.

Các nhiệm vụ khác của con người có thể bao gồm phiên âm âm thanh, giúp trợ lý giọng nói hiểu thế giới, gắn cờ nội dung bạo lực hoặc thông tin sai lệch trên các nền tảng truyền thông xã hội.

Theo Saiph Savage, những nhân viên điều hành hậu trường, thường được gọi là "nhân viên vô hình", người dùng không biết họ là ai. Nghiên cứu của Saiph Savage cho thấy, những người lao động này thường có mức lương tối thiểu tương đối thấp và bị hạn chế về cơ hội phát triển, thăng tiến nghề nghiệp.

Việc tính đến người lao động đòi hỏi phải hiểu những thách thức mang tính hệ thống mà họ phải đối mặt và những giá trị mà họ tạo ra. Savage cho biết một số chương trình AI có thể được sử dụng để giúp các nhân viên bớt "vô hình" hơn như:

- Các chương trình AI có thể phát hiện khi nào người sử dụng lao động đối xử không công bằng với người lao động, có thể thông qua những cách thức như phản hồi tiêu cực và sau đó thúc giục người sử dụng lao động xem xét lại.

- Nghiên cứu những người lao động có khả năng phát triển, đồng thời xây dựng các chương trình dựa trên chiến lược của họ. Savage nói: "Tôi tìm những nhân viên đó và sắp xếp họ để chia sẻ các mẹo và chiến lược cho những người khác, để họ có thể làm theo những chiến lược này và tăng lương cho họ". Bà đã phát triển các tính năng trên trang web cho phép nhân viên chia sẻ lời khuyên.

- Các công cụ kiểm toán để hiểu các điều kiện mà người lao động phải tiếp xúc như tiền lương theo giờ và nhiệm vụ vô hình.

Savage nói: "Chúng ta thực sự cần phải suy nghĩ về những rủi ro mà chúng ta đang đặt ra cho người lao động. Ví dụ, số lượng công việc vô hình mà chúng ta buộc người lao động phải làm."

Nghiên cứu xem AI có thể gây hại cho ai?

Abeba Birhane, nghiên cứu sinh tiến sĩ tại Đại học College Dublin đã đặt câu hỏi giả định rằng liệu AI có thể giải quyết mọi vấn đề mà không gây ảnh hưởng đến ai hay không? Các hệ thống AI và thuật toán "mang lại những kết quả thực tế, hữu hình đối với con người, cho dù đó là trong chính sách hay trong hệ thống chăm sóc sức khỏe".

Một chủ đề lặp đi lặp lại trên các công cụ AI là "các cá nhân trong cộng đồng ở bên lề xã hội, những người dễ bị tổn thương nhất luôn là những người phải trả giá cao nhất".

Những thứ như hệ thống , thuật toán chăm sóc sức khỏe và bảo vệ quyền riêng tư có xu hướng ảnh hưởng và gây bất lợi cho người da đen, người chuyển giới, người nhập cư và cộng đồng LGBTQ+.

Bà nói: "Với câu hỏi AI mang lợi ích cho ai, chúng tôi thấy rằng những người đang tạo và triển khai các hệ thống này được hưởng lợi khi chi phí giảm xuống rất nhiều".

Những người tạo ra hệ thống AI có xu hướng xuất thân khá giả và thường không đủ hiểu biết về các vấn đề tiềm ẩn và đưa ra giải pháp. Ngay cả các hội nghị như EmTech cũng hướng đến các Chủ tịch, CEO và giám đốc của công ty. Theo Birhane, những người đang phát triển AI nên cân nhắc nói chuyện với mọi người trong cộng đồng nơi công nghệ sẽ được áp dụng.

Về mặt đạo đức, AI nên mang lại lợi ích cho những người bị thiệt thòi nhất và bị ảnh hưởng nhiều nhất, đồng thời coi đạo đức và công bằng là những vấn đề cụ thể và cấp bách. Các công ty cũng nên coi đạo đức là một phần không thể thiếu của quá trình, từ ý tưởng đến triển khai, thay vì một phần bổ sung.