Các công nhân được giao nhiệm vụ cải thiện kết quả đầu ra của chatbot Bard của Google cho biết họ được yêu cầu tập trung vào làm việc nhanh chóng với chi phí chất lượng. Bard đôi khi tạo ra thông tin không chính xác chỉ vì không có đủ thời gian để những người kiểm tra thực tế này xác minh đầu ra của phần mềm, một trong những công nhân đó nói Đăng ký.

Các mô hình ngôn ngữ lớn như Bard tìm hiểu những từ cần tạo tiếp theo từ một dấu nhắc nhất định bằng cách nhập hàng núi văn bản từ nhiều nguồn khác nhau – như web, sách và báo. Nhưng thông tin này rất phức tạp và các chatbot AI dự đoán câu không thể phân biệt sự thật với hư cấu. Họ chỉ cố gắng hết sức để bắt chước con người chúng ta từ công việc của chính chúng ta.

Hy vọng làm cho các mô hình ngôn ngữ lớn như Bard chính xác hơn, công nhân cộng đồng được thuê để đánh giá độ chính xác của các phản hồi của bot; phản hồi đó sau đó được chuyển trở lại quy trình để các câu trả lời trong tương lai từ bot có chất lượng cao hơn. Google và những người khác đặt con người vào vòng lặp để nâng cao khả năng rõ ràng của các mô hình được đào tạo.

Ed Stackhouse – một nhà thầu lâu năm được thuê bởi nhà cung cấp dịch vụ dữ liệu Appen, làm việc thay mặt cho Google để cải thiện Thi nhân – tuyên bố rằng công nhân không có đủ thời gian để phân tích độ chính xác của kết quả đầu ra của Bard.

Họ phải đọc lời nhắc đầu vào và câu trả lời của Bard, tìm kiếm thông tin liên quan trên internet và viết ghi chú nhận xét về chất lượng của văn bản. Anh ấy nói với chúng tôi: “Bạn có thể chỉ có hai phút cho một thứ mà thực tế sẽ mất 15 phút để xác minh. Điều đó không tốt cho việc cải thiện chatbot.

Một ví dụ có thể là xem xét lời giới thiệu do Bard tạo ra để mô tả một công ty cụ thể. Ông nói: “Bạn sẽ phải kiểm tra xem một doanh nghiệp đã được bắt đầu vào ngày nào và ngày nào, nó đã sản xuất dự án như thế nào, giám đốc điều hành có phải là người như vậy hay không,” ông nói. Có nhiều sự thật cần kiểm tra và thường không đủ thời gian để xác minh chúng một cách kỹ lưỡng.

Lời nhắc đầu vào là lời nhắc do người dùng thực tế gửi; các nhà thầu Appen xem xét hiệu suất của bot một cách hiệu quả.

Stackhouse là thành viên của một nhóm nhân viên hợp đồng đang gióng lên hồi chuông cảnh báo về việc điều kiện làm việc của họ có thể khiến Bard trở nên thiếu chính xác và có khả năng gây hại như thế nào. “Có thể hỏi Bard 'anh có thể cho tôi biết tác dụng phụ của một đơn thuốc nào đó không?' và tôi sẽ phải xem qua và xác minh từng người [Bard đã liệt kê]. Nếu tôi sai một cái thì sao?” anh ấy hỏi. “Mọi lời nhắc và câu trả lời mà chúng tôi thấy trong môi trường của mình đều có thể được gửi tới khách hàng – tới người dùng cuối.”

Đó không chỉ là các vấn đề y tế - các chủ đề khác cũng có thể gặp rủi ro. Ví dụ, việc Bard tung ra thông tin không chính xác về các chính trị gia có thể làm lung lay quan điểm của mọi người về các cuộc bầu cử và làm suy yếu nền dân chủ.

Mối quan tâm của Stackhouse không phải là quá xa vời. ChatGPT của OpenAI đáng chú ý cáo buộc sai một thị trưởng ở Úc bị kết tội trong một vụ án hối lộ tài chính có từ đầu những năm 2000.

Nếu những công nhân như Stackhouse không thể phát hiện và sửa những lỗi này, AI sẽ tiếp tục lan truyền thông tin sai lệch. Ông lập luận rằng các chatbot như Bard có thể thúc đẩy sự thay đổi trong các chủ đề tường thuật về lịch sử hoặc văn hóa loài người – những sự thật quan trọng có thể bị xóa bỏ theo thời gian. “Mối nguy hiểm lớn nhất là chúng có thể gây hiểu lầm và nghe có vẻ hay đến mức mọi người sẽ tin rằng AI là đúng.”

Các nhà thầu Appen sẽ bị phạt nếu họ không hoàn thành nhiệm vụ trong thời gian quy định và nỗ lực thuyết phục người quản lý cho họ thêm thời gian để đánh giá các phản hồi của Bard đã không thành công. Stackhouse là một trong nhóm sáu công nhân cho biết họ bị sa thải vì lên tiếng và đã nộp đơn khiếu nại về hành vi lao động không công bằng lên cơ quan giám sát lao động của Mỹ - Ủy ban Quan hệ Lao động Quốc gia - The Washington Post báo cáo đầu tiên.

Các công nhân cáo buộc Appen và Google chấm dứt hợp đồng bất hợp pháp và can thiệp vào nỗ lực hợp nhất của họ. Họ được thông báo rằng họ đã bị trục xuất vì lý do điều kiện kinh doanh. Stackhouse cho biết anh cảm thấy điều này thật khó tin, vì Appen trước đó đã gửi email cho các công nhân nói rằng có “sự gia tăng đáng kể về số lượng công việc có sẵn” cho Dự án Yukon – một chương trình nhằm đánh giá văn bản cho các công cụ tìm kiếm, bao gồm cả Bard. 

Appen đã cung cấp cho các nhà thầu thêm 81 đô la ngoài mức lương cơ bản để làm việc 27 giờ mỗi tuần. Người lao động được cho là thường bị giới hạn làm việc 26 giờ mỗi tuần với mức lương lên tới 14.50 đô la mỗi giờ. Công ty có các bài đăng công việc tích cực đang tìm kiếm Đánh giá Công cụ Tìm kiếm đặc biệt để làm việc trên Dự án Yukon. Appen đã không trả lời Đăng kýcâu hỏi của. 

Nhóm cũng đã cố gắng liên hệ với Google và liên hệ với phó chủ tịch cấp cao Prabahkar Raghavan – người lãnh đạo mảng tìm kiếm của gã khổng lồ công nghệ – nhưng đều bị phớt lờ. 

Courtenay Mencini, người phát ngôn của Google, đã không giải quyết những lo ngại của người lao động rằng Bard có thể gây hại. “Như chúng ta đã chia sẻ, Appen chịu trách nhiệm về điều kiện làm việc của nhân viên – bao gồm lương, phúc lợi, thay đổi việc làm và nhiệm vụ họ được giao. Tất nhiên, chúng tôi tôn trọng quyền của những người lao động này được tham gia công đoàn hoặc tham gia tổ chức hoạt động, nhưng đó là vấn đề giữa người lao động và chủ của họ, Appen,” cô ấy nói với chúng tôi trong một tuyên bố.  

Tuy nhiên, Stackhouse cho biết: “Đó là sản phẩm của họ. Nếu họ muốn một sản phẩm có lỗi, đó là lỗi của họ.” ®

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• EVM tài chính. Giao diện hợp nhất cho tài chính phi tập trung. Truy cập Tại đây.
• Tập đoàn truyền thông lượng tử. Khuếch đại IR/PR. Truy cập Tại đây.
• PlatoAiStream. Thông minh dữ liệu Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• nguồn: https://go.theregister.com/feed/www.theregister.com/2023/06/21/google_bard_trainers/