Ý kiến Tôi liên tục nghe về việc các doanh nghiệp muốn sa thải nhân viên trung tâm cuộc gọi và nhân viên tuyến đầu của họ càng nhanh càng tốt và thay thế họ bằng AI. Họ thẳng thắn về điều đó.

Giám đốc điều hành Meta Mark Zuckerberg gần đây cho biết công ty đứng đằng sau Facebook sa thải nhân viên “để chúng tôi có thể đầu tư vào những tầm nhìn dài hạn và đầy tham vọng về AI.” Đó có thể là một hành động thực sự ngu ngốc. Chỉ cần hỏi Air Canada.

Air Canada gần đây đã phát hiện ra một cách khó khăn rằng khi chatbot AI của bạn đưa ra lời hứa đối với khách hàng, công ty phải thực hiện tốt điều đó. Rất tiếc!

Trong trường hợp của Air Canada, một trợ lý ảo đã nói với Jake Moffatt rằng anh có thể được giảm giá tang chế trên chuyến bay Vancouver đến Toronto mà anh đã mua vì cái chết của bà anh. Tổng chi phí của chuyến đi không bao gồm giảm giá: CA$1,630.36. Chi phí đã giảm giá: $760. Sự khác biệt giữa một khoản tiền không lớn có thể là một khoản tiền nhỏ đối với một hãng hàng không quốc tế, nhưng đó là tiền thật đối với người dân bình thường. 

Trợ lý ảo nói với anh rằng nếu anh mua vé giá bình thường, anh sẽ có tối đa 90 ngày để yêu cầu hoàn lại khoản giảm giá tang chế. Một đại diện trực tiếp của Air Canada đã xác nhận rằng anh ấy có thể được giảm giá tang chế.

Sau đó, khi Moffatt gửi yêu cầu hoàn tiền cùng với các tài liệu cần thiết, Air Canada đã từ chối thanh toán. Điều đó không mang lại kết quả tốt cho công ty.

Moffatt đưa doanh nghiệp ra tòa án xử lý các vụ kiện nhỏ, cho rằng Air Canada đã cẩu thả và trình bày sai chính sách của mình. Trên thực tế, Air Canada đã trả lời rằng “Chatbot là một thực thể pháp lý riêng biệt chịu trách nhiệm về hành động của chính mình."

Tôi không nghĩ vậy!

Tòa án đã đồng ý. “Đây là một bài nộp đáng chú ý. Mặc dù chatbot có thành phần tương tác nhưng nó vẫn chỉ là một phần của trang web của Air Canada. Air Canada phải thấy rõ rằng họ chịu trách nhiệm về tất cả thông tin trên trang web của mình. Sẽ không có gì khác biệt dù thông tin đến từ trang tĩnh hay từ chatbot.”

Báo giá mà các doanh nghiệp khác cần chú ý để tiếp tục thực hiện các kế hoạch AI của họ là: “Tôi thấy Air Canada đã không có sự quan tâm hợp lý để đảm bảo chatbot của mình là chính xác”.

Đây là một trường hợp, và thiệt hại là rất nhỏ. Air Canada được lệnh trả lại cho Moffatt số tiền hoàn lại mà anh ta còn nợ. Tuy nhiên, các doanh nghiệp cần biết rằng họ chịu trách nhiệm đảm bảo tính chính xác của các chatbot AI cũng như đối với những nhân viên bằng xương bằng thịt của mình. Nó đơn giản mà.

Và đoán xem? AI LLM thường không đúng. Họ thậm chí còn không thân thiết. Theo một nghiên cứu của tổ chức phi lợi nhuận AI Forensics and AlgorithmWatch, một phần ba câu trả lời của Microsoft Copilot có lỗi thực tế. Đó là rất nhiều vụ kiện tiềm năng!

Như Avivah Litan, phó chủ tịch phân tích nổi tiếng của Gartner tập trung vào AI, đã nói, nếu bạn để các chatbot AI làm tuyến đầu trong dịch vụ khách hàng, công ty của bạn “cuối cùng sẽ phải chi nhiều hơn cho phí pháp lý và tiền phạt nhiều hơn số tiền họ kiếm được từ việc tăng năng suất.”

Luật sư Steven A. Schwartz biết tất cả về điều đó. Anh ấy đã dựa vào ChatGPT để tìm các trường hợp trước đó để hỗ trợ cho trường hợp của mình. Và, Chat GPT đã tìm thấy các trường hợp trước đó đủ đúng. Chỉ có một vấn đề nhỏ. Sáu trường hợp ông kể ra đều không tồn tại. Thẩm phán quận Hoa Kỳ P. Kevin Castel không hề thích thú. Thẩm phán phạt anh ta 5,000 đô la, nhưng nó có thể còn tồi tệ hơn nhiều. Bất kỳ ai mắc lỗi tương tự trong tương lai khó có thể nhận được sự khoan hồng như vậy.

Độ chính xác không phải là vấn đề duy nhất. Những định kiến ​​được đưa vào Mô hình Ngôn ngữ Lớn (LLM) của bạn cũng có thể gây tổn hại cho bạn. Các iTutorgroup có thể cho bạn biết tất cả về điều đó. Cái này công ty đã thua kiện 365,000 USD trước Ủy ban Cơ hội Việc làm Bình đẳng Hoa Kỳ (EEOC) bởi vì phần mềm tuyển dụng được hỗ trợ bởi AI tự động từ chối ứng viên nữ từ 55 tuổi trở lên và ứng viên nam từ 60 tuổi trở lên.

Đến nay, sai lầm lớn nhất do dựa vào AI là sai lầm định giá bất động sản của công ty bất động sản dân cư Mỹ Zillow.

Vào tháng 2021 năm 1.9, Zillow kết thúc chương trình Ưu đãi Zillow. Chương trình AI này đã tư vấn cho công ty đưa ra lời đề nghị bằng tiền mặt cho những ngôi nhà sau đó sẽ được cải tạo và sửa sang lại. Tuy nhiên, với tỷ lệ lỗi trung bình là 6.9% và tỷ lệ lỗi lên tới 304%, công ty đã thua lỗ nghiêm trọng. Bao nhiêu? Hãy thử ghi giảm hàng tồn kho trị giá 25 triệu đô la chỉ trong một quý. Ồ, và Zillow đã sa thải XNUMX% lực lượng lao động của mình. 

Tôi không phải là người theo chủ nghĩa Luddite, nhưng sự thật đơn giản là AI vẫn chưa đủ tin cậy để kinh doanh. Đây là một công cụ hữu ích nhưng không thể thay thế được nhân viên, cho dù họ là chuyên gia hay nhân viên bộ phận trợ giúp. Trong một vài năm nữa, nó sẽ là một câu chuyện khác. Ngày nay, bạn sẽ gặp rắc rối nếu dựa vào AI để cải thiện lợi nhuận của mình. ®

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://go.theregister.com/feed/www.theregister.com/2024/02/23/opinion_column/