Mặc dù đã được đánh giá cao về tác động tiềm tàng mà AI có thể tạo ra đối với các quy trình kinh doanh, nhưng tiến độ gần như không nhanh như nhiều dự báo ban đầu khiến nhiều tổ chức mong đợi.

Arin Bhowmick, giám đốc thiết kế của IBM, đã giải thích với VentureBeat những gì cần phải làm để đạt được mức độ Khả năng giải thích AI điều đó sẽ được yêu cầu để đưa AI lên một tầm cao mới trong doanh nghiệp.

Cuộc phỏng vấn này đã được chỉnh sửa cho rõ ràng và ngắn gọn.

VentureBeat: Có vẻ như nhiều tổ chức vẫn chưa tin tưởng vào AI. Bạn có nghĩ rằng điều đó đang được cải thiện?

Arin Bhowmick: Tôi nghĩ nó đã được cải thiện hoặc đang trở nên tốt hơn. Nhưng chúng ta vẫn còn một chặng đường dài để đi. Trước đây, chúng tôi chưa thể đưa niềm tin, sự công bằng cũng như AI có thể giải thích vào các sản phẩm và trải nghiệm. Từ quan điểm của IBM, chúng tôi đang cố gắng tạo ra công nghệ đáng tin cậy có thể tăng cường [nhưng] không thực sự thay thế việc ra quyết định của con người. Chúng tôi cảm thấy rằng sự tin tưởng là điều cần thiết cho việc áp dụng. Nó cho phép các tổ chức hiểu và giải thích các khuyến nghị và kết quả.

Về cơ bản, những gì chúng tôi đang cố gắng làm giống như nhãn dinh dưỡng. Chúng tôi đang mong muốn có được sự minh bạch tương tự trong các hệ thống AI. Vẫn còn một số do dự trong việc áp dụng AI vì thiếu niềm tin. Khoảng 80-85% một số chuyên gia tham gia cuộc khảo sát của IBM từ các tổ chức khác nhau cho biết tổ chức của họ đã bị ảnh hưởng khá tiêu cực bởi các vấn đề như sai lệch, đặc biệt là trong dữ liệu. Tôi có thể nói rằng 80% trở lên đồng ý rằng người tiêu dùng có nhiều khả năng chọn dịch vụ từ một công ty cung cấp tính minh bạch và khuôn khổ đạo đức cho cách xây dựng các mô hình AI của họ.

VentureBeat: Khi mô hình AI chạy, nó có thể tạo ra các kết quả khác nhau khi thuật toán tìm hiểu thêm về dữ liệu. Sự thiếu nhất quán đó ảnh hưởng đến niềm tin đến mức nào?

Bhowmick: Mô hình AI được sử dụng để thực hiện dự đoán cũng tốt như dữ liệu. Nó không chỉ là mô hình. Chính những gì nó làm và những hiểu biết sâu sắc mà nó cung cấp vào thời điểm đó mới tạo nên niềm tin. Nó có cho người dùng biết tại sao đề xuất được đưa ra hoặc có ý nghĩa quan trọng, nó đưa ra đề xuất như thế nào và mức độ tin cậy của nó không? AI có xu hướng trở thành một hộp đen. Bí quyết để phát triển niềm tin là làm sáng tỏ hộp đen.

VentureBeat: Làm thế nào để chúng ta đạt được mức độ giải thích AI đó?

Bhowmick: Nó khó. Đôi khi thật khó để đánh giá nguyên nhân cốt lõi của một dự đoán và hiểu biết sâu sắc. Nó phụ thuộc vào cách mô hình được xây dựng. Khả năng giải thích cũng khó khăn vì khi nó được cung cấp cho người dùng cuối, nó chứa đầy những điều ngớ ngẩn về mặt kỹ thuật. Người dùng thực sự hiểu được không phải ở giọng nói và giọng điệu.

Đôi khi khả năng giải thích cũng liên quan một chút đến câu hỏi “tại sao” hơn là “cái gì”. Đưa ra một ví dụ về khả năng giải thích trong bối cảnh nhiệm vụ mà người dùng đang thực hiện thực sự rất khó. Trừ khi các nhà phát triển đang tạo ra các hệ thống được truyền [và] dựa trên AI này thực sự tuân theo quy trình kinh doanh, nếu không thì bối cảnh sẽ không tồn tại.

VentureBeat: Làm thế nào để chúng tôi đo lường được điều này?

Bhowmick: Có điểm công bằng và điểm thiên vị. Có một khái niệm về độ chính xác của mô hình. Hầu hết các công cụ hiện có đều không cung cấp điểm số thực tế về yếu tố sai lệch. Rõ ràng, độ lệch càng cao thì mô hình của bạn càng tệ. Chúng tôi khá rõ ràng rằng phần lớn nguồn gốc của sự thiên vị xuất phát từ dữ liệu và các giả định được sử dụng để tạo ra mô hình.

Những gì chúng tôi cố gắng làm là chúng tôi đưa một chút khả năng phát hiện sai lệch và khả năng giải thích vào chính công cụ. Nó sẽ xem xét hồ sơ dữ liệu và so sánh nó với các mục khác và các mô hình AI khác. Chúng tôi có thể cho bạn biết rằng những gì bạn đang cố gắng tạo ra đã có sẵn thành kiến ​​và đây là những gì bạn có thể làm để khắc phục nó.

VentureBeat: Điều đó sau đó sẽ trở thành một phần của trải nghiệm người dùng?

Bhowmick: Đúng, và điều đó rất, rất quan trọng. Bất cứ sự thiên vị nào được đưa vào hệ thống đều có sự phân nhánh rất lớn. Chúng tôi đang tạo ra các phương pháp thiết kế có đạo đức trong toàn công ty. Chúng tôi đã phát triển các bài tập và hội thảo về tư duy thiết kế cụ thể. Chúng tôi tổ chức các hội thảo để đảm bảo rằng chúng tôi đang xem xét đạo đức ngay từ đầu chu trình thiết kế và lập kế hoạch quy trình kinh doanh. Chúng tôi cũng đang sử dụng AI để cải thiện AI. Nếu chúng ta có thể xây dựng các điểm kiểm tra AI thiên vị và có thể giải thích được trong quá trình thực hiện, thì về cơ bản chúng ta sẽ mở rộng quy mô tốt hơn. Đó là loại kế hoạch trò chơi ở đây.

VentureBeat: Liệu mọi ứng dụng sẽ có mô hình AI được nhúng trong đó không?

Bhowmick: Vấn đề không phải là về ứng dụng, mà là liệu có những thứ nào trong ứng dụng đó mà AI có thể trợ giúp hay không. Nếu câu trả lời là có thì hầu hết các ứng dụng sẽ có AI trong đó. Sẽ khó có khả năng các ứng dụng sẽ không có AI.

VentureBeat: Hầu hết các tổ chức sẽ nhúng công cụ AI vào ứng dụng của họ hay chỉ đơn giản là sử dụng các khả năng AI bên ngoài thông qua giao diện lập trình ứng dụng (API)?

Bhowmick: Cả hai đều sẽ đúng. Tôi nghĩ API sẽ phù hợp với những người mới bắt đầu. Nhưng khi mức độ trưởng thành của AI tăng lên, sẽ có nhiều thông tin cụ thể hơn cho một tuyên bố vấn đề dành riêng cho khán giả. Để làm được điều đó, họ có thể sẽ phải xây dựng các mô hình AI tùy chỉnh. Họ có thể tận dụng API và các công cụ khác, nhưng để có một ứng dụng thực sự hiểu người dùng và thực sự hiểu được mấu chốt của vấn đề, tôi nghĩ điều quan trọng là nó phải được xây dựng nội bộ.

VentureBeat: Nhìn chung, lời khuyên tốt nhất về AI của bạn dành cho các tổ chức là gì?

Bhowmick: Tôi vẫn thấy rằng mức độ nhận thức của chúng ta về AI là gì và nó có thể làm gì cũng như nó có thể giúp chúng ta như thế nào vẫn chưa cao. Khi chúng tôi nói chuyện với khách hàng, tất cả họ đều muốn tìm hiểu về AI. Nhưng khi bạn hỏi họ trường hợp sử dụng là gì, đôi khi họ không thể nói rõ điều đó.

Tôi nghĩ việc áp dụng có phần chậm trễ do sự hiểu biết và chấp nhận của mọi người đối với AI. Nhưng vẫn có đủ thông tin về các nguyên tắc AI để bạn đọc tiếp. Khi bạn phát triển sự hiểu biết, hãy xem xét công cụ. Nó thực sự phụ thuộc vào nhận thức.

Tôi nghĩ chúng ta đang trong chu kỳ cường điệu. Một số ngành đang đi trước, nhưng nếu tôi có thể đưa ra một lời khuyên cho mọi người thì đó sẽ là AI đừng ép buộc. Đảm bảo bạn thiết kế AI trong hệ thống của mình theo cách phù hợp với vấn đề bạn đang cố gắng giải quyết.

Nguồn: https://venturebeat.com/2021/02/16/ibms-arin-bhowmick-explains-why-ai-trust-is-hard-to-achieve-in-the-enterprise/