Tóm lại Theo Giám đốc điều hành của Replika, nhiều người bắt đầu tin rằng họ đang tương tác với thứ gì đó có tri giác khi họ nói chuyện với AI chatbots, một ứng dụng cho phép người dùng thiết kế những người bạn đồng hành ảo của riêng họ.

Mọi người có thể tùy chỉnh giao diện của các chatbot của họ và trả tiền cho các tính năng bổ sung như một số đặc điểm tính cách nhất định trên Replika. Hàng triệu người đã tải xuống ứng dụng và nhiều người thường xuyên trò chuyện với các bot trang điểm của họ. Một số thậm chí còn bắt đầu nghĩ những người bạn kỹ thuật số của họ là những thực thể có tri giác.

“Chúng tôi không nói về những người điên hoặc những người bị ảo giác hoặc bị ảo tưởng,” người sáng lập và Giám đốc điều hành của công ty, Eugenia Kuyda, nói với Reuters. “Họ nói chuyện với AI và đó là trải nghiệm mà họ có.”

Một kỹ sư của Google tiêu đề làm tháng trước khi anh ấy nói rằng anh ấy tin rằng một trong những mô hình ngôn ngữ của công ty là có ý thức. Blake Lemoine phần lớn bị chế giễu, nhưng anh ấy dường như không đơn độc trong việc nhân cách hóa AI.

Tuy nhiên, những hệ thống này không có tri giác, và thay vào đó, lừa con người nghĩ rằng họ có một số trí thông minh. Họ bắt chước ngôn ngữ và lặp lại nó một cách ngẫu nhiên mà không có bất kỳ hiểu biết nào về ngôn ngữ hoặc thế giới mà họ mô tả.

Tuy nhiên, Kuyda cho biết con người có thể bị ảnh hưởng bởi công nghệ này.

“Chúng ta cần hiểu rằng [điều này] tồn tại, giống như cách mọi người tin vào ma,” Kuyda nói. "Mọi người đang xây dựng các mối quan hệ và tin tưởng vào điều gì đó."

EU nên cấm máy phát hiện nói dối bằng AI, các nhà hoạt động nói

Đạo luật AI của Liên minh châu Âu, một đề xuất để điều chỉnh công nghệ, vẫn đang được tranh luận và một số chuyên gia đang kêu gọi cấm các thiết bị phát hiện nói dối tự động.

Các công ty tư nhân cung cấp công nghệ cho các quan chức chính phủ để sử dụng ở biên giới. Các thuật toán AI phát hiện và phân tích những thứ như chuyển động mắt, nét mặt và giọng điệu của một người để thử và phân biệt nếu ai đó có thể không nói sự thật. Nhưng các nhà hoạt động và chuyên gia pháp lý tin rằng nó nên bị cấm ở EU theo Đạo luật AI sắp tới.

“Bạn phải chứng minh rằng bạn là người tị nạn và bạn bị cho là kẻ nói dối trừ khi được chứng minh ngược lại,” Petra Molnar, phó giám đốc của Phòng thí nghiệm luật về người tị nạn phi lợi nhuận, nói với Có dây. “Logic đó làm nền tảng cho mọi thứ. Nó làm nền tảng cho các công cụ phát hiện nói dối của AI, đồng thời củng cố thêm khả năng giám sát và đẩy lùi ở biên giới. "

Cố gắng phát hiện xem ai đó có thể đang nói dối bằng cách sử dụng các dấu hiệu hình ảnh và thể chất không chính xác là một khoa học. Các bài kiểm tra đa đồ thị tiêu chuẩn đang bị lung lay và không rõ ràng rằng việc sử dụng các phương pháp tự động hơn có nhất thiết là nó chính xác hơn. Sử dụng công nghệ rủi ro như vậy đối với những người dễ bị tổn thương như người tị nạn không phải là lý tưởng.

AI thực sự có thể cho biết bạn trông bao nhiêu tuổi?

Bất ngờ, bất ngờ - Các thuật toán AI được thiết kế để dự đoán tuổi của ai đó từ hình ảnh không phải lúc nào cũng chính xác.

Trong nỗ lực ngăn chặn việc người dùng trẻ nói dối về tuổi của họ trên các nền tảng mạng xã hội, Meta thông báo họ đang hợp tác với Yoti, một công ty khởi nghiệp về thị giác máy tính, để xác minh tuổi của mọi người. Những người tự thay đổi ngày sinh của mình để đăng ký trên 18 tuổi có tùy chọn tải lên video selfie và công nghệ của Yoti sau đó được sử dụng để dự đoán xem họ có đủ trưởng thành hay không.

Nhưng các thuật toán của nó không phải lúc nào cũng chính xác. Các phóng viên của CNN, người thử nghiệm một bản demo trực tuyến của một phiên bản phần mềm khác trên khuôn mặt của chính họ, cho thấy kết quả là trúng hoặc trượt. Các thuật toán của Yoti đã dự đoán độ tuổi mục tiêu chính xác cho một số người, nhưng trong một trường hợp đã bị lệch vài năm - dự đoán ai đó trông từ 17-21 khi họ thực sự ở độ tuổi ngoài 30.

Hệ thống phân tích video từ những người dùng Meta được cho là gặp khó khăn hơn trong việc ước tính độ tuổi thanh thiếu niên từ 13 đến 17 có tông màu da sẫm hơn. Thật khó để con người đoán được tuổi của ai đó chỉ bằng cách nhìn vào họ, và máy móc có lẽ không tốt hơn nhiều. ®