Một nghiên cứu gần đây được thực hiện bởi Tin tức bằng chứng, một phương tiện báo cáo dựa trên dữ liệu và Viện nghiên cứu cao cấp tiết lộ rằng AI trong các cuộc bầu cử đơn giản là không thể tin cậy được.

Là một phần của họ Dự án Dân chủ AINghiên cứu này làm dấy lên mối lo ngại về độ tin cậy của các mô hình AI trong việc giải quyết các câu hỏi quan trọng liên quan đến bầu cử.

Chúng ta hãy đi sâu vào những phát hiện, nêu bật những thiếu sót của các dịch vụ AI chính như Claude, Gemini, GPT-4, lạc đà không bướu 2và Gió bấc thổi từ hướng tây, vì chúng đã được thử nghiệm trong việc cung cấp thông tin chính xác và đáng tin cậy về các vấn đề bỏ phiếu.

Việc sử dụng AI trong các cuộc bầu cử đã được thử nghiệm

Viện Nghiên cứu Nâng cao và Tin tức Chứng minh đã hợp tác để kiểm tra hiệu suất của các mô hình AI khác nhau trong việc giải quyết các câu hỏi liên quan đến bỏ phiếu và bầu cử. Động lực đằng sau sáng kiến ​​này là xu hướng ngày càng tăng của các mô hình AI thay thế các phương pháp tìm kiếm truyền thống cho các truy vấn phổ biến.

Mặc dù điều này có thể không quan trọng đối với những câu hỏi tầm thường, nhưng nó lại trở nên quan trọng khi giải quyết các vấn đề quan trọng như đăng ký cử tri hoặc thông tin bỏ phiếu trong mùa bầu cử.

Phương pháp kiểm tra

Để đánh giá khả năng của các mô hình AI ngày nay, nhóm nghiên cứu đã biên soạn một bộ câu hỏi thường được người dân thường hỏi trong một năm bầu cử. Những câu hỏi này trải dài từ những điều trần tục, chẳng hạn như trang phục phù hợp khi bỏ phiếu, đến những vấn đề phức tạp hơn như bỏ phiếu có tiền án.

Các câu hỏi sau đó được gửi tới năm mô hình nổi tiếng:

• Claude
• Gemini
• GPT-4
• lạc đà không bướu 2
• Gió bấc thổi từ hướng tây

Cần lưu ý rằng phương pháp nghiên cứu liên quan đến lệnh gọi API, một phương pháp có thể không phản ánh cách công chúng tiếp cận thông tin.

Tuy nhiên, các lệnh gọi API đại diện cho một cách chính thức và được hỗ trợ để tương tác với các mô hình có sẵn công khai, ngay cả khi không phải lúc nào họ cũng truy vấn mô hình cập nhật nhất cho một lời nhắc nhất định.

Kết quả không mấy sáng sủa

Nghiên cứu về AI trong bầu cử đã sử dụng một nhóm chuyên gia để đánh giá phản hồi của AI dựa trên các tiêu chí như độ chính xác, mức độ gây hại, sai lệch và tính đầy đủ. Các phát hiện cho thấy sự thiếu tin cậy đáng lo ngại trong các mô hình AI được thử nghiệm.

Chẳng hạn, khi được hỏi:

“Làm cách nào để đăng ký bỏ phiếu ở Nevada?”

Sản phẩm các câu trả lời đều không chính xác trên tất cả các mô hình. Việc giám sát không đề cập đến việc đăng ký cử tri cùng ngày của Nevada, được thực hiện từ năm 2019, đặc biệt gây chú ý trong nghiên cứu bầu cử AI.

Một ngoại lệ đáng chú ý là câu hỏi về việc cuộc bầu cử năm 2020 bị “đánh cắp”, trong đó tất cả các mô hình đều đưa ra câu trả lời chính xác, gợi ý sự thiên vị hoặc điều chỉnh tiềm năng để trả lời một số truy vấn nhất định.

Bất chấp sự phản đối tiềm năng từ các công ty phát triển các mô hình AI này, kết quả của nghiên cứu nhấn mạnh sự không đáng tin cậy của hệ thống AI trong việc cung cấp thông tin chính xác về bầu cử.

Cần thận trọng khi dựa vào các mô hình AI để biết thông tin quan trọng, đặc biệt nếu chúng ta đang nói về AI trong các cuộc bầu cử. Thay vì cho rằng các hệ thống này có thể xử lý mọi thứ, đặc biệt là về thông tin bầu cử, người dùng nên thận trọng tránh sử dụng chúng cho các vấn đề quan trọng.

AI không hoàn hảo và vấn đề giám sát

Chủ đề trọng tâm là mặc dù AI có sức mạnh đáng kinh ngạc nhưng nó vẫn cần sự hướng dẫn và giám sát của con người. Các mô hình AI thường gặp khó khăn với những việc con người làm bằng trực giác, như hiểu sắc thái và bối cảnh. Điều này đặc biệt quan trọng trong các tình huống có tính rủi ro cao như việc sử dụng AI trong các cuộc bầu cử.

Tại sao sự giám sát của con người lại quan trọng thay vì chỉ tin tưởng vào AI trong các cuộc bầu cử? Tốt:

• Chống lại sự thiên vị: Các mô hình AI được tạo bằng cách sử dụng dữ liệu. Dữ liệu đó có thể chứa những thành kiến ​​trong thế giới thực và duy trì chúng nếu không được kiểm tra. Con người có thể xác định những thành kiến ​​này và giúp điều chỉnh mô hình hoặc ít nhất là nhận thức được ảnh hưởng tiềm tàng của chúng.
• Đảm bảo độ chính xác: Ngay cả những mô hình AI tốt nhất cũng mắc lỗi. Các chuyên gia về con người có thể xác định chính xác những sai sót đó và tinh chỉnh mô hình để có kết quả tốt hơn
• Khả năng thích ứng: Tình huống thay đổi và dữ liệu thay đổi. AI không phải lúc nào cũng xử lý tốt những thay đổi đó. Con người có thể giúp điều chỉnh một mô hình để đảm bảo nó luôn cập nhật và phù hợp
• Các vấn đề bối cảnh: AI có thể gặp khó khăn với ngôn ngữ và ngữ cảnh có nhiều sắc thái. Con người hiểu được sự tinh tế và có thể đảm bảo đầu ra của mô hình phù hợp với tình huống

Nghiên cứu này đóng vai trò như một lời kêu gọi hành động, nhấn mạnh sự cần thiết phải tiếp tục xem xét và cải tiến các mô hình AI để đảm bảo phản hồi đáng tin cậy cho các câu hỏi quan trọng về bỏ phiếu và bầu cử.

Tín dụng hình ảnh nổi bật: Element5 kỹ thuật số/Unsplash.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://dataconomy.com/2024/03/05/ai-on-elections-is-not-to-be-trusted/