Microsoft ra mắt tính năng giúp giảm thiểu thông tin sai lệch và “ảo giác AI”

Microsoft đang triển khai tính năng mới có tên là “correction” (sửa lỗi), nâng cao nỗ lực của công ty trong việc chống lại sự thiếu chính xác của AI. Khách hàng sử dụng Microsoft Azure để cung cấp năng lượng cho hệ thống AI của họ giờ đây có thể sử dụng khả năng tự động phát hiện và viết lại nội dung không chính xác trong kết quả đầu ra của AI.

Tính năng “correction” hiện có sẵn ở dạng xem trước như một phần của Azure AI Studio – một bộ công cụ an toàn được thiết kế để phát hiện lỗ hổng, tìm “ảo giác” và chặn lời nhắc độc hại. Sau khi được kích hoạt, hệ thống sửa lỗi sẽ quét và xác định sự không chính xác trong kết quả đầu ra của AI bằng cách so sánh nó với tài liệu nguồn của khách hàng.

Từ đó, nó sẽ đánh dấu lỗi, cung cấp thông tin về lý do tại sao nó không chính xác và viết lại nội dung đang được đề cập – tất cả “trước khi người dùng có thể nhìn thấy” sự không chính xác. Mặc dù đây có vẻ như một cách hữu ích để giải quyết những thông tin vô nghĩa thường được các mô hình AI đưa ra, nhưng nó có thể không phải là một giải pháp hoàn toàn đáng tin cậy.

Vertex AI, nền tảng đám mây của Google dành cho các công ty phát triển hệ thống AI, có một tính năng “căn cứ” các mô hình AI bằng cách kiểm tra kết quả đầu ra với Google Search, dữ liệu của chính công ty và (sớm thôi) các bộ dữ liệu của bên thứ ba.

Trong một tuyên bố với TechCrunch, người phát ngôn của Microsoft cho biết hệ thống “sửa lỗi” sử dụng “các mô hình ngôn ngữ nhỏ và mô hình ngôn ngữ lớn để căn chỉnh kết quả đầu ra với các tài liệu căn cứ”, có nghĩa là nó cũng không tránh khỏi việc mắc lỗi. “Điều quan trọng cần lưu ý là việc phát hiện sự căn cứ không giải quyết được ‘độ chính xác’, mà giúp căn chỉnh kết quả đầu ra của AI tạo sinh với các tài liệu căn cứ”, Microsoft nói với TechCrunch.