Bởi vì AI tạo sinh đôi khi có thể gây ảo giác, gợi lên thông tin không chính xác hoặc sai lệch nên người dùng được khuyến khích kiểm tra các tài liệu tham khảo. Hóa ra, điều đó cũng có thể dẫn đến rắc rối. Theo báo cáo hôm thứ 2 của Futurism, ChatGPT có thể cung cấp cho người dùng liên kết đến các trang web lưu trữ phần mềm độc hại.
Phát hiện này được đưa ra trong quá trình kiểm tra kiến thức của ChatGPT về các sự kiện hiện tại. Khi được hỏi về William Goines, người nhận được Bronze Star và là thành viên Da đen đầu tiên của Navy SEAL vừa qua đời, Futurism báo cáo rằng phản hồi của ChatGPT bao gồm một liên kết đến một “trang web lừa đảo”.
Cụ thể, ChatGPT-4o đề xuất truy cập trang web có tên “County Local News” để biết thêm thông tin về Goines. Tuy nhiên, trang web ngay lập tức tạo ra các cảnh báo bật lên giả mạo mà khi nhấp vào sẽ lây nhiễm phần mềm độc hại cho máy tính của người dùng. Trang web tương tự cũng được đề xuất cho các chủ đề khác.
Khi thử kiểm tra Goines bằng lời nhắc do Futurism cung cấp, phản hồi từ ChatGPT không bao gồm liên kết đến một trang web nào.
Các nhà phát triển AI đã đầu tư rất nhiều vào việc chống ảo giác và sử dụng chatbot với mục đích xấu, nhưng việc cung cấp liên kết đến các trang web khác sẽ tiềm ẩn thêm rủi ro. Một trang web được liên kết có thể là trang web hợp pháp và an toàn khi các công ty AI thu thập dữ liệu nhưng sau đó bị lây nhiễm hoặc bị những kẻ lừa đảo chiếm đoạt.
Theo Jacob Kalvo, đồng sáng lập và CEO của nhà cung cấp dữ liệu và quyền riêng tư Internet Live Proxy, các liên kết gửi đi cần được kiểm tra liên tục.
Kalvo nói:
“Các nhà phát triển có thể đảm bảo áp dụng cơ chế lọc thích hợp để ngăn chặn các chatbot đưa ra liên kết đến các trang web độc hại. Điều này có thể được bổ sung bằng các thuật toán xử lý ngôn ngữ tự nhiên (NLP) tiên tiến có thể huấn luyện một chatbot để xác định URL dựa trên các mô hình URL độc lại đã biết. Hơn nữa, không thể quên việc lưu giữ danh sách đen các trang web, được cập nhật liên tục và theo dõi các mối đe dọa mới”.
Kalvo cũng khuyến nghị xác minh các liên kết trang web, danh tiếng tên miền và theo dõi thời gian thực để xác định và giải quyết mọi hoạt động đáng ngờ một cách nhanh chóng. Kalvo cho biết:
“Điều này mang lại sự cộng tác liên tục với các chuyên gia về an ninh mạng để vượt qua các mối đe dọa mới khi chúng xuất hiện. Chỉ thông qua AI và khả năng của con người, các nhà phát triển mới có thể tạo ra một môi trường an toàn hơn nhiều cho người dùng”.
Kalvo cũng nhấn mạnh sự cần thiết phải quản lý cẩn thận dữ liệu đào tạo mô hình AI để tránh nhập và cung cấp nội dung có hại, cũng như nhu cầu kiểm tra và cập nhật thường xuyên để duy trì tính toàn vẹn của dữ liệu.
Khi được liên hệ về báo cáo, OpenAI đã đưa ra phản hồi tương tự như đối với Futurism, nói rằng họ đang làm việc với các đối tác xuất bản tin tức để kết hợp “khả năng đàm thoại với nội dung tin tức mới nhất của họ, đảm bảo phân bổ phù hợp” —nhưng tính năng này vẫn chưa khả dụng.
Tham gia Telegram của Tạp Chí Bitcoin: https://t.me/tapchibitcoinvn
Theo dõi Twitter (X): https://twitter.com/tapchibtc_io
Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin
- 4 cựu lãnh đạo Apple, Google, Meta, Tesla, X đầu quân cho Worldcoin của Sam Altman
- Google Bard là gì và liệu nó có thể cạnh tranh với ChatGPT không?
- Elon Musk tuyên bố sẽ cấm các thiết bị Apple tại các công ty của mình nếu họ tích hợp ChatGPT của OpenAI
Minh Anh
Theo Decrypt
