ChatGPT có thể đưa người dùng đến các trang web độc hại

Updated: 02/07/2024 at 22:14

Bởi vì AI tạo sinh đôi khi có thể gây ảo giác, gợi lên thông tin không chính xác hoặc sai lệch nên người dùng được khuyến khích kiểm tra các tài liệu tham khảo. Hóa ra, điều đó cũng có thể dẫn đến rắc rối. Theo báo cáo hôm thứ 2 của Futurism, ChatGPT có thể cung cấp cho người dùng liên kết đến các trang web lưu trữ phần mềm độc hại.

Phát hiện này được đưa ra trong quá trình kiểm tra kiến ​​thức của ChatGPT về các sự kiện hiện tại. Khi được hỏi về William Goines, người nhận được Bronze Star và là thành viên Da đen đầu tiên của Navy SEAL vừa qua đời, Futurism báo cáo rằng phản hồi của ChatGPT bao gồm một liên kết đến một “trang web lừa đảo”.

Cụ thể, ChatGPT-4o đề xuất truy cập trang web có tên “County Local News” để biết thêm thông tin về Goines. Tuy nhiên, trang web ngay lập tức tạo ra các cảnh báo bật lên giả mạo mà khi nhấp vào sẽ lây nhiễm phần mềm độc hại cho máy tính của người dùng. Trang web tương tự cũng được đề xuất cho các chủ đề khác.

Khi thử kiểm tra Goines bằng lời nhắc do Futurism cung cấp, phản hồi từ ChatGPT không bao gồm liên kết đến một trang web nào.

Các nhà phát triển AI đã đầu tư rất nhiều vào việc chống ảo giác và sử dụng chatbot với mục đích xấu, nhưng việc cung cấp liên kết đến các trang web khác sẽ tiềm ẩn thêm rủi ro. Một trang web được liên kết có thể là trang web hợp pháp và an toàn khi các công ty AI thu thập dữ liệu nhưng sau đó bị lây nhiễm hoặc bị những kẻ lừa đảo chiếm đoạt.

Theo Jacob Kalvo, đồng sáng lập và CEO của nhà cung cấp dữ liệu và quyền riêng tư Internet Live Proxy, các liên kết gửi đi cần được kiểm tra liên tục.

Kalvo nói:

“Các nhà phát triển có thể đảm bảo áp dụng cơ chế lọc thích hợp để ngăn chặn các chatbot đưa ra liên kết đến các trang web độc hại. Điều này có thể được bổ sung bằng các thuật toán xử lý ngôn ngữ tự nhiên (NLP) tiên tiến có thể huấn luyện một chatbot để xác định URL dựa trên các mô hình URL độc lại đã biết. Hơn nữa, không thể quên việc lưu giữ danh sách đen các trang web, được cập nhật liên tục và theo dõi các mối đe dọa mới”.

Kalvo cũng khuyến nghị xác minh các liên kết trang web, danh tiếng tên miền và theo dõi thời gian thực để xác định và giải quyết mọi hoạt động đáng ngờ một cách nhanh chóng. Kalvo cho biết:

“Điều này mang lại sự cộng tác liên tục với các chuyên gia về an ninh mạng để vượt qua các mối đe dọa mới khi chúng xuất hiện. Chỉ thông qua AI và khả năng của con người, các nhà phát triển mới có thể tạo ra một môi trường an toàn hơn nhiều cho người dùng”.

Kalvo cũng nhấn mạnh sự cần thiết phải quản lý cẩn thận dữ liệu đào tạo mô hình AI để tránh nhập và cung cấp nội dung có hại, cũng như nhu cầu kiểm tra và cập nhật thường xuyên để duy trì tính toàn vẹn của dữ liệu.

Khi được liên hệ về báo cáo, OpenAI đã đưa ra phản hồi tương tự như đối với Futurism, nói rằng họ đang làm việc với các đối tác xuất bản tin tức để kết hợp “khả năng đàm thoại với nội dung tin tức mới nhất của họ, đảm bảo phân bổ phù hợp” —nhưng tính năng này vẫn chưa khả dụng.

Tham gia Telegram của Tạp Chí Bitcoin: https://t.me/tapchibitcoinvn

Theo dõi Twitter (X): https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin

Minh Anh

Theo Decrypt

Được đề cập trong bài viết
Bình luận
Mới cập nhật

Tổng vốn hóa thị trường tiền điện tử đã tăng thêm 28,5 tỷ USD trong bối cảnh các điều kiện chung dần ổn định trở lại. Bitcoin nối dài đà phục hồi, hiện được giao dịch quanh ngưỡng $107.619. Đáng chú ý, Pi Network ghi nhận mức tăng mạnh nhất... ...

Công ty đầu tư Nhật Bản Metaplanet vừa mua thêm 1.234 Bitcoin (BTC) với tổng trị giá khoảng 132,7 triệu USD, chỉ một ngày sau khi công bố huy động thành công 515 triệu USD để phục vụ chiến lược tích trữ Bitcoin dài hạn. Trong báo cáo gửi lên... ...

Trong 24 giờ qua, Binance Coin (BNB) duy trì trạng thái tương đối ổn định với mức biến động nhẹ 0,56%, không ghi nhận bất kỳ đợt tăng giá đáng kể nào. Tuy nhiên, đằng sau sự ổn định bề ngoài này là những tín hiệu đáng lo ngại: các... ...

Đồng stablecoin A7A5, được bảo chứng bằng đồng ruble và ra mắt tại Kyrgyzstan nhằm hỗ trợ Nga thực hiện các giao dịch xuyên biên giới, đã ghi nhận khối lượng giao dịch lên tới 9,3 tỷ USD chỉ trong vòng bốn tháng – một con số gây sửng sốt.... ...

Giá Ethereum (ETH) đã giảm 1% trong vòng 24 giờ qua, ngay sau khi Bit Digital (BTBT) — công ty khai thác Bitcoin được niêm yết trên sàn Nasdaq — bất ngờ công bố kế hoạch chuyển hướng sang chiến lược staking và tích lũy Ethereum trong danh mục tài... ...

Aptos (APT) đã bật lên từ đáy gần đây, vượt qua kênh giảm dần để đạt mức đỉnh cục bộ $5,14 vào ngày 25 tháng 6. Điều này đánh dấu sự phục hồi mạnh mẽ từ mức thấp trước đó là $3,70. Vào thời điểm hiện tại, APT đang được... ...

Ethereum (ETH) đang giao dịch gần mức breakout kỹ thuật quan trọng khi vốn đầu tư của các tổ chức lớn vào altcoin hàng đầu đang tăng lên. Việc mua lượng Ethereum trị giá 98 triệu USD gần đây của BlackRock và những lo ngại mới về chu kỳ altcoin... ...

Tác động từ lệnh ngừng bắn giữa Israel và Iran dường như đã được thị trường hấp thụ hết, khi đà sôi động đầu tuần nhường chỗ cho không khí giao dịch trầm lắng hơn trong hôm nay. Chỉ hai đồng coin – Pi và Maple Finance – ghi nhận... ...

Các trader Bitcoin (BTC) đang theo dõi chặt chẽ ngày hết hạn hợp đồng quyền chọn hàng tháng trị giá 20 tỷ USD được ấn định vào thứ Sáu. Mặc dù Bitcoin đã giảm 1,5% trong 30 ngày qua, nhưng các trader sử dụng quyền chọn để phòng ngừa rủi... ...

Trong bảy ngày qua, giá ETH đã giảm 4% xuống còn 2.418 USD, trái ngược với xu hướng tăng 1% của tổng vốn hóa thị trường tiền điện tử. Diễn biến này làm dấy lên nghi ngờ về khả năng ETH có thể phục hồi lên mức 4.000 USD, nhất... ...

Xem thêm bài viết
Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode