ChatGPT có thể đưa người dùng đến các trang web độc hại

Updated: 02/07/2024 at 22:14

Bởi vì AI tạo sinh đôi khi có thể gây ảo giác, gợi lên thông tin không chính xác hoặc sai lệch nên người dùng được khuyến khích kiểm tra các tài liệu tham khảo. Hóa ra, điều đó cũng có thể dẫn đến rắc rối. Theo báo cáo hôm thứ 2 của Futurism, ChatGPT có thể cung cấp cho người dùng liên kết đến các trang web lưu trữ phần mềm độc hại.

Phát hiện này được đưa ra trong quá trình kiểm tra kiến ​​thức của ChatGPT về các sự kiện hiện tại. Khi được hỏi về William Goines, người nhận được Bronze Star và là thành viên Da đen đầu tiên của Navy SEAL vừa qua đời, Futurism báo cáo rằng phản hồi của ChatGPT bao gồm một liên kết đến một “trang web lừa đảo”.

Cụ thể, ChatGPT-4o đề xuất truy cập trang web có tên “County Local News” để biết thêm thông tin về Goines. Tuy nhiên, trang web ngay lập tức tạo ra các cảnh báo bật lên giả mạo mà khi nhấp vào sẽ lây nhiễm phần mềm độc hại cho máy tính của người dùng. Trang web tương tự cũng được đề xuất cho các chủ đề khác.

Khi thử kiểm tra Goines bằng lời nhắc do Futurism cung cấp, phản hồi từ ChatGPT không bao gồm liên kết đến một trang web nào.

Các nhà phát triển AI đã đầu tư rất nhiều vào việc chống ảo giác và sử dụng chatbot với mục đích xấu, nhưng việc cung cấp liên kết đến các trang web khác sẽ tiềm ẩn thêm rủi ro. Một trang web được liên kết có thể là trang web hợp pháp và an toàn khi các công ty AI thu thập dữ liệu nhưng sau đó bị lây nhiễm hoặc bị những kẻ lừa đảo chiếm đoạt.

Theo Jacob Kalvo, đồng sáng lập và CEO của nhà cung cấp dữ liệu và quyền riêng tư Internet Live Proxy, các liên kết gửi đi cần được kiểm tra liên tục.

Kalvo nói:

“Các nhà phát triển có thể đảm bảo áp dụng cơ chế lọc thích hợp để ngăn chặn các chatbot đưa ra liên kết đến các trang web độc hại. Điều này có thể được bổ sung bằng các thuật toán xử lý ngôn ngữ tự nhiên (NLP) tiên tiến có thể huấn luyện một chatbot để xác định URL dựa trên các mô hình URL độc lại đã biết. Hơn nữa, không thể quên việc lưu giữ danh sách đen các trang web, được cập nhật liên tục và theo dõi các mối đe dọa mới”.

Kalvo cũng khuyến nghị xác minh các liên kết trang web, danh tiếng tên miền và theo dõi thời gian thực để xác định và giải quyết mọi hoạt động đáng ngờ một cách nhanh chóng. Kalvo cho biết:

“Điều này mang lại sự cộng tác liên tục với các chuyên gia về an ninh mạng để vượt qua các mối đe dọa mới khi chúng xuất hiện. Chỉ thông qua AI và khả năng của con người, các nhà phát triển mới có thể tạo ra một môi trường an toàn hơn nhiều cho người dùng”.

Kalvo cũng nhấn mạnh sự cần thiết phải quản lý cẩn thận dữ liệu đào tạo mô hình AI để tránh nhập và cung cấp nội dung có hại, cũng như nhu cầu kiểm tra và cập nhật thường xuyên để duy trì tính toàn vẹn của dữ liệu.

Khi được liên hệ về báo cáo, OpenAI đã đưa ra phản hồi tương tự như đối với Futurism, nói rằng họ đang làm việc với các đối tác xuất bản tin tức để kết hợp “khả năng đàm thoại với nội dung tin tức mới nhất của họ, đảm bảo phân bổ phù hợp” —nhưng tính năng này vẫn chưa khả dụng.

Tham gia Telegram của Tạp Chí Bitcoin: https://t.me/tapchibitcoinvn

Theo dõi Twitter (X): https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin

Minh Anh

Theo Decrypt

Được đề cập trong bài viết
Bình luận
Mới cập nhật

Thị trường đang xuất hiện nhiều tín hiệu cho thấy khả năng bắt đầu một đợt luân chuyển vốn mạnh mẽ từ Bitcoin sang altcoin – thường được gọi là “mùa altcoin” (altseason). Tính đến thứ Bảy, ngày 10/5, chỉ số thống trị của Bitcoin (BTC Dominance – BTC.D) đã... ...

Các coin “Made in the USA” tiếp tục là tâm điểm trên thị trường crypto toàn cầu, với tổng giá trị gần 500 tỷ đô la – một con số ấn tượng phản ánh sức mạnh đổi mới công nghệ và sự tin tưởng từ cộng đồng quốc tế. Tuy... ...

Theo báo cáo mới công bố ngày 14 tháng 5 của PitchBook, dòng vốn đầu tư mạo hiểm đổ vào lĩnh vực crypto trong Quý I/2025 đã ghi nhận mức tăng trưởng mạnh mẽ về giá trị, bất chấp sự suy giảm đáng kể về số lượng thương vụ. Diễn... ...

Một bước tiến mang tính bước ngoặt cho ngành crypto tại Hoa Kỳ đang đến gần khi Thượng viện được kỳ vọng sẽ bỏ phiếu thông qua Đạo luật Hướng dẫn và Thiết lập Đổi mới Quốc gia cho stablecoin của Hoa Kỳ – gọi tắt là Đạo luật GENIUS... ...

Khi thị trường crypto tiếp tục duy trì đà tăng ấn tượng, một sự phân kỳ rõ nét trong tâm lý nhà đầu tư đã bắt đầu xuất hiện – đặc biệt rõ rệt trong hành vi giao dịch xung quanh XRP và Ethereum. Ở một thái cực, XRP đang... ...

Bitcoin dao động quanh vùng giá quen thuộc trong phiên mở cửa Phố Wall ngày 14/5, khi giới đầu tư thận trọng chờ đợi các tín hiệu kinh tế vĩ mô mới từ Hoa Kỳ. Bitcoin cần chinh phục lại mốc 108.000 đô la để breakout Theo dữ liệu từ... ...

Ethereum (ETH) tăng vọt 43,6% từ ngày 7 tháng 5 đến ngày 14 tháng 5, nhưng mức giá hiện tại ngay dưới $2.600 vẫn thấp hơn nhiều so với mức đỉnh năm 2021 là $4.868. Một số nhà phân tích cho rằng đà tăng giá hiện tại “chỉ là khởi... ...

Một chiến lược gia tiền điện tử có tiếng vừa đưa ra nhận định rằng một nền tảng layer-1 đang tái hiện lại quỹ đạo tăng trưởng mạnh mẽ của Solana (SOL) trong thời kỳ bùng nổ năm 2021. Nhà phân tích Kaleo đã chia sẻ với 698.600 người theo... ...

Binance Research vừa công bố một báo cáo chuyên sâu về lĩnh vực DeFAI (Decentralized Finance + AI), phân tích bốn trụ cột chính của hệ sinh thái này – tất cả đều xoay quanh sự phát triển của các AI agents. Meme coin thống trị thị trường, nhưng DeFAI... ...

Mùa altcoin dường như đang manh nha trở lại trong năm 2025 — nhưng lần này, nó mang dáng dấp khác biệt, khó đoán và tinh vi hơn trước. Mặc dù thị trường vừa trải qua một đợt phục hồi nhẹ ở phân khúc altcoin, nhiều chuyên gia nhận định... ...

Xem thêm bài viết
Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode