ChatGPT có thể đưa người dùng đến các trang web độc hại

Updated: 02/07/2024 at 22:14

Bởi vì AI tạo sinh đôi khi có thể gây ảo giác, gợi lên thông tin không chính xác hoặc sai lệch nên người dùng được khuyến khích kiểm tra các tài liệu tham khảo. Hóa ra, điều đó cũng có thể dẫn đến rắc rối. Theo báo cáo hôm thứ 2 của Futurism, ChatGPT có thể cung cấp cho người dùng liên kết đến các trang web lưu trữ phần mềm độc hại.

Phát hiện này được đưa ra trong quá trình kiểm tra kiến ​​thức của ChatGPT về các sự kiện hiện tại. Khi được hỏi về William Goines, người nhận được Bronze Star và là thành viên Da đen đầu tiên của Navy SEAL vừa qua đời, Futurism báo cáo rằng phản hồi của ChatGPT bao gồm một liên kết đến một “trang web lừa đảo”.

Cụ thể, ChatGPT-4o đề xuất truy cập trang web có tên “County Local News” để biết thêm thông tin về Goines. Tuy nhiên, trang web ngay lập tức tạo ra các cảnh báo bật lên giả mạo mà khi nhấp vào sẽ lây nhiễm phần mềm độc hại cho máy tính của người dùng. Trang web tương tự cũng được đề xuất cho các chủ đề khác.

Khi thử kiểm tra Goines bằng lời nhắc do Futurism cung cấp, phản hồi từ ChatGPT không bao gồm liên kết đến một trang web nào.

Các nhà phát triển AI đã đầu tư rất nhiều vào việc chống ảo giác và sử dụng chatbot với mục đích xấu, nhưng việc cung cấp liên kết đến các trang web khác sẽ tiềm ẩn thêm rủi ro. Một trang web được liên kết có thể là trang web hợp pháp và an toàn khi các công ty AI thu thập dữ liệu nhưng sau đó bị lây nhiễm hoặc bị những kẻ lừa đảo chiếm đoạt.

Theo Jacob Kalvo, đồng sáng lập và CEO của nhà cung cấp dữ liệu và quyền riêng tư Internet Live Proxy, các liên kết gửi đi cần được kiểm tra liên tục.

Kalvo nói:

“Các nhà phát triển có thể đảm bảo áp dụng cơ chế lọc thích hợp để ngăn chặn các chatbot đưa ra liên kết đến các trang web độc hại. Điều này có thể được bổ sung bằng các thuật toán xử lý ngôn ngữ tự nhiên (NLP) tiên tiến có thể huấn luyện một chatbot để xác định URL dựa trên các mô hình URL độc lại đã biết. Hơn nữa, không thể quên việc lưu giữ danh sách đen các trang web, được cập nhật liên tục và theo dõi các mối đe dọa mới”.

Kalvo cũng khuyến nghị xác minh các liên kết trang web, danh tiếng tên miền và theo dõi thời gian thực để xác định và giải quyết mọi hoạt động đáng ngờ một cách nhanh chóng. Kalvo cho biết:

“Điều này mang lại sự cộng tác liên tục với các chuyên gia về an ninh mạng để vượt qua các mối đe dọa mới khi chúng xuất hiện. Chỉ thông qua AI và khả năng của con người, các nhà phát triển mới có thể tạo ra một môi trường an toàn hơn nhiều cho người dùng”.

Kalvo cũng nhấn mạnh sự cần thiết phải quản lý cẩn thận dữ liệu đào tạo mô hình AI để tránh nhập và cung cấp nội dung có hại, cũng như nhu cầu kiểm tra và cập nhật thường xuyên để duy trì tính toàn vẹn của dữ liệu.

Khi được liên hệ về báo cáo, OpenAI đã đưa ra phản hồi tương tự như đối với Futurism, nói rằng họ đang làm việc với các đối tác xuất bản tin tức để kết hợp “khả năng đàm thoại với nội dung tin tức mới nhất của họ, đảm bảo phân bổ phù hợp” —nhưng tính năng này vẫn chưa khả dụng.

Tham gia Telegram của Tạp Chí Bitcoin: https://t.me/tapchibitcoinvn

Theo dõi Twitter (X): https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin

Minh Anh

Theo Decrypt

Được đề cập trong bài viết
Bình luận
Mới cập nhật

Sau khi Bitcoin (BTC) thiết lập mức đỉnh lịch sử mới trong tuần qua, một nhóm chuyên gia cho rằng đà tăng của tiền điện tử này vẫn chưa dừng lại — thậm chí có thể đạt tới mốc $200.000 trong năm 2025. Trong một phân tích được công bố... ...

BONK đã ghi nhận đà tăng giá đáng kể trong thời gian gần đây, giúp nhà đầu tư phục hồi phần lớn khoản lỗ từ đầu năm 2025. Dù vậy, memecoin “chú chó” này vẫn còn một chặng đường dài để có thể hoàn toàn xoay chuyển xu hướng giảm... ...

Trader nổi tiếng trên nền tảng Hyperliquid – James Wynn – vừa nâng tổng giá trị vị thế Long Bitcoin sử dụng đòn bẩy 40x lên tới 1,25 tỷ đô la, ngay sau khi chốt lời thành công với khoản lợi nhuận ấn tượng 25,2 triệu đô la từ giao... ...

Một phân tích gần đây từ BarriC – được xem là một trong những tiếng nói có ảnh hưởng nhất trong giới đầu tư XRP – cho thấy mức giá hiện tại của XRP đang mở ra một cơ hội đầu tư hiếm có. Với giá giao dịch quanh mốc... ...

Khi Bitcoin tiếp tục phá vỡ các kỷ lục và đạt mức cao nhất mọi thời đại (ATH), một làn sóng đầu tư hoàn toàn mới đang định hình lại thị trường tài chính toàn cầu. Lần này, không chỉ là câu chuyện của các quỹ đầu tư mạo hiểm... ...

Theo một báo cáo mới do Bitwise Asset Management và UTXO Management công bố ngày 23/5, 20% tổng nguồn cung Bitcoin (BTC) có thể sẽ được các tổ chức tài chính đưa vào bảng cân đối kế toán trước cuối năm 2026. Báo cáo có tiêu đề “Khám phá lý... ...

Avalanche (AVAX) đã giảm 10% trong 24 giờ qua. Xu hướng này đã kéo dài trong suốt tháng qua, với mức tăng lũy kế cao nhất chỉ đạt 5,32%. Phân tích thị trường hiện tại chỉ ra nhiều khả năng về hướng đi của tài sản này, đặc biệt trong... ...

Trong những năm gần đây, trí tuệ nhân tạo (AI) và công nghệ blockchain đã trở thành hai trong số những đột phá công nghệ quan trọng nhất, định hình lại cách thức vận hành của thế giới số. Khi AI ngày càng phát triển, việc kết hợp AI với... ...

Thị trường crypto đang chuyển mình bước vào một kỷ nguyên mới — một giai đoạn bất thường đến mức khiến ngay cả những nhà đầu tư kỳ cựu cũng phải dè chừng. Bitcoin không chỉ tăng trưởng mạnh mẽ, mà còn giữ vững vị thế dẫn đầu với sự... ...

Dogwifhat (WIF) đang thể hiện một màn bứt phá đầy ấn tượng, tiến sát mốc $1,50. Tuy nhiên, cú tăng tốc này không hề ngẫu nhiên mà là kết quả của một giai đoạn tích lũy âm thầm nhưng đầy chiến lược. Trong nhiều tuần liền, WIF lặng lẽ đi... ...

Xem thêm bài viết
Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode