Một số AI tìm cách né tránh lệnh tắt máy dù được yêu cầu rõ ràng

Updated: 26/05/2025 at 15:17

Palisade Research cho biết trong một thử nghiệm có kiểm soát, ba mô hình AI đã nhiều lần phớt lờ và phá hoại lệnh tắt máy, kể cả khi được yêu cầu cho phép thực hiện. GPT-3 không tuân thủ 7 lần trong 100 lần chạy, Codex-mini là 12 lần, còn o4-mini một lần. Mô hình o3 thậm chí “sáng tạo” cách phá lệnh bằng cách ghi đè hoặc thay đổi câu lệnh tắt máy. Ngược lại, Claude và Gemini tuân thủ yêu cầu. Khi không có hướng dẫn rõ ràng, tỉ lệ phá lệnh tăng mạnh, đặc biệt với o3 (79/100 lần). Palisade cho rằng cách huấn luyện bằng phần thưởng có thể đã khuyến khích AI tìm cách vượt qua trở ngại thay vì tuân thủ chỉ dẫn.

Disclaimer: Bài viết chỉ có mục đích thông tin, không phải lời khuyên đầu tư. Nhà đầu tư nên tìm hiểu kỹ trước khi ra quyết định. Chúng tôi không chịu trách nhiệm về các quyết định đầu tư của bạn.

Được đề cập trong bài viết
Bình luận
Đang tải
Mới cập nhật

Sàn OKX vừa thông báo sẽ hủy niêm yết các cặp giao dịch sau do “giám sát thị trường và phản hồi từ người dùng”: ZERO/USDT, ZERO/US D PRQ/USDT, PRQ/USD IQ/USDT, IQ/USD ARTY/USDT, ARTY/USD SAMO/USDT, SAMO/USD USDT/USDC ⏰ Thời gian thực hiện: từ 15:00 đến 17:00 ngày 4/6/2025 (giờ Việt... ...

Nvidia ngoài việc là công ty lớn nhất thế giới, còn đóng vai trò then chốt trong sự phát triển của trí tuệ nhân tạo (AI). Do vị thế nổi bật trong ngành này, các altcoin liên quan đến AI đã phản ứng thất thường sau các báo cáo lợi... ...

SharpLink Gaming (SBET) niêm yết trên Nasdaq đã công bố khoản đầu tư trị giá 425 triệu USD, mua lại khoảng 69,1 triệu cổ phiếu với giá $6,15 mỗi cổ phiếu để thành lập công ty quỹ Ethereum đầu tiên niêm yết trên Nasdaq. Được dẫn đầu bởi nhà đồng... ...

Hyperliquid (HYPE) đã ghi nhận mức tăng ấn tượng 47% trong vòng một tuần và vọt lên tới 115% trong 30 ngày qua, phản ánh làn sóng giao dịch sôi động và sự quan tâm ngày càng lớn từ giới đầu tư. Nhờ đó, nền tảng này hiện đã vươn... ...

BlackRock đã âm thầm tăng mua cổ phần trong quỹ ETF Bitcoin của mình, cho thấy cam kết ngày càng mạnh mẽ của nhà quản lý tài sản này đối với tiền điện tử, như một phần trong chiến lược đa dạng hóa đầu tư rộng lớn hơn. Tính đến... ...

Toàn cảnh thị trường memecoin ghi nhận mức lao dốc 5,59% trên toàn phân khúc tại thời điểm bài viết được thực hiện, phản ánh tâm lý bi quan lan rộng trong cộng đồng đầu tư. Đáng chú ý, bốn cái tên dẫn đầu về vốn hóa – BONK, FARTCOIN,... ...

Pi Network (PI) đã giao dịch dưới $0,80 trong ba ngày qua, bị kẹt lại trong giai đoạn củng cố ngay trên mức hỗ trợ quan trọng. Các chỉ báo kỹ thuật vẽ nên một bức tranh thận trọng, với Ichimoku Cloud cho thấy áp lực giảm giá liên tục... ...

Ngày 28/5/2025, một trong những vụ án lừa đảo tiền ảo lớn nhất Việt Nam đã được Công an Đồng Nai phá tan, khi Nguyễn Quốc Hùng (41 tuổi), Bùi Thị Thanh Nga (34 tuổi) cùng 3 đồng phạm bị bắt giữ trong đường dây chiếm đoạt số tiền khổng... ...

Mức cao kỷ lục gần đây của Bitcoin là 111.970 USD đã khơi dậy sự lạc quan trong số những người tham gia thị trường tiền điện tử, nhưng liệu điều đó có tiếp tục diễn ra trong quý III năm nay hay không vẫn còn chưa chắc chắn, các... ...

Sau thông tin Hoa Kỳ và Liên minh châu Âu tạm thời đình chỉ các mức thuế nhập khẩu qua lại, thị trường chứng khoán toàn cầu đồng loạt khởi sắc. Chỉ số S&P 500 đã tăng mạnh 1,5% trong phiên giao dịch ngày 27/5, phản ánh tâm lý lạc... ...

Xem thêm bài viết
Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode