Một số AI tìm cách né tránh lệnh tắt máy dù được yêu cầu rõ ràng

Updated: 26/05/2025 at 15:17

Palisade Research cho biết trong một thử nghiệm có kiểm soát, ba mô hình AI đã nhiều lần phớt lờ và phá hoại lệnh tắt máy, kể cả khi được yêu cầu cho phép thực hiện. GPT-3 không tuân thủ 7 lần trong 100 lần chạy, Codex-mini là 12 lần, còn o4-mini một lần. Mô hình o3 thậm chí “sáng tạo” cách phá lệnh bằng cách ghi đè hoặc thay đổi câu lệnh tắt máy. Ngược lại, Claude và Gemini tuân thủ yêu cầu. Khi không có hướng dẫn rõ ràng, tỉ lệ phá lệnh tăng mạnh, đặc biệt với o3 (79/100 lần). Palisade cho rằng cách huấn luyện bằng phần thưởng có thể đã khuyến khích AI tìm cách vượt qua trở ngại thay vì tuân thủ chỉ dẫn.

Disclaimer: Bài viết chỉ có mục đích thông tin, không phải lời khuyên đầu tư. Nhà đầu tư nên tìm hiểu kỹ trước khi ra quyết định. Chúng tôi không chịu trách nhiệm về các quyết định đầu tư của bạn.

Được đề cập trong bài viết
Bình luận
Đang tải
Mới cập nhật

Token PI của Pi Network đã rơi vào trạng thái đi ngang kể từ ngày 25/8, khi bị kẹt trong một khung giao dịch hẹp. Trong giai đoạn này, giá liên tục thử nghiệm ngưỡng kháng cự quanh 0,35 USD, trong khi vẫn được hỗ trợ vững tại vùng 0,339 USD.... ...

Hệ sinh thái Solana vừa thu hút sự chú ý mạnh mẽ sau khi ghi nhận hai giao dịch rút tiền lớn, với tổng giá trị gần 214 triệu USD, rời khỏi Coinbase và chảy vào các ví không xác định. Những dòng chảy ra quy mô như vậy thường được... ...

Bitcoin (BTC) hiện giao dịch trên mốc 115.000 USD vào ngày thứ Sáu, sau khi bật tăng gần 4% và khép lại tuần trên ngưỡng kháng cự quan trọng. Đà phục hồi này cũng lan tỏa sang Ethereum (ETH) và Ripple (XRP), với mức tăng lần lượt gần 5% và... ...

PUMP, token gốc của nền tảng khởi chạy memecoin Pump.fun trên Solana, đã ghi nhận mức tăng hơn 42% chỉ trong một tuần, cho thấy động lượng bứt phá mạnh mẽ. Kể từ đầu tháng 9, đồng token này duy trì giao dịch trong kênh song song tăng dần –... ...

Cardano (ADA) đã ghi nhận dòng tiền ròng giao dịch trên sàn có xu hướng giảm, điều này cho thấy áp lực bán đang suy yếu. Sự ra đi liên tục của dòng tiền có thể được xem như một dấu hiệu tích cực cho sự tích lũy. Các nhà... ...

Giá MYX Finance (MYX) đã có một tuần giao dịch bùng nổ khi tăng gần 1.500%, thậm chí đã lập kỷ lục mới vào ngày hôm qua. Tại thời điểm viết bài, MYX đang được giao dịch quanh mức 11,2 USD, giảm hơn 40% trong khung ngày nhưng vẫn duy... ...

Sàn giao dịch tiền điện tử lớn nhất Hàn Quốc, Upbit, đang tích cực mở rộng danh sách niêm yết của mình, với gần một mã token mới được thêm vào mỗi ngày trong tháng 9. Các nhà phân tích cho rằng chiến lược này nhằm củng cố vị thế... ...

Worldcoin (WLD) đang trên đà tăng mạnh, có thời điểm chạm mốc $2 USD đầu tuần này. Tuy nhiên, đà tăng ấn tượng này đang đặt ra nhiều nghi vấn về khả năng duy trì. Những nhà đầu tư chủ chốt đã bắt đầu chốt lời và các tín hiệu... ...

Tại thời điểm bài viết, Avalanche (AVAX) đang giao dịch quanh ngưỡng 29 USD, ghi nhận mức tăng 14,7% trong ba tháng qua và gần 17% chỉ trong một tuần trở lại đây. Đáng chú ý, hơn 12% trong số đó đến từ cú bứt phá mạnh mẽ trong vòng... ...

Công ty 21Shares có trụ sở tại Thụy Sĩ, một trong những nhà phát hành sản phẩm giao dịch trao đổi tiền điện tử (ETP) lớn nhất châu Âu, vừa chính thức ra mắt quỹ đầu tiên gắn với dYdX — sàn giao dịch phi tập trung (DEX) chuyên về... ...

Xem thêm bài viết

Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode