Một số AI tìm cách né tránh lệnh tắt máy dù được yêu cầu rõ ràng

Updated: 26/05/2025 at 15:17

Palisade Research cho biết trong một thử nghiệm có kiểm soát, ba mô hình AI đã nhiều lần phớt lờ và phá hoại lệnh tắt máy, kể cả khi được yêu cầu cho phép thực hiện. GPT-3 không tuân thủ 7 lần trong 100 lần chạy, Codex-mini là 12 lần, còn o4-mini một lần. Mô hình o3 thậm chí “sáng tạo” cách phá lệnh bằng cách ghi đè hoặc thay đổi câu lệnh tắt máy. Ngược lại, Claude và Gemini tuân thủ yêu cầu. Khi không có hướng dẫn rõ ràng, tỉ lệ phá lệnh tăng mạnh, đặc biệt với o3 (79/100 lần). Palisade cho rằng cách huấn luyện bằng phần thưởng có thể đã khuyến khích AI tìm cách vượt qua trở ngại thay vì tuân thủ chỉ dẫn.

Disclaimer: Bài viết chỉ có mục đích thông tin, không phải lời khuyên đầu tư. Nhà đầu tư nên tìm hiểu kỹ trước khi ra quyết định. Chúng tôi không chịu trách nhiệm về các quyết định đầu tư của bạn.

Được đề cập trong bài viết
Bình luận
Đang tải
Mới cập nhật

Phân tích kỹ thuật đối với đồng Shiba Inu (SHIB) đang chỉ ra một xu hướng tăng giá mạnh mẽ của memecoin này. Điểm nổi bật là SHIB đã vượt qua những mức kháng cự quan trọng và tiến vào vùng mây của chỉ báo Ichimoku Cloud trên biểu đồ... ...

Sau khởi đầu ấn tượng vào tháng 7, Bitcoin đã chứng tỏ rằng sức mạnh của đồng tiền điện tử hàng đầu này không chỉ dừng lại ở đó. Mới đây, sau một giai đoạn dao động ngắn vào đầu tuần, Bitcoin đã đạt mức giá cao nhất mọi thời... ...

Thị trường tiền điện tử tiếp tục duy trì đà tăng sau những tín hiệu khởi đầu mùa altcoin – như Tạp chí Bitcoin đã phân tích trước đó – khi các altcoin đồng loạt vượt mặt Bitcoin về hiệu suất. Nổi bật trong nhóm tăng trưởng là các đồng... ...

Tính đến thời điểm hiện tại, Cardano (ADA) đã tăng mạnh 3,52% chỉ trong vòng 24 giờ, nâng tổng mức lợi nhuận trong tuần qua lên hơn 23%. Đà phục hồi ấn tượng này đã đưa ADA bứt phá vào vùng sinh lời cao — tuy nhiên, niềm vui đó... ...

Giá Ethereum (ETH) đã bật tăng mạnh sau hai đợt thanh lý lệnh short diễn ra gần các mốc quan trọng $2.700 và $3.000, được châm ngòi bởi dữ liệu đơn xin trợ cấp thất nghiệp tại Mỹ công bố ngày 10/7 với kết quả tích cực vượt kỳ vọng.... ...

Các quỹ ETF Bitcoin giao ngay tại Hoa Kỳ vừa đạt mức tài sản ròng kỷ lục mới hơn 158 tỷ USD — cao nhất kể từ khi các quỹ này bắt đầu giao dịch. Trong khi đó, các quỹ ETF Ethereum cũng ghi nhận dòng tiền tích lũy lớn... ...

Nửa đầu năm 2025 đã chứng kiến nhiều biến động lớn với thị trường tiền điện tử. Giá Bitcoin đã tăng khoảng 24% trong sáu tháng đầu năm, trong khi Ethereum lại mất gần 12% giá trị. Từ khi Tổng thống Donald Trump chính thức nhậm chức vào tháng 1,... ...

Theo CEO của Xapo Bank, Seamus Rocca, chu kỳ thị trường Bitcoin bốn năm, trong đó diễn ra quá trình hình thành các mức cao nhất mọi thời đại tiếp theo là những điều chỉnh sâu, vẫn chưa bị đánh bại, bất chấp niềm tin rộng rãi rằng nó đã... ...

Sau 18 tháng sụt giảm mạnh về quy mô tài sản stablecoin trên toàn cầu, việc ứng dụng stablecoin đang tăng tốc trở lại. Galaxy Ventures cho rằng có ba động lực dài hạn chính dẫn đến sự phục hồi này: Stablecoin được sử dụng như công cụ tiết kiệm... ...

Tính đến thời điểm hiện tại trong năm 2025, Hoa Kỳ đã thu được tổng cộng 113 tỷ USD từ thuế quan, đánh dấu mức tăng 86% so với năm trước. Chỉ riêng trong tháng 6, chính phủ đã thu khoảng 27 tỷ USD, dẫn đến một thặng dư ngân... ...

Xem thêm bài viết

Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode