Các mô hình AI như ChatGPT được coi là rủi ro mới nổi đáng lo ngại đối với doanh nghiệp

Updated: 14/08/2023 at 6:00

Trong một cuộc khảo sát gần đây về các nhà điều hành rủi ro tại 249 tổ chức do công ty tư vấn và nghiên cứu công nghệ Mỹ Gartner thực hiện, các mô hình AI tạo sinh như ChatGPT của OpenAI được coi là rủi ro mới nổi đáng lo ngại thứ hai đối với doanh nghiệp.

AI

Theo một bài đăng trên blog hôm thứ 3 về cuộc khảo sát của Gartner, các chuyên gia tại công ty tư vấn đã xác định 3 điểm cấp bách cần được giải quyết để giảm thiểu rủi ro từ các mô hình ngôn ngữ lớn (LLM) như ChatGPT.

Hai trong số các mối quan tâm là quyền sở hữu trí tuệ và quyền riêng tư dữ liệu bị tổn hại do sự mơ hồ hiện tại về cách ChatGPT sử dụng tập dữ liệu của mình để tạo kết quả đầu ra.

Ví dụ, nếu tài sản trí tuệ hoặc dữ liệu nhạy cảm của công ty được nhập dưới dạng lời nhắc vào ChatGPT trong khi không tắt lịch sử trò chuyện, chúng có thể được xuất ra dưới dạng phản hồi không có nguồn cho người dùng và tổ chức bên ngoài doanh nghiệp.

An ninh mạng là khía cạnh gây lo ngại thứ ba. Hacker gần đây đã có thể đánh lừa ChatGPT để tạo code ransomware và malware, dẫn đến cái mà Garnet gọi là “công nghiệp hóa các cuộc tấn công phishing nâng cao”.

Trong một bài đăng trên blog trước đó, Gartner cũng đã chỉ ra những câu trả lời đôi khi bịa đặt hoặc không chính xác của AI, hay còn gọi là “ảo giác”, dẫn đến rủi ro làm suy giảm lòng tin của người dùng (ví dụ: nếu người dùng không biết họ đang trò chuyện với học máy thay vì một tác nhân hỗ trợ người dùng trực tiếp) và các định kiến về dữ liệu đầu ra — ảnh hồ sơ LinkedIn của một sinh viên người Mỹ gốc Á bị chuyển sang màu trắng khi cô sử dụng trí tuệ nhân tạo để chỉnh sửa ảnh.

Gartner không phản hồi khi được hỏi liệu các tổ chức có đang thực hiện hành động thiết thực và kịp thời để đối phó với rủi ro hay không.

Con đường đến với pháp luật

Đối với những người ủng hộ, AI là một công cụ giúp giảm bớt khối lượng công việc, cải thiện thiết kế và có khả năng mở ra một kỷ nguyên mới về sức khỏe, học tập, công việc, giải trí, sáng tạo và mọi nỗ lực khác của con người.

Tuy nhiên, ngày càng có nhiều chuyên gia công nghệ và những người nổi tiếng lên tiếng về sự cần thiết phải điều chỉnh toàn cầu đối với sự phát triển của các hệ thống học máy tiên tiến để chuẩn bị cho sự ra đời của nhận thức nhân tạo cấp độ con người, hay còn gọi là Trí tuệ nhân tạo chung (AGI).

Vào tháng 4, nhà phát triển ChatGPT, Logan Kilpatrick, đã đảm bảo với những người theo dõi anh ấy trên Twitter rằng công việc vẫn chưa bắt đầu với GPT-5 và sẽ chờ “một thời gian”.

Thông báo được đưa ra ngay sau khi một bản kiến nghị kêu gọi ngừng phát triển các hệ thống mạnh hơn GPT4 đã thu hút hơn một nghìn chữ ký của các nhà công nghệ và nhà nghiên cứu nổi tiếng, bao gồm cả CEO Tesla Elon Musk và đồng sáng lập Apple Steve Wozniak.

Tháng 5, các nhà điều hành của Microsoft, Google và OpenAI đã đưa ra lời cảnh báo rõ ràng tới các chính phủ về việc không chuẩn bị đầy đủ cho các hệ thống tiên tiến.

Vào tháng 6, Nghị viện Châu Âu – cơ quan lập pháp giám sát Liên minh Châu Âu – đã bỏ phiếu áp đảo ủng hộ việc thông qua dự thảo luật về Artificial Intelligence Act (Đạo luật Trí tuệ Nhân tạo), một bộ luật toàn diện nhằm thiết lập tiêu chuẩn toàn cầu. Nó phân loại rủi ro AI thành “không thể chấp nhận được”, “cao” hoặc “có giới hạn”.

Trong khi đó, OpenAI – tổ chức tạo ra Chat GPT đã vận động hành lang các nhà lập pháp châu Âu không phân loại hệ thống của họ là “rủi ro cao” vì điều đó sẽ khiến họ phải tuân theo các yêu cầu pháp lý nghiêm ngặt và có nghĩa là nếu rủi ro cao đột ngột xuất hiện, thời gian phản hồi công ty bị trì hoãn đáng kể do các cần vượt qua nhiều quy trình quan liêu khác.

Tham gia Telegram của Tạp Chí Bitcoin: https://t.me/tapchibitcoinvn

Theo dõi Twitter: https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin  

Minh Anh

Theo Decrypt

Được đề cập trong bài viết
Bình luận
Đang tải
Mới cập nhật

Hôm nay, thị trường tiền điện tử sẽ chứng kiến sự kiện quy mô lớn khi hơn 17,27 tỷ USD hợp đồng quyền chọn Bitcoin và Ethereum đồng loạt đáo hạn — yếu tố có thể tạo ra những biến động đáng kể trong ngắn hạn, đặc biệt khi cả... ...

San Jose, California, ngày 27 tháng 6 năm 2025, Chainwire Điểm chính: CARV công bố lộ trình AI mới nhằm mục đích tạo ra AI Beings: các tác nhân có chủ quyền, tự sở hữu, sống, phát triển và quản lý on-chain. Lộ trình được xây dựng xung quanh ba... ...

Tài sản thực được mã hóa (RWA) đã chuyển mình từ một khái niệm ngách thành một ứng dụng chính thống trong tài chính tổ chức, với lĩnh vực tín dụng tư nhân đang dẫn đầu nhờ khả năng mang lại lợi suất linh hoạt theo lập trình. Đó là... ...

Curve DAO Token (CRV) tiếp tục chìm sâu trong xu hướng giảm suốt tháng qua, khi áp lực bán vẫn chưa có dấu hiệu hạ nhiệt. Mặc dù Bitcoin (BTC) đã có những pha phục hồi đáng chú ý kể từ đầu tuần, CRV vẫn tỏ ra yếu ớt và... ...

Grayscale Research vừa công bố danh sách “Top 20” altcoin tiềm năng cho quý 3 năm 2025, với một số điều chỉnh đáng chú ý so với quý trước. Cụ thể, Lido DAO (LDO) và Optimism (OP) đã bị loại khỏi danh sách, nhường chỗ cho Avalanche (AVAX) và MORPHO.... ...

Jupiter — nền tảng tổng hợp giao dịch phi tập trung (swap aggregator) phát triển trên blockchain Solana (SOL) — vừa lập kỳ tích khi vượt mặt toàn bộ các đối thủ trên các blockchain khác về khối lượng giao dịch trong 24 giờ qua. Đây là thành tựu đáng... ...

Dù thị trường có lúc náo động, lúc trầm lắng, thì một “tay chơi thầm lặng” vẫn miệt mài tích lũy – đều đặn và đầy chiến lược. Chiếc ví duy nhất này đã âm thầm gom về hơn 863 triệu Toncoin (TON) ở nhiều ngưỡng giá quan trọng, bất... ...

Tính đến thời điểm viết bài, Ethereum (ETH) đang giao dịch dưới ngưỡng $2.500, cuốn phăng đà tăng giá trước đó – yếu tố từng giúp altcoin này tỏa sáng và vượt mặt Bitcoin (BTC) trong quý II. Tuy nhiên, để duy trì xu hướng tăng trưởng, ETH buộc phải... ...

Bitcoin đã có thời điểm giảm xuống dưới mốc 100.000 USD sau khi Iran phát động các cuộc tấn công nhằm vào căn cứ quân sự Mỹ tại Qatar. Dù giá nhanh chóng phục hồi lên 108.000 USD vào thứ Tư, tâm lý trên thị trường phái sinh trở nên... ...

Một tòa án liên bang Mỹ đã bác bỏ đề nghị chung từ Ủy ban Chứng khoán và Giao dịch Mỹ (SEC) và Ripple nhằm xin một “phán quyết gợi ý” (indicative ruling) để giảm mức phạt dân sự từ 125 triệu USD xuống còn 50 triệu USD, đồng thời... ...

Xem thêm bài viết
Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode