Đầu năm ngoái, một hacker đã xâm nhập vào hệ thống nhắn tin nội bộ của OpenAI, nhà sản xuất ChatGPT, và đánh cắp các chi tiết về thiết kế công nghệ AI của công ty.
Theo hai người quen thuộc với vụ việc tiết lộ với The New York Times, hacker này đã lấy được thông tin từ các cuộc thảo luận trên một diễn đàn trực tuyến nơi các nhân viên nói về công nghệ mới nhất của OpenAI, nhưng không truy cập được vào các hệ thống nơi công ty lưu trữ và xây dựng trí tuệ nhân tạo (AI).
Các giám đốc điều hành của OpenAI đã tiết lộ sự cố này với nhân viên trong một cuộc họp toàn thể tại văn phòng công ty ở San Francisco vào tháng 4 năm 2023 và thông báo cho hội đồng quản trị của mình, theo lời của hai người này, những người đã thảo luận về thông tin nhạy cảm của công ty với điều kiện ẩn danh.
Tuy nhiên, các giám đốc điều hành quyết định không công khai tin tức vì không có thông tin nào về khách hàng hoặc đối tác bị đánh cắp. Các giám đốc điều hành không xem sự cố này là một mối đe dọa đến an ninh quốc gia vì họ tin rằng hacker là một cá nhân không có liên hệ với chính phủ nước ngoài. Công ty không thông báo cho FBI hoặc bất kỳ cơ quan thực thi pháp luật nào khác.
Đối với một số nhân viên của OpenAI, tin tức này làm dấy lên lo ngại rằng các đối thủ nước ngoài như Trung Quốc có thể đánh cắp công nghệ AI – công nghệ hiện nay chủ yếu là công cụ làm việc và nghiên cứu – có thể cuối cùng gây nguy hiểm cho an ninh quốc gia Mỹ. Nó cũng dẫn đến câu hỏi về mức độ nghiêm túc của OpenAI trong việc xử lý an ninh, và phơi bày các rạn nứt bên trong công ty về các rủi ro của trí tuệ nhân tạo.
Sau vụ vi phạm, Leopold Aschenbrenner, một quản lý chương trình kỹ thuật của OpenAI tập trung vào việc đảm bảo rằng các công nghệ AI trong tương lai không gây ra thiệt hại nghiêm trọng, đã gửi một bản ghi nhớ cho hội đồng quản trị của OpenAI, lập luận rằng công ty chưa làm đủ để ngăn chặn chính phủ Trung Quốc và các đối thủ nước ngoài khác đánh cắp bí mật của mình.
Ông Aschenbrenner cho biết OpenAI đã sa thải ông vào mùa xuân này vì rò rỉ thông tin khác ra bên ngoài công ty và lập luận rằng việc sa thải ông có động cơ chính trị. Ông đã đề cập đến vụ vi phạm trong một podcast gần đây, nhưng các chi tiết của sự cố chưa được báo cáo trước đây. Ông cho biết an ninh của OpenAI không đủ mạnh để bảo vệ chống lại việc đánh cắp bí mật quan trọng nếu các tác nhân nước ngoài xâm nhập vào công ty.
“Chúng tôi đánh giá cao những lo ngại mà Leopold đã nêu ra khi làm việc tại OpenAI, và điều này không dẫn đến sự chia tay của anh ấy,” người phát ngôn của OpenAI, Liz Bourgeois, nói. Ám chỉ đến nỗ lực của công ty trong việc xây dựng trí tuệ nhân tạo tổng quát, một cỗ máy có thể làm mọi thứ mà bộ não con người có thể làm, bà bổ sung, “Trong khi chúng tôi chia sẻ cam kết của anh ấy đối với việc xây dựng AGI an toàn, chúng tôi không đồng ý với nhiều tuyên bố mà anh ấy đã đưa ra về công việc của chúng tôi. Điều này bao gồm cả mô tả của anh ấy về an ninh của chúng tôi, đặc biệt là sự cố này, mà chúng tôi đã giải quyết và chia sẻ với hội đồng quản trị trước khi anh ấy gia nhập công ty.”
Những lo ngại rằng một vụ hack của một công ty công nghệ Mỹ có thể có liên quan đến Trung Quốc là không hợp lý. Tháng trước, Brad Smith, chủ tịch của Microsoft, đã làm chứng trước Quốc hội về cách các hacker Trung Quốc sử dụng hệ thống của gã khổng lồ công nghệ để phát động một cuộc tấn công rộng rãi vào mạng lưới chính phủ liên bang.
Tuy nhiên, theo luật liên bang và California, OpenAI không thể ngăn cản mọi người làm việc tại công ty vì quốc tịch của họ, và các nhà nghiên cứu chính sách đã nói rằng việc cấm tài năng nước ngoài khỏi các dự án của Mỹ có thể cản trở đáng kể tiến bộ của AI tại Hoa Kỳ.
“Chúng tôi cần những bộ óc tốt nhất và sáng giá nhất làm việc trên công nghệ này,” Matt Knight, trưởng bộ phận an ninh của OpenAI, nói với The New York Times trong một cuộc phỏng vấn. “Nó đi kèm với một số rủi ro, và chúng tôi cần tìm ra những điều đó.”
OpenAI không phải là công ty duy nhất xây dựng các hệ thống ngày càng mạnh mẽ sử dụng công nghệ AI đang cải thiện nhanh chóng. Một số trong số họ – đáng chú ý nhất là Meta, chủ sở hữu của Facebook và Instagram – đang chia sẻ thiết kế của họ với phần còn lại của thế giới dưới dạng phần mềm mã nguồn mở. Họ tin rằng những nguy hiểm do công nghệ AI hiện nay gây ra là nhỏ và việc chia sẻ mã cho phép các kỹ sư và nhà nghiên cứu trên toàn ngành xác định và khắc phục các vấn đề.
Các hệ thống AI ngày nay có thể giúp lan truyền thông tin sai lệch trực tuyến, bao gồm văn bản, hình ảnh tĩnh và ngày càng nhiều là video. Chúng cũng đang bắt đầu lấy đi một số công việc của con người.
Các công ty như OpenAI và các đối thủ của nó là Anthropic và Google thêm các biện pháp bảo vệ vào các ứng dụng AI của họ trước khi cung cấp chúng cho cá nhân và doanh nghiệp, hy vọng ngăn chặn mọi người sử dụng ứng dụng để lan truyền thông tin sai lệch hoặc gây ra các vấn đề khác.
Tuy nhiên, không có nhiều bằng chứng cho thấy công nghệ AI ngày nay là một mối đe dọa đáng kể đến an ninh quốc gia. Các nghiên cứu của OpenAI, Anthropic và các bên khác trong năm qua cho thấy rằng AI không nguy hiểm hơn nhiều so với các công cụ tìm kiếm. Daniela Amodei, đồng sáng lập và chủ tịch của Anthropic, cho biết công nghệ AI mới nhất của họ sẽ không gây rủi ro lớn nếu thiết kế của nó bị đánh cắp hoặc chia sẻ tự do với người khác.
“Nếu nó được sở hữu bởi ai đó khác, liệu điều đó có thể gây hại lớn cho nhiều người trong xã hội không? Câu trả lời của chúng tôi là ‘Không, có lẽ không,’” cô nói với The New York Times vào tháng trước. “Liệu nó có thể tăng tốc điều gì đó cho một tác nhân xấu trong tương lai không? Có thể. Đó thực sự là suy đoán.”
Tuy nhiên, các nhà nghiên cứu và giám đốc công nghệ từ lâu đã lo ngại rằng AI có thể một ngày nào đó thúc đẩy việc tạo ra các vũ khí sinh học mới hoặc giúp xâm nhập vào các hệ thống máy tính của chính phủ. Một số thậm chí tin rằng nó có thể hủy diệt nhân loại.
Một số công ty, bao gồm OpenAI và Anthropic, đã bắt đầu khóa chặt các hoạt động kỹ thuật của mình. OpenAI gần đây đã tạo ra Ủy ban An toàn và An ninh để khám phá cách họ nên xử lý các rủi ro do công nghệ tương lai gây ra. Ủy ban này bao gồm Paul Nakasone, một cựu tướng quân đội từng lãnh đạo Cơ quan An ninh Quốc gia và Bộ Tư lệnh Không gian mạng. Ông cũng đã được bổ nhiệm vào ban giám đốc của OpenAI.
“Chúng tôi đã bắt đầu đầu tư vào an ninh từ nhiều năm trước khi ChatGPT ra đời,” ông Knight nói. “Chúng tôi đang trên hành trình không chỉ để hiểu các rủi ro và đi trước chúng, mà còn để tăng cường khả năng chịu đựng của chúng tôi.”
Các quan chức liên bang và các nhà lập pháp tiểu bang cũng đang thúc đẩy các quy định của chính phủ nhằm ngăn cản các công ty phát hành một số công nghệ AI nhất định và phạt hàng triệu đô la nếu công nghệ của họ gây hại. Nhưng các chuyên gia nói rằng những nguy cơ này vẫn còn nhiều năm hoặc thậm chí hàng thập kỷ nữa mới xảy ra.
Các công ty Trung Quốc cũng đang xây dựng các hệ thống của riêng mình mạnh mẽ gần bằng các hệ thống hàng đầu của Hoa Kỳ. Theo một số thước đo, Trung Quốc đã vượt qua Hoa Kỳ để trở thành nhà sản xuất tài năng AI lớn nhất, với việc nước này tạo ra gần một nửa số nhà nghiên cứu AI hàng đầu thế giới.
“Không phải là điên rồ khi nghĩ rằng Trung Quốc sẽ sớm vượt Hoa Kỳ,” Clément Delangue, giám đốc điều hành của Hugging Face, một công ty lưu trữ nhiều dự án AI mã nguồn mở của thế giới, cho biết.
Một số nhà nghiên cứu và lãnh đạo an ninh quốc gia lập luận rằng các thuật toán toán học là cốt lõi của các hệ thống AI hiện tại, mặc dù không nguy hiểm ngày hôm nay, có thể trở nên nguy hiểm và kêu gọi kiểm soát chặt chẽ hơn các phòng thí nghiệm AI.
“Ngay cả khi các kịch bản xấu nhất có xác suất tương đối thấp, nếu chúng có tác động cao thì đó là trách nhiệm của chúng tôi để xem xét nghiêm túc,” Susan Rice, cựu cố vấn chính sách nội địa cho Tổng thống Biden và cựu cố vấn an ninh quốc gia cho Tổng thống Barack Obama, nói trong một sự kiện ở Thung lũng Silicon vào tháng trước. “Tôi không nghĩ rằng đó là khoa học viễn tưởng, như nhiều người thích tuyên bố.”
