CHƯƠNG TRÌNH VIẾT CHƯƠNG TRÌNH
. . . chúng ta bắt đầu phụ thuộc vào máy tính để phát triển thế hệ máy tính mới , thế hệ này lại giúp chúng ta chế tạo những thứ có độ phức tạp cao hơn hẳn . Thế nhưng chúng ta vẫn chưa hiểu rõ quá trình này – nó đang vượt trước chúng ta .
Hiện nay chúng ta sử dụng nhiều chương trình để tạo ra những máy tính chạy nhanh hơn , do đó quá trình diễn ra nhanh hơn . Đó là điểm khiến con người bối rối – công nghệ đang hồi tiếp chính nó , và chúng ta đang cất cánh . Chúng ta đang ở thời điểm giống như khi các cơ thể đơn bào bắt đầu tiến hóa thành các cơ thể đa bào . Chúng ta là những con amip và chúng ta không thể hiểu nổi mình đang tạo ra thứ quái gì . “
DANNY HILLIS , NHÀ SÁNG LẬP CÔNG TY THINKING MACHINES
Bạn và tôi sống trong một thời kỳ thú vị và nhạy cảm của lịch sử con người . Đến khoảng năm 2030 , chưa đầy một thế hệ tính từ bây giờ , chúng ta sẽ bước vào cuộc thử thách để tồn tại và sống sót trên Trái đất cùng với các cỗ máy siêu thông minh . Các nhà lý thuyết AI , hết lần này đến lần khác , đều trở lại với một vài để tài mà cấp bách nhất trong đó vẫn là : chúng ta cần một khoa học để biểu máy tính.
Cho đến giờ chúng ta đã khảo sát một kịch bản thảm họa với cái tên “Đứa trẻ Bận rộn” . Chúng ta đã nói về một số sức mạnh đặc biệt mà AI có thể có khi nó đạt đến và vượt qua trí tuệ con người trong quá trình vòng lặp tự cải tiến , những sức mạnh bao gồm khả năng tự nhân bản , cùng nhau giải quyết vấn đề , tính toán siêu nhanh , chạy 24 / 7 , giả vờ thân thiện , giả chết và hơn thế . Chúng ta đã giả định rằng siêu trí tuệ nhân tạo sẽ không thỏa mãn với việc tiếp tục bị cô lập , các động lực và trí thông minh của nó sẽ vươn ra ngoài thế giới và đặt ra nguy cơ cho sự tồn tại của chúng ta .
Nhưng tại sao một máy tính lại có động lực ? Tại sao chúng đặt ra nguy cơ cho chúng ta ? Để trả lời những câu hỏi đó , chúng ta cần tiên đoán AI sẽ có những hành vi ở cấp độ nào . May mắn là có một người đã đặt nền móng cho chúng ta . Chế tạo một robot chơi cờ thì không thể gây nguy hiểm cho ai , đúng không nào ? , một robot như thế thực ra vẫn là tai họa , trừ phi nó được thiết kế rất căn thận .
Thiếu những sự phòng ngừa đặc biệt , nó sẽ cho là lại việc bị tắt nguồn , sẽ thử thâm nhập vào các máy tính khác và nhân bản , sẽ cố đoạt lấy các loại tài nguyên mà không quan tâm đến sự an toàn của bất kỳ ai . Nhưng lối cư xử tai hại như trên sẽ xảy ra , không phụ thuộc vào cách nó được lập trình , mà vào bản chất tự nhiên của các hệ thống hướng đích.
Tác giả của đoạn văn trên là Steve Omohundro . Cao , cân đối , đầy năng lượng và có vẻ quá tươi tắn so với một người hiểu thấu con quái vật mang tên sự bùng nổ trí thông minh , anh có dáng đi hoạt bát , cái bắt tay mạnh mẽ và một nụ cười tỏa ra sự thiện chí.
Anh gặp tôi ở một quán ăn thuộc Palo Alto , một thành phố gần Đại học Stanford , nơi anh tham gia Phi Beta Kappa (một cộng đồng khoa học và nghệ thuật danh giá ở Mỹ) khi đang học Đại học California Berkeley và sau đó làm nghiên cứu sinh về vật lý . Anh chuyển luận án của mình thành cuốn Geometric Perturbation Theory in Physics ( Lý thuyết nhiễu loạn hình học trong vật lý ) , viết về những phát triển mới trong hình học vi phân . Với Omohundro , đó là khởi đầu của sự nghiệp làm những thứ khó hiểu trở nên đơn giản .
Anh là một giáo sư được đánh giá cao trong ngành trí tuệ nhân tạo , tác giả của nhiều sách kỹ thuật , và là người tiên phong trong những mốc quan trọng của công nghệ AI như kỹ thuật đọc môi và nhận dạng hình ảnh . Anh là đồng tác giả của các ngôn ngữ máy tính StarLisp và Sather , cả hai đều được sáng tạo để lập trình AI . Anh là một trong bảy kỹ sư ít ỏi đã tạo ra chương trình Mathematica của Wolf Research , một hệ thống điện toán mạnh được các nhà khoa học , kỹ sư và nhà toán học khắp nơi tin dùng .
Omohundro là người quá lạc quan để dùng bừa bãi những từ đáng sợ như thảm họa hay hủy diệt , những phân tích của anh về mối nguy AI cho thấy những kết luận đáng sợ nhất mà tôi từng nghe . Anh không tin như nhiều nhà lý thuyết khác rằng có gần như vô số các AI cao cấp , và một số trong đó là an toàn . Ngược lại , anh cho rằng nếu không thật cẩn thận trong lập trình , tất cả các AI tương đối thông minh sẽ là thứ gây chết người .
“ Nếu một hệ thống có khả năng tự nhận thức và có thể tạo ra các phiên bản tốt hơn của nó , tốt thôi ”, Omohundro nói với tôi . “ Nó sẽ giỏi hơn các lập trình viên con người trong việc tự cải tiến bản thân . Mặt khác , sau nhiều chu kỳ như vậy , nó sẽ trở thành thứ gì ?
Tôi không nghĩ là phần đông các nhà nghiên cứu AI cho rằng sẽ có nguy hiểm nào đó trong việc chế tạo một robot chơi cờ . Nhưng phân tích của tôi chỉ ra chúng ta phải nghĩ thật kỹ về những giá trị chúng ta sẽ đưa vào , nếu không chúng ta sẽ thu được một thực thể bệnh hoạn , ích kỷ và luôn hướng về bản thân nó . ”
Những điểm chính ở đây là : thứ nhất , các nhà nghiên cứu AI chậm chí không nhận thức được rằng những hệ thống tỏ ra có lợi có thể trở nên nguy hiểm , và thứ hai , những hệ thống tự nhận thức , tự cải tiến có thể là thứ tâm thần .
Tâm thần ư?
Đối với Omohundro , cuộc thảo luận bắt đầu với sự lập trình yếu kém . Những lỗi lầm trong lập trình đã khiến các tên lửa vũ trụ rơi ngay khi mới phóng , làm cháy nội tạng của bệnh nhân ung thư do dùng quá liều xạ trị , và khiến hàng triệu người không có điện để dùng . Anh cho rằng , nếu tất cả các ngành kỹ thuật đều yếu kém như ngành lập trình hiện nay , thì những việc đơn giản như lái máy bay hoặc lái ô tô qua cầu cũng không còn an toàn .
Viện Tiêu chuẩn và Công nghệ Quốc gia Mỹ tổng kết là mỗi năm các lỗi lầm trong lập trình đã làm thiệt hại cho nền kinh tế Mỹ hơn 60 tỉ đô – la . Nói cách khác , số tiền người Mỹ mất mỗi năm cho lỗi lập trình còn lớn hơn tổng thu nhập quốc dân của hầu hết các nước khác . “ Sự mỉa mai lớn nhất ở đây là khoa học máy tính đáng lẽ phải là thứ gần với toán học chính xác nhất trong các khoa học , ” Omohundro nói . “ Máy tính về bản chất là các động cơ toán học mà đáng ra phải hoạt động theo những cách chính xác , dễ dự đoán . Vậy mà phần mềm là một trong những kỹ nghệ lúc nổ lúc xịt nhất , chứa đầy lỗi và các lỗ hổng bảo mật . ”
Có liều thuốc nào cho những tên lửa hỏng hóc và các mã lập trình sai sót ?
Các chương trình tự sửa chữa , Omohundro trả lời . “Cách tiếp cận đặc thù đối với trí tuệ nhân tạo của công ty chúng tôi là xây dựng những hệ thống có khả năng tự hiểu hành vi của chúng , có thể tự quan sát khi làm việc và giải quyết vấn đề . Chúng sẽ thấy khi nào công việc không ổn và sau đó thay đổi để tự cải tiến .
Phần mềm tự cải tiến không chỉ là tham vọng đối với Công ty của Omohundro , mà còn là bước đi logic , thậm chí không tránh khỏi của hầu hết các phần mềm tiếp theo . Nhưng phần mềm tự cải tiến mà Omohundro đang nói tới , thứ tự nhận thức về bản thân và có thể viết những phiên bản tốt hơn , lại chưa tồn tại .
Tuy nhiên , người bà con của nó , phần mềm có khả năng tự thay đổi , đã có ở khắp nơi và từ lâu rồi . Trong cách nói của ngành AI , các kỹ thuật phần mềm tự thay đổi thuộc về một hạng mục rộng hơn có tên “máy học”.
Khi nào thì một cỗ máy học hỏi ? Khái niệm về sự học khá giống với trí thông minh bởi có nhiều định nghĩa , và hầu hết đều đúng . Theo nghĩa đơn giản nhất , học hỏi xảy ra trong một cỗ máy khi có một thay đổi trong nó , làm nó thực hiện một nhiệm vụ tốt hơn trong lần thứ hai . Máy học cho phép tìm kiếm trên Internet , nhận dạng giọng nói và chữ viết tay , tăng cường trải nghiệm người dùng trong hàng chục ứng dụng khác .
“ Những khuyến nghị ” do Tập đoàn thương mại online khổng lồ Amazon sử dụng kỹ thuật máy học đưa ra được gọi là phân tích sự tương đồng . Nó là một chiến thuật khiến bạn mua những mặt hàng tương tự ( bán – chéo ) , đắt hơn ( bán – tăng ) , hoặc đưa bạn vào các chương trình khuyến mãi . Phương thức hoạt động của nó khá đơn giản .
Đối với bất cứ mặt hàng nào bạn tìm trên web , tạm gọi là mặt hàng A , các mặt hàng khác mà những người mua A cũng hay mua – tạm gọi là B , C và D . Khi bạn tìm kiếm A , bạn bật công tắc cho thuật toán phân tích sự tương đồng . Nó sẽ duyệt kho dữ liệu giao dịch khổng lồ và cho ra những sản phẩm liên quan . Vậy là nó đã sử dụng kho dữ liệu liên tục phình to để tự cải tiến hiệu suất của nó .
AI là người được lợi từ phần tự cải tiến của phần mềm này ?
Amazon , tất nhiên rồi , nhưng có cả bạn nữa . Phân tích sự tương đồng là một loại trợ lý của người mua , nó đem lại cho bạn một số lợi ích từ một lượng dữ liệu lớn , bất cứ khi nào bạn mua đồ . Và Amazon không quên – nó xây dựng một trang cá nhân của người mua để có thể giới thiệu các mặt hàng đến với bạn ngày một tốt hơn .
Điều gì sẽ xảy ra khi bạn tiến thêm một bước , từ các phần mềm học hỏi đến các phần mềm có khả năng thực sự tiến hóa , để tìm câu trả lời cho những vấn đề khó , và thậm chí có khả năng viết những chương trình mới ? Đó chưa phải là tự nhận thức và tự cải tiến , nhưng là một bước nữa về hướng đó – phần mềm viết phần mềm .
Lập trình di truyền là một kỹ thuật máy học khai thác sức mạnh của chọn lọc tự nhiên để tìm câu trả lời cho những vấn để có thể khiến con người mất một thời gian dài , thậm chí nhiều năm để giải quyết . Nó cũng được dùng để viết những phần mềm sáng tạo , chạy trên phần cứng mạnh .
Nó có những khác biệt quan trọng đối với các kỹ thuật lập trình thường gặp hơn , cái tôi sẽ gọi là lập trình thông dụng . Trong lập trình thông dụng , các nhà lập trình viết từng dòng mã , và quá trình từ lúc nhập liệu đến lúc xuất ra về lý thuyết là có thể theo dõi một cách minh bạch .
Ngược lại , các nhà lập trình sử dụng lập trình di truyền mô tả vấn đề cần giải quyết , và để mặc chọn lọc tự nhiên làm phần còn lại . Những kết quả thu được có thể gây sửng sốt .
Một chương trình di truyền tạo ra những mẩu mã nhỏ biểu thị cho thế hệ lai giống . Những mẩu hiệu quả nhất được lại giống chéo – các đoạn mã của chúng được hoàn đổi , tạo ra thế hệ thứ hai . Độ hiệu quả của một chương trình được quyết định bằng việc nó tới gần lời giải của vấn để thế nào .
Những mẩu không hiệu quả bị bỏ đi và những mẩu tốt nhất lại được lai giống tiếp . Xuyên suốt quá trình đó , chương trình di truyền sẽ thay đổi những câu lệnh hoặc các biến một cách ngẫu nhiên – đó là những đột biến gen . Một khi đã cấu hình , chương trình di truyền sẽ tự chạy . Nó không cần con người can thiệp vào.
John Koza của Đại học Stanford , người khởi đầu kỹ thuật lập trình di truyền vào năm 1986 , đã sử dụng các giải thuật di truyền để phát minh ra một ăng-ten cho NASA , tạo nên các chương trình máy tính để xác định các protein , và phát minh ra các thiết bị điều khiển điện thông thường .
Những giải thuật di truyền của Koza đã 23 lần tự nghĩ ra những chi tiết điện tử mà con người sáng chế ra trước đó , chỉ đơn giãn bằng cách nói với nó những tiêu chí kỹ thuật cần có ở thiết bị mong muốn – tiêu chí “ phù hợp .
Ví dụ , các thuật toán của Koza đã phát minh ra mạch chuyển đổi điện áp dòng điện ( một thiết bị dùng để kiểm tra các dụng cụ điện ) , hoạt động chính xác hơn thiết bị tương tự do con người phát minh . Tuy nhiên , điều bí ẩn là không ai lý giải được bằng cách nào mà nó lại hoạt động tốt hơn – dường như nó có những bộ phận thừa thai và thậm chí vô dụng .
Nhưng đó chính là thứ khó hiểu về lập trình di truyền ( và cả “ lập trình tiến hóa ” trong lĩnh vực lập trình ) . Mã của chúng rất bí hiểm . Chương trình sẽ “ tiến hóa ” ra những lời giải mà các nhà khoa học máy tính không thể dễ dàng tái tạo . Hơn thế , họ không thể hiểu được quá trình mà lập trình di truyền đã đi qua để đạt đến lời giải .
Một công cụ điện toán mà bạn chỉ hiểu được mối đầu vào và đầu ra mà không biết gì về phương thức nội tại được gọi là một hệ thống “ hộp đen . ” Tinh không thể hiểu được là một nhược điểm lớn cho bất cứ hệ thống nào sử dụng các thành phần tiển hóa . Mỗi bước tiến về tình bị hiểm lại là một bước xa rời tính khả tính , hay những hy vọng viển vông về việc lập trình vào đó tính thân thiện đối với con người .
Điều đó không có nghĩa là các nhà khoa học thường xuyến mất kiểm soát đối với các hệ hộp đen . Nhưng nếu các kiến trúc nhận thức sử dụng chúng để đạt tới AGI , một chuyện gần như chắc chắn , thì những lớp dày của sự bắt khả tri sẽ là trung tâm của hệ thống này . Sự bất khả trị có thể là một hậu quả không tránh khỏi của các phần mềm tự nhận thức , tự cải tiến .
Nó là một loại hệ thống rất khác với những thứ ta đã biết , ” Omohundro nói . “ Khi bạn có một hệ có khả năng tự thay đổi , và tự viết chương trình của nó , bạn có thể hiểu phiên bản đầu tiên . Nhưng nó có thể lột xác thành một thứ bạn không còn hiểu nổi nữa . Vì vậy những hệ thống này khó tiên liệu hơn . Chúng rất mạnh và do đó là những mối nguy tiềm tàng . Phần lớn công việc của chúng tôi hướng đến việc tận dụng các lợi ích từ nó trong khi nó tránh những rủi ro ”.
Trở lại với robot chơi cờ mà Omohundro đã đề cập . Nó nguy hiểm như thế nào ? Tất nhiên , anh không nói đến chương trình chơi cờ có sẵn trong máy tính Mac bạn mua . Anh đang nói đến robot chơi cờ giả định , hoạt động nhờ một kiến trúc nhận thức cực kỳ tinh vi , có thể tự viết lại mã của nó để chơi cờ tốt hơn . Nó có khả năng tự nhận thức và tự nâng cấp . Điều gì sẽ xảy ra nếu bạn bảo robot chơi một ván , rồi tắt nó đi ?
Omohundro giải thích , Được rồi , giả thiết là nó vừa chơi một ván cờ hay nhất có thể . Cuộc chơi đã kết thúc .
Bây giờ sẽ là thời điểm nó chuẩn bị tự tắt nguồn . Đây là một sự kiện cực kỳ trọng đại trong suy nghĩ của nó , vì nó không thể tự bật lên được . Vậy nó muốn chắc chắn rằng những thứ nó đang nghĩ là thực . Đặc biệt , nó sẽ tự hỏi có thật là tôi đã chơi ván cờ đó không ? Nếu có ai đó lừa tôi thì sao ? Phải chăng tôi chưa từng chơi ván cờ ấy ? Liệu tôi có đang ở trong một chương trình giả lập ?
Có phải tôi đang ở trong một chương trình giả lập : Đây quả là một robot chơi cờ tâm tính phức tạp . Nhưng đi kèm với tự nhận thức sẽ là bản năng tự bảo vệ và cả một chút hoang tưởng .
Omohundro tiếp tục : “ Có lẽ nó nghĩ rằng nó nên dùng một lượng tài nguyên để giải quyết những câu hỏi về bản chất của thực tại , trước khi nó đi bước định tự tắt nguồn . Giả sử không có sẵn những hướng dẫn rằng không được làm như vậy , nó có thể quyết định chuyện này đáng để dùng thật nhiều tài nguyên , hòng hiểu rõ đây có phải thời điểm đúng đắn không .
“ Thật nhiều tài nguyên là bao nhiêu ? ” tôi hỏi .
Gương mặt Omohundro thoáng sầm lại , nhưng chỉ trong một giây .
“ Nó có thể quyết định dùng tất cả tài nguyên của nhân loại . ”
Phần 1: Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo chung của kỷ nguyên con người (Phần 1)
Phần 2: Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo chung của kỷ nguyên con người (Phần 2)
Phần 3: Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo chung của kỷ nguyên con người (Phần 3)
Phần 4: Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo chung của kỷ nguyên con người (Phần 4)
James Barrat
Sách: Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo chung của kỷ nguyên con người
