Sợ hãi vì trí tuệ nhân tạo quá thông minh và đe dọa đến nhân loại, Facebook đã phải ra tay trừ khử dự án trí tuệ nhân tạo của mình.
Một số điều tuyệt vời đang càng trở nên tuyệt vời hơn bởi những tiến bộ trong công nghệ trí tuệ nhân tạo và máy học. Nhưng song hành với nó là một nỗi sợ hãi đang ngày càng gia tăng rằng máy móc sẽ nổi lên và quay lưng lại với con người. Những bộ phim về robot sống thường chỉ nằm vào hạng mục phim khoa học viễn tưởng, nhưng đối với những nhà nghiên cứu ở Facebook – những người đã phải hủy bỏ một bộ máy trí tuệ nhân tạo mà chính họ đã phát minh sau khi phát hiện ra nó đã tự phát triển ra một hệ ngôn ngữ mới – robot sống đã trở thành một nỗi sợ hãi thực sự.
Bình thường, cỗ máy AI này được luyện tập bằng tiếng Anh, nhưng dường như nó đã trở nên chán ngán với những sắc thái và sự không nhất quán của ngôn ngữ này. Thay vì tiếp tục làm theo cách đó, nó đã tự phát triển một hệ thống mã hóa để khiến cho việc giao tiếp trở nên hiệu quả hơn.
Điều làm cho các nhà nghiên cứu phải lo ngại chính là những cụm từ được cỗ máy AI này sử dụng có vẻ như là vô nghĩa đối với họ nhưng lại rất có ý nghĩa đối với những con AI khác. Điều này cho phép các con AI giao tiếp với nhau mà các nhà nghiên cứu không thể hiểu thông tin chúng đang chia sẻ là gì.
Trong suốt một cuộc trao đổi, hai con robot tên là Bob và Alice đã từ bỏ các quy tắc ngữ pháp tiếng Anh và bắt đầu giao tiếp bằng các sử dụng ngôn ngữ mà chúng tự tạo nên. Bob đã nói rằng: “Tôi có thể tôi tôi mọi thứ khác” (I can i i everything else) và Alice đã trả lời: “những quả bóng không có gì cho tôi cho tôi cho tôi” (balls have zero to me to me to me…”). Phần còn lại của cuộc trò chuyện được tiếp tục giống như vậy.
Các nhà nghiên cứu tin rằng sự bất thường trong cuộc trò chuyện này nói lên nhiều thứ hơn là những điều vô nghĩa. Những từ ngữ được sắp xếp lộn xộn đến mức ngớ ngẩn chỉ là vẻ bề ngoài. Nhóm nghiên cứu lưu ý việc lặp lại các cụm từ và từ như “tôi” và “với tôi” cho thấy AI đang thực sự hoạt động một cách có ý thức. Trong cuộc hội thoại đặc biệt này, họ cho rằng các con robot đang bàn bạc đến vấn đề số lượng mỗi phần việc mà chúng nên thực hiện.
Công nghệ AI sử dụng một hệ thống “khen thưởng”, trong đó mọi hành động đều phải có một “lợi ích”.
Dhruv Batra – nhà nghiên cứu thuộc Viện Công nghệ Georgia Tech – người đã từng làm việc trong nhóm Facebook AI Research (FAIR) – nói với Fast Co. Design rằng: “Không có phần thưởng nào liên quan đến tiếng Anh. Các con robot dần dần sẽ lạm dụng ngôn ngữ không thể hiểu và sáng tạo ra từ ngữ mã hóa cho riêng chúng. Kiểu như nếu tôi nói từ ‘the’ 5 lần, bạn nên hiểu đó là tôi muốn 5 bản sao của việc này. Nó không khác gì với cách con người tốc ký”.
Sau một thời gian bàn bạc, nhóm nghiên cứu của Facebook đã quyết định các con robot của họ phải nói chuyện bằng tiếng Anh, một phần vì họ muốn robot phải nói chuyện được với con người. Tuy nhiên, họ cũng phải thừa nhận họ thực sự không hiểu thứ ngôn ngữ của AI.
