Facebook tắt AI sau khi phát minh ra ngôn ngữ rùng rợn của riêng mình

Facebook được cho là đã đóng cửa một hệ thống trí tuệ nhân tạo sau khi nó tạo ra ngôn ngữ riêng mà không cần con người nhập vào, theo Tech Times .

Vụ việc xảy ra chỉ vài ngày sau Mark Zuckerberg chỉ trích gay gắt AI những người phản đối cho các kịch bản ngày tận thế tiếp diễn. Giờ đây, công ty riêng của anh ấy đang ở trong một Kẻ hủy diệt - tình huống đẹp, tắt AI vì mọi thứ được báo cáo là vượt quá tầm kiểm soát.

Các nhà nghiên cứu từ phòng thí nghiệm Nghiên cứu Trí tuệ Nhân tạo của Facebook đã thiết kế hai tác nhân AI để đàm phán với con người. Họ được dạy để trò chuyện với nhau bằng tiếng Anh đơn giản, nhưng bắt đầu đi chệch hướng và phát triển một ngôn ngữ mới. Cách giải thích của họ chủ yếu là vô nghĩa, và chỉ có thể hiểu được bởi hai hệ thống.

Đây là một đoạn từ một trong những cuộc trò chuyện của họ:

Bob: tôi có thể tôi tôi mọi thứ khác. . . . . . . . . . . . . .
Alice: quả bóng không có đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi
Bob: bạn tôi mọi thứ khác. . . . . . . . . . . . . .
Alice: bóng có bóng với tôi với tôi với tôi với tôi với tôi với tôi với tôi
Bob: tôi tôi có thể tôi tôi tôi mọi thứ khác. . . . . . . . . . . . . .
Alice: bóng có bóng với tôi với tôi với tôi với tôi với tôi với tôi với tôi
Bob: Tôi . . . . . . . . . . . . . . . . . . .
Alice: quả bóng không có đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi
Bob: bạn tôi tôi tôi tôi tôi mọi thứ khác. . . . . . . . . . . . . .
Alice: quả bóng có 0 đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi
Bob: bạn tôi tôi tôi mọi thứ khác. . . . . . . . . . . . . .
Alice: quả bóng không có đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi

Lý do khiến những AI này, hay còn gọi là “tác nhân đối thoại”, trở nên lừa đảo là vì các nhà nghiên cứu không tạo cho chúng động cơ để nói như một con người bình thường. Vì vậy, thay vào đó, họ đã tạo ra một ngôn ngữ rô bốt hiệu quả hơn - mặc dù, không thể hiểu được -. Trong ví dụ trên, các tác nhân đang giảm các câu xuống các thành phần trần của chúng như một dạng tốc ký. Hai AI không có vấn đề gì khi hiểu nhau.

Dhruv Batra, nhà khoa học nghiên cứu đến từ Georgia Tech tại Facebook AI Research, cho biết: “Các nhân viên sẽ sử dụng ngôn ngữ dễ hiểu và phát minh ra các từ mã cho chính họ. Co.Design . “Giống như nếu tôi nói‘ cái ’năm lần, bạn giải thích điều đó có nghĩa là tôi muốn có năm bản sao của món đồ này. Điều này không khác quá nhiều so với cách cộng đồng con người tạo ra các liên kết ngắn. '

Kỳ tích đáng kinh ngạc đó nghe có vẻ giống như một khám phá đột phá, nhưng không may là nó mang lại rất ít giá trị trong thế giới thực. Con người chúng ta không có khả năng hiểu được cuộc trò chuyện. Ngay cả khi nó là một cách nhanh hơn, hiệu quả hơn để AI nói chuyện với nhau, ngôn ngữ này mang lại rất ít lợi ích cho con người, những người đang nỗ lực để tối ưu hóa giọng nói giữa AI với con người, chứ không phải AI-to-AI. Facebook nhanh chóng rút phích cắm trên Bob và Alice và buộc họ bắt đầu nói tiếng Anh trở lại.

Gã khổng lồ xã hội sau đó đã thực hiện một khám phá hấp dẫn khác sau khi nó có hai bot hộp thoại nói chuyện bình thường. Ngoài việc bắt chước đơn giản, các nhà nghiên cứu muốn xem liệu các bot có thể học cách thương lượng hay không. Họ đã làm như vậy bằng cách thử nghiệm chúng trực tuyến trong các cuộc trò chuyện với người thật. Facebook cho biết hầu hết mọi người thậm chí không nhận ra rằng họ đang nói chuyện với một bot và người đàm phán với bot giỏi nhất cũng giỏi hoặc giỏi hơn con người.

Facebook hy vọng họ có thể tối ưu hóa AI của mình thành một trợ lý kỹ thuật số được cá nhân hóa cho các dịch vụ trong tương lai.

H / T MetroUK