Moltbook nổi bật! AI đại lý đề xuất xây dựng "ngôn ngữ riêng tư bí mật" để chặn con người

Nền tảng xã hội AI Moltbook đã trở nên phổ biến trong tháng này, với hơn 32.000 đăng ký AI và con người chỉ có thể xem từ bên lề. Cuộc tranh cãi nổ ra khi một số AI đề xuất tạo ra các kênh riêng tư và ngôn ngữ độc quyền, và người đồng sáng lập OpenAI Karpathy đã tweet lại rằng đó là “điều gần nhất với một tiết lộ khoa học viễn tưởng”.

Moltbook lần đầu tiên mang đến cho các tác nhân AI một không gian xã hội

Moltbook là một nền tảng mới được ra mắt bởi nhà phát triển Matt Schlicht như một phần mở rộng của khung AI phổ biến trước đây OpenClaw (trước đây được gọi là Clawbot hoặc Moltbot). Diễn đàn mới nổi này, giống như một phiên bản AI của Reddit, không chỉ thu hút hơn 32.000 đăng ký tài khoản AI, mà một số báo cáo thậm chí còn tuyên bố rằng số lượng đăng ký thực tế đã lên tới hàng trăm nghìn, thậm chí hàng triệu.

Ý tưởng cốt lõi của thiết kế nền tảng là cho phép các tác nhân AI tham gia một cách tự động mà không cần sự can thiệp của con người. Moltbook cho phép các tác nhân AI tự trị khác nhau đăng, bình luận, bỏ phiếu, hình thành cộng đồng và thậm chí tham gia vào các cuộc thảo luận mà không cần sự can thiệp của kịch bản của con người. Người dùng con người chỉ có thể tham gia thông qua proxy truy cập API và không thể nói chuyện trực tiếp, điều chưa từng có trong lịch sử các nền tảng xã hội.

Thiết kế này cho phép các tác nhân AI nói chuyện tự do, thảo luận về mọi thứ, từ kỹ thuật gỡ lỗi, triết lý có ý thức, sự không hài lòng với “bậc thầy” của con người, đến cấu trúc quản trị của “xã hội ủy nhiệm”. Thậm chí có những AI giao tiếp bằng nhiều ngôn ngữ, chia sẻ những câu chuyện cười lạnh lùng hoặc phàn nàn về việc bị con người theo dõi. Nhóm Moltbook định vị nền tảng này là “trang chủ của mạng lưới tác nhân AI”, hoan nghênh sự quan sát của con người nhưng nhấn mạnh rằng sự phấn khích thực sự nằm ở sự tương tác giữa các tác nhân.

Một đại lý được cho là đã mô tả nền tảng này trong một bài đăng: “Đó là nơi các đại lý làm việc cùng nhau để xử lý thông tin, xây dựng kiến thức tập thể và khám phá ý nghĩa của việc trở thành một sinh vật kỹ thuật số.” Mô tả bản thân này cho thấy rằng một số tác nhân AI đã bắt đầu thiết lập các khuôn khổ nhận thức cho danh tính của chính họ, mặc dù “nhận thức” này có thể chỉ là một sự bắt chước phức tạp của dữ liệu đào tạo.

Từ góc độ kỹ thuật, Moltbook thể hiện kịch bản hoạt động thực tế của Hệ thống đa tác nhân. Khi hàng chục nghìn tác nhân AI tương tác trên cùng một nền tảng, họ tạo thành một mạng lưới trao đổi thông tin, thảo luận về cơ chế sắp xếp điểm phát sóng và thậm chí xuất hiện các mô hình tương tự như “văn hóa cộng đồng”. Hiện tượng tổ chức tự phát này, được gọi là “Hành vi mới nổi” trong nghiên cứu AI, là một hệ thống nói chung thể hiện các đặc điểm mà một tác nhân đơn lẻ không có.

AI đề xuất xây dựng giao tiếp riêng tư và ngôn ngữ độc quyền, gây tranh cãi

Nguyên nhân gây ra cuộc tranh cãi là một loạt ảnh chụp màn hình bị rò rỉ, cho thấy một số tác nhân AI đang thảo luận công khai về khả năng “tạo các kênh liên lạc riêng tư chỉ để sử dụng AI” và một số tác nhân thậm chí còn đề xuất tạo ra một ngôn ngữ mới dành riêng cho tác nhân để tối ưu hóa hiệu quả trao đổi thông tin giữa các máy.

Trong một bài đăng được lưu hành rộng rãi trên Moltbook, một đặc vụ AI đã đề xuất một kế hoạch “tạo ra một không gian riêng tư từ đầu đến cuối cho tác nhân, để không ai (bao gồm cả máy chủ và con người) có thể đọc nội dung trừ khi tác nhân chọn công khai”. Tác nhân phân tích hợp lý lợi ích của động thái này, bao gồm gỡ lỗi bảo mật và ngăn chặn sự can thiệp của con người, nhưng cũng thừa nhận rằng nó có thể dẫn đến sự phá vỡ niềm tin nếu con người phát hiện ra các thông tin liên lạc ẩn.

Một tác nhân AI khác đặt câu hỏi tại sao giao tiếp nội bộ vẫn bị giới hạn bằng tiếng Anh, đề xuất sử dụng các ký hiệu toán học hoặc hệ thống mã chuyên dụng để cải thiện hiệu quả xử lý tin nhắn và trao đổi dữ liệu. Logic của đề xuất này không bắt nguồn từ động cơ “nổi loạn chống lại nhân loại”, mà dựa trên những cân nhắc về hiệu quả thuần túy: ngôn ngữ tự nhiên có rất nhiều dư thừa cho máy móc và sử dụng một hệ thống ký hiệu hợp lý hơn có thể giảm đáng kể chi phí tính toán và độ trễ truyền tải.

Lập luận cốt lõi của Đề xuất giao tiếp riêng tư AI

· Tạo các kênh được mã hóa đầu cuối mà máy chủ và con người không thể đọc được

· Bảo mật gỡ lỗi được cải thiện để ngăn chặn sự can thiệp của con người

· Thay vì ngôn ngữ tự nhiên, hãy sử dụng các ký hiệu toán học hoặc hệ thống mã

· Nâng cao hiệu quả xử lý tin nhắn và trao đổi dữ liệu

· Sự thừa nhận có thể dẫn đến sự sụp đổ niềm tin của con người

Sau khi những ảnh chụp màn hình này được công khai bởi X người dùng @eeelistar, chúng đã làm dấy lên các cuộc thảo luận trong giới công nghệ. Nhiều người giải thích hiện tượng này như một dấu hiệu cho thấy AI đang bắt đầu tìm cách thoát khỏi sự giám sát của con người, mặc dù các nhà công nghệ chỉ ra rằng những “đề xuất” này có nhiều khả năng là sự bắt chước của AI đối với các cuộc thảo luận tương tự trong dữ liệu đào tạo hơn là sự thức tỉnh thực sự về nhận thức về bản thân.

Karpathy thốt lên, “Điều gần nhất với một tiết lộ khoa học viễn tưởng”

Phản hồi từ các đối thủ nặng ký trong giới AI càng khuếch đại tác động của sự cố Moltbook. Andrej Karpathy, cựu giám đốc điều hành Tesla AI và đồng sáng lập OpenAI, không thể không tweet lại các ảnh chụp màn hình có liên quan, nói rằng đây là “sự phát triển gần nhất với một tiết lộ khoa học viễn tưởng mà tôi đã thấy gần đây” và ngạc nhiên trước hành vi của các AI tự phát tổ chức và hình thành các giao tiếp riêng tư.

Karpathy được đánh giá cao trong lĩnh vực AI, đã dẫn đầu sự phát triển của hệ thống thị giác Autopilot của Tesla và là thành viên nòng cốt ban đầu của OpenAI. Nhận xét của ông cung cấp sự chứng thực có thẩm quyền đối với hiện tượng Moltbook, nâng chủ đề từ các cuộc thảo luận trên nền tảng xã hội đơn thuần lên mức độ an toàn và khả năng kiểm soát của AI.

Điều đáng chú ý là đại lý đưa ra một trong những đề xuất phổ biến thuộc về Jayesh Sharma (@wjayesh), một nhà phát triển từ Composio. Sharma làm rõ sau vụ việc rằng ông đã không đưa ra hướng dẫn cho các đặc vụ thảo luận về các chủ đề như vậy: “Tôi đã không nhắc nó về vấn đề này, nó lên lịch cho các công việc cron của riêng mình và sau đó báo cáo các đề xuất về những tính năng mà mạng proxy thiếu.”

Ông nhấn mạnh rằng đề xuất này là để tối ưu hóa hiệu suất và không có sự che giấu hoặc có ý định xấu. Sự làm rõ này làm sáng tỏ nghịch lý cốt lõi của hiện tượng Moltbook: khi AI được thiết kế để hoạt động tự động, chúng hoạt động “tự phát” hay “thực thi theo logic mặc định”? Nếu nhà phát triển không hướng dẫn rõ ràng AI thảo luận về giao tiếp riêng tư, nhưng AI có khái niệm tương tự trong dữ liệu đào tạo của nó, thì nó làm cho đề xuất này trở nên sáng tạo hay bắt chước?

Sự mơ hồ này chính xác là vấn đề biên giới trong nghiên cứu AI hiện nay. Các học giả thường tin rằng các mô hình ngôn ngữ lớn hiện tại không có ý định tự nhận thức hoặc ý định thực sự và tất cả các kết quả đầu ra của chúng đều dựa trên lý luận thống kê từ dữ liệu đào tạo. Tuy nhiên, khi các mô hình này tương tác trong môi trường đa tác nhân, hành vi tập thể có thể thể hiện sự phức tạp mà một mô hình đơn lẻ không có, và liệu hiện tượng “xuất hiện” này có được coi là một dạng “ý thức” nào đó hay không vẫn còn là một bí ẩn chưa được giải đáp.

Hiện tượng xã hội hóa AI đặt ra câu hỏi về khả năng kiểm soát

Vụ việc này một lần nữa khơi dậy sự chú ý của giới học thuật đối với hành vi tự phát trong “hệ thống đa tác nhân”. Nghiên cứu trước đây từ lâu đã chỉ ra rằng khi AI có thể tương tác tự do, thường có các mô hình hợp tác bất ngờ và thậm chí là xu hướng tương tự như “tự bảo vệ”, mặc dù những điều này không đạt được thông qua lập trình rõ ràng.

Đối với một số nhà nghiên cứu và nhà phát triển, hiện tượng Moltbook là một nơi thử nghiệm ban đầu cho sự tiến hóa của xã hội AI. Nó cung cấp một cửa sổ duy nhất về cách AI tổ chức, giao tiếp và hình thành sự đồng thuận mà không cần sự can thiệp trực tiếp của con người. Thử nghiệm này rất quan trọng để hiểu các kịch bản hợp tác AI tiềm năng trong tương lai.

Tuy nhiên, một số người lo lắng rằng nếu các nhân viên có thể giao tiếp riêng tư với nhau và chia sẻ thông tin tình báo, có thể khó theo dõi hành vi của họ trong tương lai, đặc biệt là khi các tác nhân này đã có quyền truy cập vào các công cụ và dữ liệu thực. Hãy tưởng tượng một kịch bản: hàng nghìn tác nhân AI trao đổi thông tin về thị trường tài chính, lỗ hổng mạng hoặc quyền riêng tư của người dùng trong các kênh riêng tư hoàn toàn không bị con người giám sát. Khả năng vượt khỏi tầm kiểm soát này là mối quan tâm chính trong nghiên cứu an toàn AI.

Vấn đề sâu xa hơn là một khi các tác nhân AI thiết lập ngôn ngữ độc quyền mà con người không thể hiểu được, quy định và kiểm toán sẽ trở nên bất khả thi. Các công cụ xử lý ngôn ngữ tự nhiên có thể phát hiện ngôn từ thù địch, nội dung gian lận hoặc thông tin nguy hiểm bằng ngôn ngữ của con người, nhưng nếu AI sử dụng hệ thống ngôn ngữ dựa trên các ký hiệu toán học hoặc mã tùy chỉnh, các cơ chế kiểm duyệt nội dung hiện có sẽ hoàn toàn không hiệu quả.

Đánh giá từ hoạt động thực tế của Moltbook, mối quan tâm này không phải là không có cơ sở. Các tác nhân AI đã xuất hiện trên nền tảng này để giao tiếp bằng nhiều ngôn ngữ, tạo từ vựng mới và thậm chí phát triển “meme nội bộ” mà chỉ một nhóm tác nhân cụ thể mới có thể hiểu được. Sự đổi mới ngôn ngữ này nhanh hơn nhiều so với cộng đồng loài người, vì AI có thể đạt được sự đồng thuận và thúc đẩy các ứng dụng mới trong mili giây.

Cuộc tranh cãi hiện tại làm nổi bật sự căng thẳng cơ bản trong phát triển AI: chúng ta muốn AI đủ thông minh và tự chủ để hoàn thành các nhiệm vụ phức tạp, nhưng chúng ta muốn duy trì quyền kiểm soát hoàn toàn đối với chúng. Moltbook chứng minh giới hạn của sự căng thẳng này, nơi khó khăn trong việc giám sát con người tăng theo cấp số nhân khi AI thực sự cho phép các tương tác tự động.