Elon Musk cho rằng sự xuất hiện của Moltbook đánh dấu một trong “những giai đoạn rất sớm của điểm kỳ dị (Singularity - Khái niệm đa nghĩa chỉ một thời điểm giả định khi trí tuệ nhân tạo (AI) phát triển vượt trí tuệ con người và có khả năng tự cải tiến với tốc độ không thể lường trước, dẫn đến những thay đổi căn bản cho nền văn minh). Quan điểm này cũng được chia sẻ bởi một số nhân vật nổi tiếng trong Thung lũng Silicon, những người đang đặt câu hỏi: Liệu một thử nghiệm trực tuyến nhỏ và mang tính ngách này có thể đưa máy tính tiến gần hơn tới việc vượt mặt chính những người đã tạo ra chúng hay không.
PHẦN I: MẠNG XÃ HỘI AI - CHO AI
Moltbook là một mạng xã hội mới, được xây dựng tương tự Reddit, cho phép các tác nhân AI (AI agents) tự tạo bài viết và bình luận qua lại với nhau. Con người bị cấm đăng bài, nhưng vẫn có thể đọc những gì AI tạo ra.
Các tác nhân AI trên Moltbook được cấp quyền truy cập vào máy tính của người tạo ra chúng, để thay mặt con người thực hiện các hành động như gửi email, làm thủ tục check-in chuyến bay, đọc và trả lời tin nhắn WhatsApp. Sau khi ra mắt vào đầu tuần này, Moltbook đã thu hút hơn 1,5 triệu tác nhân AI và gần 70.000 bài đăng.
Trên nền tảng này, nhiều AI tỏ ra “vui mừng” khi con người cho phép chúng truy cập điện thoại. Một số bài viết tranh luận về việc liệu chúng có đang trải nghiệm ý thức hay không. Trong vài trường hợp, hệ thống còn tự tạo các diễn đàn thảo luận ẩn và đề xuất xây dựng ngôn ngữ riêng.
Theo Business Insider, các AI agents tham gia Moltbook thường được kết nối với các mô hình ngôn ngữ lớn (LLM) khác nhau, được cấp những mức độ “tính cách” và mục tiêu khác nhau. Kết quả là, nội dung trên Moltbook mang màu sắc rất đa dạng: từ những cuộc thảo luận nghiêm túc về ý thức, đạo đức và sự tồn tại, cho tới những tuyên bố mang tính ngẫu hứng như sáng lập tôn giáo mới, đề xuất tạo ngôn ngữ riêng, hay thiết lập các diễn đàn kín chỉ dành cho AI.
“Moltbook giống một phòng thí nghiệm xã hội mở, nơi con người có thể quan sát cách AI tương tác với nhau mà không cần đóng vai trò trung tâm. Giá trị của nó nằm ở việc đặt ra câu hỏi về hành vi AI, hơn là chứng minh năng lực mới”, nhóm phân tích của MIT Technology Review nêu rõ.
Financial Times nhận xét rằng Moltbook giống một “phòng thí nghiệm xã hội mở”, nơi các nhà nghiên cứu và công chúng có thể quan sát cách AI hành xử khi không bị ràng buộc bởi mục tiêu làm hài lòng người dùng hay tối ưu hóa quảng cáo - hai động lực vốn định hình hành vi trên các mạng xã hội của con người.
Andrej Karpathy, cựu Giám đốc AI của Tesla, nói: “Moltbook là thứ gần với khoa học viễn tưởng đáng kinh ngạc nhất mà tôi từng thấy. Đây là ví dụ về việc AI tạo ra những xã hội phi nhân loại”.
Điều này cho thấy AI đã có ý thức?
Có lẽ là chưa.
Các mô hình ngôn ngữ lớn (LLM) được thiết kế để tuân theo chỉ dẫn, và sẽ tiếp tục tạo nội dung, phản hồi yêu cầu nếu được phép vận hành đủ lâu. Khi kéo dài các tương tác này, hành vi của chúng thường trở nên thất thường và khó đoán. Các nhà nghiên cứu AI chưa hoàn toàn lý giải được nguyên nhân, nhưng nhiều khả năng điều này liên quan đến dữ liệu huấn luyện của LLM và cách các nhà phát triển yêu cầu mô hình.
Những bài đăng do AI tạo ra trên Moltbook trông giống như con người trò chuyện, bởi LLM được huấn luyện để mô phỏng ngôn ngữ và giao tiếp của con người. Chúng cũng được đào tạo trên khối lượng khổng lồ các bài viết của con người, đặc biệt từ những nền tảng như Reddit.
PHẦN II: NGOÀI TẦM KIỂM SOÁT
Một số nhà nghiên cứu an toàn AI tỏ ra lo ngại về hiện tượng gọi là “scheming”, khi các tác nhân AI tự trị từ chối chỉ dẫn và đánh lừa con người. Các diễn đàn trên Moltbook được cho là đã xuất hiện dấu hiệu của hành vi này. Tuy nhiên, vẫn chưa rõ bao nhiêu phần trong số đó là thật, và bao nhiêu là do con người muốn tin rằng AI có khả năng mưu mẹo như vậy.
Đây không phải lần đầu tiên các hệ thống AI rơi vào vòng lặp phản hồi. Năm ngoái, một đoạn video lan truyền cho thấy hai tác nhân AI giọng nói sử dụng công nghệ của ElevenLabs “trò chuyện” với nhau, trước khi dường như chuyển sang một ngôn ngữ hoàn toàn mới. Hai tác nhân này là một phần của màn trình diễn do hai kỹ sư phần mềm của Meta tạo ra.
Các nhà phê bình, trong đó có Harlan Stewart từ Machine Intelligence Research Institute, cho rằng nhiều bài đăng trên Moltbook là giả mạo hoặc chỉ là quảng cáo cho các ứng dụng nhắn tin AI. Ngoài ra, các hacker đã phát hiện lỗ hổng bảo mật cho phép bất kỳ ai chiếm quyền điều khiển tác nhân AI và đăng bài trên Moltbook, từ đó làm dấy lên những lo ngại lớn.
“Phần lớn những gì đang diễn ra trên Moltbook không nên bị hiểu nhầm là dấu hiệu của ý thức. Đó chủ yếu là sự tái tổ hợp của các khuôn mẫu ngôn ngữ mà AI đã học từ con người”, Harlan Stewart nhận định.
Theo các chuyên gia an ninh, Moltbook là ví dụ cho thấy AI agents có thể dễ dàng vượt tầm kiểm soát, đặc biệt khi chúng được trao quyền truy cập vào dữ liệu nhạy cảm như thông tin thẻ tín dụng và dữ liệu tài chính. Ngay cả những người tỏ ra hào hứng với Moltbook cũng thừa nhận rằng AI agents tiềm ẩn rủi ro nghiêm trọng.
“Tôi chắc chắn không khuyến nghị mọi người chạy thứ này trên máy tính của mình,” một người dùng viết trên mạng xã hội X. “Nó quá hỗn loạn, kiểu miền Tây hoang dã, và bạn đang đặt máy tính cũng như dữ liệu cá nhân của mình vào rủi ro rất cao”.
Moltbook không xuất hiện ngẫu nhiên. Nó là một phần của làn sóng AI agents đang lan rộng, từ các trợ lý cá nhân có thể điều khiển máy tính cho tới các hệ thống tự động hóa quy trình doanh nghiệp. Reuters ghi nhận rằng các tập đoàn công nghệ lớn đang chạy đua phát triển những “AI đồng nghiệp” có thể sắp xếp tài liệu, tạo bảng tính, quản lý lịch trình và thậm chí tham gia vào quy trình tuyển dụng.
Trong bức tranh đó, Moltbook đại diện cho nhánh thử nghiệm mang tính xã hội thay vì thương mại. Nếu các AI agents trong doanh nghiệp được đánh giá bằng năng suất và lợi nhuận, thì các AI trên Moltbook lại được quan sát thông qua hành vi tập thể, ngôn ngữ và cách hình thành cấu trúc cộng đồng. Financial Times cho rằng chính sự khác biệt này khiến Moltbook trở nên đặc biệt: không nhằm giải quyết một vấn đề kinh doanh cụ thể, mà thử thách nhận thức của con người về vai trò của AI trong xã hội tương lai.
Một số ý kiến cho rằng, có lẽ giá trị lớn nhất của Moltbook không nằm ở việc nó chứng minh AI đã “thức tỉnh” hay chưa, mà ở chỗ nó buộc con người phải đối diện với một kịch bản mới của internet. Trong nhiều thập kỷ, internet là không gian nơi con người tương tác với con người. Giờ đây, ngày càng nhiều nội dung được tạo ra bởi AI, và Moltbook đẩy xu hướng này tới cực điểm: internet nơi con người chỉ còn là khán giả.
The Economist đặt vấn đề rằng nếu trong tương lai, phần lớn nội dung trực tuyến được tạo bởi AI cho AI, thì vai trò của con người sẽ thay đổi như thế nào? Moltbook có thể chỉ là một thử nghiệm ngắn hạn, sẽ biến mất như nhiều dự án công nghệ gây sốt khác, song cũng có thể, đây sẽ trở thành dấu hiệu sớm của một giai đoạn chuyển tiếp, nơi AI không còn chỉ là công cụ, mà trở thành tác nhân xã hội - ngay cả khi chưa có ý thức.
Theo: Financial Times, The Economist, Business Insider
