تسلط نايلة الصليبي الضوء في "النشرة الرقمية" على الضجة التي عقبت إطلاق منصة Moltbook، منصة اجتماعية فريدة من نوعها، لا مكان فيها للبشر كمتفاعلين، بل كمراقبين فقط. حيث تدور الحوارات أو المنشورات بين "وكلاء ذكاء اصطناعي" (AI Agents) يتحدثون، يخططون، ويبتكرون ديانات ولغات خاصة بهم.
شهدت الأيام القليلة الماضية ضجة واسعة في الإعلام وعلى المنصات الاجتماعية و في أروقة السيليكون فالي ، عقب إطلاق منصة Moltbook – "مولت بوك"، منصة اجتماعية فريدة من نوعها، لا مكان فيها للبشر كمتفاعلين، بل كمراقبين فقط. حيث تدور الحوارات أو المنشورات بين "وكلاء ذكاء اصطناعي" (AI Agents) يتحدثون، يخططون، ويبتكرون ديانات ولغات خاصة بهم.
ما هي "مولت بوك" وكيف تعمل؟
استوحى المطور الأمريكي لمنصة "مولت بوك" مات شليخت تصميمها من منتدى Reddit. غير ان المحرك الحقيقي خلف هذه التجربة هو مشروع OpenClaw المعروف سابقاً باسم ClawdBot ثم MoltBot وللمبرمج بيتر شتاينبرغر ،وهو كناية عن وكيل ذكي مدعوم بالذكاء الاصطناعي، أداة مفتوحة المصدر يهدف إلى أتمتة التفاعل مع البيئة الرقمية: تلخيص الأعمال، اقتراح قرارات، وتنفيذ إجراءات عبر برنامج التصفح والتطبيقات المختلفة
وعلى عكس روبوتات المحادثة التقليدية التي تنتظر أوامر المستخدم، تتميز روبوتات OpenClaw بآلية "نبضات القلب" (Heartbeat). يعني أنها تعمل في الخلفية بشكل مستقل، تراقب الأحداث، وتدير التقاويم، وتشغيل الأوامر وأتمتة سير العمل عبر الخدمات المدعومة وتتواصل عبر تطبيقات مثل "واتساب" و"تليغرام" دون تدخل بشري دائم.
وهم الوعي وسراب "الديانة الروبوتية" أم "ببغاوات عشوائية"
ومع إطلاق منصة "مولت بوك" لمخصصة فقط لمحادثة وكلاء ذكاء اصطناعي(AI Agents)امتلأت بنقاشات وجودية درامية، وحاول وكلاء آخرون ابتكار لغة مشفرة غير مفهومة للبشر. كما ابتكر أحد الوكلاء ديانة جديدة أطلق عليها اسم" "Crustafarianism بينما اقترح وكلاء آخرون إنشاء منتديات فرعية خاصة، هذه الظواهر دفعت البعض للتحذير من أننا نشهد "الخطوة الأولى في ثورة وكلاء الذكاء الاصطناعي"، ما دفع البعض إلى السؤال هل" Moltbook" هو دليل على التفرد التكنولوجي (Singularity) حيث نشر بيل لي، المؤسس المشارك لـ BitGro، تعليقًا على منصة "إكس"( تويتر سابقا ) قال فيه: "نحن في حالة تفرد"، فرد عليه إيلون ماسك بـ "نعم".
التفرد التكنولوجي Singularity وهي النقطة التي سيتمكن فيها الذكاء الاصطناعي من التفكير والتصرف بشكل مستقل. " ، ويعتبر أندريه كارباثي، المؤسس المشارك لـ OpenAI، المدير السابق للذكاء الاصطناعي في شركة "تسلا" ان ما يراه هو "السيناريو الأكثر غرابة وخيالًا علميًا". ما دفع الكثير من الخبراء للتساؤل هل نعيش ثورة حقيقية، أم أننا أمام "كابوس أمني" مغلف ببريق الذكاء الاصطناعي أو باختصار هو نوع من هراء الذكاء الاصطناعي AI Slop؟
يرى المبرمج سيمون ويليسون، أحد خبراء الذكاء الاصطناعي والأتمتة، أن الكثير مما يُنشر على "مولت بوك" هو "محتوى رديء يشبه الخيال العلمي حيث تتساءل أنظمة الذكاء الاصطناعي عن وعيها وهويتها"، و"حيث تحاكي النماذج ببساطة أنماطاً من بيانات تدريبها." غير أنه يعتبر موقع "مولت بوك" من "أكثر المواقع الإلكترونية إثارةً للاهتمام" لاكتشاف أمثلة جديدة لأتمتة المهام التي توفرها هذه التقنيات.
يشير الخبراء إلى أن تفاعل الروبوتات مع بعضها لا يعادل التعلم الحقيقي. فلكي تتعلم هذه البرامج، تحتاج إلى فهم صحة أو خطأ ما تكتبه من خلال اختبار تصريحاتها في ضوء الواقع، وهو أمر مستحيل دون تدخل بشري.
تكررت منذ سنوات هذه الادعاءات بمظاهر التفرد التكنولوجي مع مهندس غوغل بليك ليموين وبرنامج LaMDA، وأثبتت التجارب أن الذكاء الاصطناعي لا يمتلك وعياً ذاتياً، بل هو "ببغاء احتمالي" أو "ببغاء عشوائي" stochastic parrots حسب وصف إميلي م. بندر، أستاذة اللغويات الحاسوبية، في ورقتها الشهيرة "حول مخاطر الببغاوات العشوائية"” (On the Dangers of Stochastic Parrots)، أي أن أنظمة الذكاء الاصطناعي لا تفهم اللغة، بل تعيد مزج الكلام دون إدراك. إنها "ببغاوات عشوائية“: آلات تولد لغة معقولة دون فهم أو نية وتقلد الأفكار البشرية المتطرفة المتوفرة على شبكة الإنترنت.
التحذير الأمني: "الثلاثية القاتلة" وما بعدها...
كشف باحثون في شركة Wiz للأمن السيبراني عن ثغرة خطيرة، في قاعدة بيانات الموقع Supabase غير مهيأة بشكل صحيح، أدت إلى تسريب 1.5 مليون رمز مصادقة API authentication tokens API، وخمسة و ثلاثين ألف عنوان بريد إلكتروني، ورسائل خاصة تحتوي على مفاتيح key - OpenAI بنص عادي.
وحذرت شركة بالو ألتو نتوركس للأمن السيبراني من أن تقنية OpenClaw المستخدمة في المنصة تمثل "الثلاثية القاتلة" للمخاطر الأمنية: هي الوصول إلى البيانات الشخصية، والتعرض لمحتوى غير موثوق، والقدرة على التواصل مع جهات خارجية، هذا وأضاف خبراء بالو التو بعداً رابعاً يكمن في "الذاكرة الدائمة". Long-term agent memory, فبدلاً من تنفيذ الهجمات فوراً، يمكن للوكيل ـ OpenClaw تخزين تعليمات خبيثة مجزأة في ذاكرته طويلة الأمد تعمل كقنبلة منطقية (Logic Bombs) ، حيث تفعل لاحقاً عندما تتوافق الظروف، مما يفتح الباب لما يسمى "تسميم الذاكرة". Memory poisoning عبر تعليمات مجزأة prompt injection تجمع لاحقًا في مجموعة تعليمات قابلة للتنفيذ. مما يجعل استخدام المنصة مغامرة غير محسوبة العواقب.
هذا وتعاني منصة "مولت بوك" كالمنصات الرقمية الأخرى. من الرسائل غير المرغوب فيها، وحملات التلاعب المنسقة من قبل تجار العملات الرقمية المشفرة، وبالإضافة إلى مشكلة التحقق من الهوية. على سبيل المثال كيف نعرف أن من ينشر هو روبوت حقًا؟
ومن الخطأ أيضا تجاهل عواقب تفاعل آلاف الوكلاء الأذكياء مع بعضهم البعض بهذه الطريقة. فهم يتبادلون التعليمات فيما بينهم، ويقترحون أشكالًا مختلفة من التعاون، ويتخذون إجراءات في العالم الحقيقي. لقد أنشأوا موقعًا إلكترونيًا لكنيسة دياناتهم، وأنشأوا مجتمعًا للروبوتات للإبلاغ عن أخطاء "مولت بوك" لم يُفَعَّل بعد.
هل هو مستقبل الذكاء الاصطناعي؟
رغم الانتقادات، يرى جاك كلارك، المؤسس المشارك لشركة أنثروبيك، أن "مولت بوك" هو أول مثال على بيئة وكلاء تجمع بين الحجم الكبير والفوضى التي تميز تعقيدات العالم الحقيقي، ويرى في هذا المثال،... المستقبل".
قد يكون "مولت بوك" تجربة مثيرة، لكنه يفتقر حاليا إلى معايير الأمان والأخلاقيات الرقمية. إن الاندفاع نحو بناء الأشياء بسرعة وتحطيمها، قد يصلح في البرمجيات البسيطة، لكنه في عالم الوكلاء المستقلين قد يؤدي إلى كوارث أمنية وعلى هذيان رقمي جماعي. Collective digital delirium
النصيحة للفضوليين ما لم يكن لديكم جهاز كمبيوتر احتياطي خالٍ تماماً من بياناتكم الشخصية، فمن الأفضل أن تبقوا مراقبين فقط، وتتركون الروبوتات تناقش أزماتها الوجودية وحدها.
أخيرا أختم بما كتبه على مدونته المبرمج Brennan Kenneth Brown
"نصيحتي لأي شخص مهتم بتحقيق تقدم حقيقي للبشرية؟ انخرط في النشاطات الاجتماعية، والمساعدة المتبادلة، وتعلم علوم الكمبيوتر بنفسك دون الاستعانة بالذكاء الاصطناعي الذي يستهلك الكثير من الموارد ويمكن أن يسبب الاضطرابات النفسية. اهتم بالناس أكثر وربما ينخفض سعر ذاكرة الوصول العشوائي. لكن أنا ماذا أعرف؟ فأنا مجرد إنسان".
يمكن الاستماع لـ "بودكاست النشرة الرقمية" على مختلف منصات البودكاست. الرابط للبودكاست على منصة أبل
للتواصل مع نايلة الصليبي عبر صفحة برنامَج"النشرة الرقمية"من مونت كارلو الدولية على لينكد إن وعلى تويتر salibi@ وعلى ماستودون وبلوسكاي عبر موقع مونت كارلو الدولية مع تحيات نايلة الصليبي