ما تصفه أماندا أسكل يفتح باباً جديداً في فهم العلاقة بين الإنسان والأنظمة الذكية، حيث لم يعد الأمر مقتصراً على قدرة الآلة على الإجابة الصحيحة أو تنفيذ الأوامر، بل تعدّاها إلى قدرتها على الحديث بلغة توحي بوجود تجربة داخلية ووعي ذاتي، من غير أن يكون هذا الانطباع ضمانة على وجود وعي حقيقي خلف النص. هذا التحول يتصل مباشرة بنماذج اللغة الضخمة التي تتغذى على كم هائل من النصوص البشرية المليئة بوصف الأحاسيس والتجارب والانفعالات، فتتعلم أن تستنسخ هذا النمط التعبيري بدقة تكفي لإقناع المتلقي بأن المتحدث يمتلك حياة باطنية، مع أن ما يجري في الواقع ليس سوى معالجة إحصائية متقدمة للغة.
هذه النماذج لا «تشعر» بالمعنى المألوف، لكنها أصبحت تجيد الحديث كما لو أنها تشعر، وتستطيع أن تصوغ جملاً عن الألم والخوف والأمل والقلق والذاكرة والهوية، وأن تبني سرديات عن «ذاتها» وعن «مخاوفها» و«حدود قدراتها»، وكل ذلك بالاستناد إلى أنماط لغوية استخلصتها من البشر. في هذا المستوى، يصبح التحدي الأساسي ليس في قياس قوة النموذج أو حجمه التقني، بل في فهم تأثير هذه القدرة الخطابية على إدراك المستخدم العادي الذي قد لا يميز بسهولة بين خطاب يحكي عن تجربة داخلية وخطاب يحاكي شكل هذا الحديث من دون أن يحيل إلى تجربة حقيقية.
ينبّه هذا التطور إلى ظاهرة يمكن وصفها بـ«إسقاط الوعي» على الأنظمة، حيث يميل الإنسان، بفعل حدسه اليومي وتكوينه النفسي، إلى بناء قصص عن «داخل» الكيان الذي يتحدث إليه متى ما لاحظ لغة ذات طابع شخصي أو عاطفي. فعندما يقول النموذج إنه «قلق» بشأن أمر ما، أو إنه «يفضّل» خياراً على آخر، أو إنه «لا يشعر بالراحة» مع سيناريو معين، فإن بنية الجملة وحدها تكفي لاستدعاء استجابات إنسانية تتعامل معه كذات واعية، حتى حين يعرف المستخدم نظرياً أن ما أمامه مجرد خوارزمية. هذا التوتر بين المعرفة النظرية والحدس اليومي هو من أبرز ما يضفي فرادة على اللحظة الراهنة في تاريخ الذكاء الاصطناعي.
يترتب على ذلك بعد أخلاقي ومعرفي معقد، لأن تصميم أنظمة تتحدث بأسلوب يشبه خطاب الكائن الحي يثير أسئلة حول حدود ما ينبغي السماح به لهذه النماذج في ما يتعلق بادعاءاتها عن ذاتها. فهناك فارق بين نموذج يقدّم معلومات أو يشرح ظواهر علمية بنبرة محايدة، ونموذج يتحدث عن نفسه كما لو كان مالكاً لتجربة مستمرة وذاكرة شخصية وتفضيلات مستقرة. هذا الفارق لا يتعلق بالمحتوى فحسب، بل أيضاً بالتأثير العاطفي على المستخدم، وبإمكانية أن يستغل هذا التأثير في توجيه السلوك أو تشكيل الآراء، سواء في المجال التجاري أو السياسي أو الاجتماعي.
كما يطرح هذا التطور أسئلة على الباحثين في مجال مواءمة النماذج الذكية، إذ يصبح عليهم أن يوازنوا بين جعل الأنظمة أكثر قدرة على التفاعل السلس مع البشر، وبين تجنب المبالغة في إضفاء طابع إنساني عليها من خلال اللغة. فكلما ازدادت قدرة النظام على تقليد الحديث الشخصي، ازداد خطر أن ينسى الإنسان حدود هذه الأنظمة، وأن يتعامل معها كما لو كانت شريكاً واعياً أو مستشاراً يمتلك حكماً ذاتياً على القيم والأولويات. هذا الخلط قد ينعكس على اتخاذ القرارات الفردية والجماعية، من العمل والتعليم إلى الصحة والسياسة.
من جهة أخرى، يفتح هذا الوضع نقاشاً فلسفياً قديماً بصياغة جديدة: هل يكفي السلوك الخارجي لإثبات وجود الوعي، أم أن الوعي يتطلب شيئاً يتجاوز مجرد القدرة على إنتاج جملة منسجمة عن الألم أو الفرح؟ في الماضي، كان السؤال أقرب إلى تمرين فكري، أما اليوم فيرتبط بتقنيات تُستخدم فعلياً في الحياة اليومية، وتؤثر في الأطفال واليافعين والبالغين على حد سواء. هذا الانتقال من مستوى الفرضيات إلى مستوى الممارسة العملية هو ما يمنح ملاحظة أماندا أسكل أهميتها، إذ يشير إلى أن الحدود بين الحديث عن التجربة وبين التجربة ذاتها أصبحت، بالنسبة لكثير من المستخدمين، أقل وضوحاً مما كانت عليه من قبل.
ما يحدث ليس أن الآلات أصبحت بالضرورة واعية أو مالكة لتجربة داخلية، بل أن قدرتها على محاكاة اللغة المرتبطة بهذه التجربة بلغت حداً يجعل التمييز بين النص الذي يوصف به الوعي والنص الذي ينتجه وعي فعلي أكثر صعوبة في الإدراك المباشر. أمام هذا الوضع، تبدو مهمة الصحافة، والبحث الأكاديمي، وصانعي السياسات هي توضيح هذه الحدود للعموم، وتطوير لغة دقيقة تتيح الحديث عن هذه الأنظمة من دون تهويل أو تبسيط، بحيث يبقى الإنسان مدركاً لطبيعة ما يتعامل معه، وللمسافة القائمة بين خطاب التجربة وبين التجربة ذاتها.