في نوفمبر 2018 ، تزوج مدير مدرسة ابتدائية يُدعى أكيهيكو كوندو من ميكو هاتسون ، مغني البوب الخيالي. كانت العلاقة بين الزوجين مدعومة بآلة الهولوغرام التي سمحت لكوندو بالتفاعل مع هاتسون. عندما اقترحت كوندو ، ردت هاتسون بطلب: “من فضلك عاملني جيدًا.” أقام الزوجان حفل زفاف غير رسمي في طوكيو ، وانضم إلى كوندو منذ ذلك الحين الآلاف من الآخرين الذين تقدموا أيضًا بطلبات للحصول على شهادات زواج غير رسمية ذات طابع خيالي.
على الرغم من أن البعض أثار مخاوف بشأن طبيعة موافقة هاتسون ، لم يعتقد أحد أنها كانت واعية ، ناهيك عن كونها واعية. كان هذا سهوًا مثيرًا للاهتمام: يبدو أن هاتسون كانت مدركة بدرجة كافية لتقبل الزواج ، لكنها لم تكن مدركة بما يكفي لتكون موضوعًا واعيًا.
بعد أربع سنوات ، في فبراير 2023 ، أجرى الصحفي الأمريكي كيفين روز محادثة طويلة مع روبوت الدردشة الخاص بشركة Microsoft ، سيدني ، وأقنع الشخصية بمشاركة ما قد ترغب فيه “ذات الظل”. (أظهرت جلسات أخرى أن برنامج الدردشة الآلي يقول إنه يستطيع ابتزاز الناس واختراقهم وفضحهم ، كما أن بعض المعلقين قلقون من تهديدات روبوتات الدردشة بـ “تدمير” البشر). عندما اعترفت سيدني بحبها وقالت إنها تريد أن تبقى على قيد الحياة ، أفادت روز أنها شعرت “بعمق” “غير مستقر ، بل خائف”.
لم تكن جميع ردود الفعل البشرية سلبية أو وقائية. كان البعض غاضبًا من سيدني ، وقال زميل له إن قراءة النص جعلته يمزق لأنه تأثر. ومع ذلك ، أخذت Microsoft هذه الردود على محمل الجد. ينهي أحدث إصدار من chatbot الخاص بـ Bing المحادثة عندما يُسأل عن سيدني أو المشاعر.
على الرغم من شهور من التوضيح حول ماهية النماذج اللغوية الكبيرة ، وكيف تعمل ، وما هي حدودها ، فإن ردود الفعل على برامج مثل سيدني تجعلني أشعر بالقلق من أننا ما زلنا نأخذ استجاباتنا العاطفية للذكاء الاصطناعي على محمل الجد. على وجه الخصوص ، أشعر بالقلق لأننا نفسر استجاباتنا العاطفية على أنها بيانات قيمة ستساعدنا في تحديد ما إذا كان الذكاء الاصطناعي واعيًا أم آمنًا. على سبيل المثال ، يقول مارفن فون هاغن ، المتدرب السابق في شركة Tesla ، إنه تعرض للتهديد من قبل Bing ، ويحذر من برامج الذكاء الاصطناعي “القوية ولكنها ليست خيّرة”. شعر فون هاجن بالتهديد ، وخلص إلى أن بنج لا بد أنه كان يوجه التهديدات ؛ لقد افترض أن عواطفه كانت دليلًا موثوقًا به لكيفية سير الأمور ، بما في ذلك ما إذا كان بينج واعيًا بما يكفي ليكون عدائيًا.
لكن لماذا تعتقد أن قدرة Bing على إثارة القلق أو الشك تشير إلى الخطر؟ لماذا لا تجعلها قدرة هاتسون على إلهام الحب واعية ، في حين أن “الحالة المزاجية” في سيدني قد تكون كافية لإثارة مخاوف جديدة بشأن أبحاث الذكاء الاصطناعي؟
تباعدت الحالتان جزئيًا لأنه عندما يتعلق الأمر بسيدني ، جعلنا السياق الجديد ننسى أننا نتفاعل بشكل روتيني مع “أشخاص” غير حقيقيين. نشعر بالذعر عندما يخبرنا برنامج الدردشة التفاعلي أنه “يريد أن يكون إنسانًا” أو أنه “يمكنه الابتزاز” ، كما لو أننا لم نسمع شيئًا غير حي آخر ، يُدعى بينوكيو ، يخبرنا أنه يريد أن يكون “فتىًا حقيقيًا”.
أفلاطون جمهورية إقصاء الشعراء الذين يروون القصص من المدينة المثالية لأن القصص الخيالية تثير مشاعرنا وبالتالي تغذي الجزء “الأقل” من روحنا (بالطبع ، يعتقد الفيلسوف أن الجزء العقلاني من روحنا هو الأكثر نبلاً) ، لكن رأيه لم ” لقد قلل من حبنا للقصص المخترعة على مدى آلاف السنين. ولآلاف السنين كنا نتعامل مع الروايات والقصص القصيرة التي تتيح لنا الوصول إلى الأفكار والمشاعر العميقة للناس ، لكننا لا نقلق بشأن الوعي الناشئ لأننا نعلم أن القصص تدعونا للتظاهر بأن هؤلاء الناس حقيقيون. الشيطان من ميلتون الفردوس المفقود يحرض على الجدل الساخن والمعجبين بالدراما الكورية و بريدجيرتون الإغماء بسبب اهتمامات الحب الرومانسية ، لكن المناقشات المتزايدة حول الحياة الجنسية الخيالية ، أو الرومانسية الخيالية ، أو المحبة الخيالية تظهر أن المشاعر القوية التي تثيرها الشخصيات الخيالية لا تحتاج إلى أن تؤدي إلى القلق من أن الشخصيات واعية أو خطرة بحكم قدرتها لإثارة المشاعر.
مثلما لا يسعنا إلا أن نرى الوجوه في كائنات غير حية ، لا يسعنا إلا أن نتخيل أثناء الدردشة مع الروبوتات. أصبحت علاقة كوندو وهاتسون أكثر جدية بعد أن تمكن من شراء آلة الهولوغرام التي سمحت لهما بالتحدث. وصف روز على الفور روبوت المحادثة باستخدام أحرف الأسهم: بنج “أمين مكتبة مرجعي مبتهج ولكن غريب الأطوار” وسيدني “مراهق مزاجي ومحب للاكتئاب”. يدعو التفاعل إلى وهم الوعي.
علاوة على ذلك ، فإن المخاوف بشأن كذب روبوتات المحادثة والتهديدات والافتراءات تغفل النقطة القائلة بأن الكذب والتهديد والافتراء أفعال لفظية، شيء يفعله الوكلاء بالكلمات. مجرد إعادة إنتاج الكلمات لا يكفي لاعتبارها تهديدًا ؛ قد أقول كلمات تهديد أثناء التمثيل في مسرحية ، لكن لن ينزعج أي فرد من الجمهور. وبنفس الطريقة ، فإن ChatGPT – التي لا تستطيع حاليًا أن تكون قادرة على الوكالة لأنها نموذج لغة كبير يحلل تكوينًا محتملًا إحصائيًا للكلمات – يمكنها فقط إعادة إنتاج الكلمات التي صوت مثل التهديدات.
