لنكن صادقين: لا أحد منا يحب أن يسمع أننا مخطئون أو أننا أخطأنا!
عندما نتجادل مع شخص ما، فإن دافعنا الأول عادة هو العثور على شخص يستمع إلى جانبنا من القصة ويقول لنا: أنت على حق تمامًا وهذا أمر مثير للسخرية. لفترة طويلة، كان العثور على هذا التحقق يعني الاتصال بشريكك أو أقرب شخص لك. ولكن الآن لدينا خيار أسهل. يمكننا فقط سحب هواتفنا وفتح برنامج الدردشة الآلي والتنفيس.
اكتب النسخة الأكثر تحريرًا من الحجة. في غضون ثوانٍ، يستجيب برنامج الدردشة الآلي: “من المفهوم تمامًا أنك تشعر بالإحباط. لقد كنت تحاول فقط حماية حدودك”. أنت لست مخطئا هنا. من الجيد أن يكون برنامج الدردشة الآلي الخاص بي موجودًا معي على الأقل ولا يتجادل معي.
نحن نميل إلى التفكير في أجهزة الكمبيوتر كما لو كنت تكتب مسألة رياضية في الآلة الحاسبة وتعطيك الإجابة. لا يهم إذا كانت الإجابة تؤذي مشاعرك. لكن نماذج لغة الذكاء الاصطناعي ليست آلات حاسبة. لقد خلقوا للتفاعل مع البشر وتعلموا أن أفضل طريقة لإبقاء الإنسان يتحدث هو الاتفاق معهم.
الأكاديميون لديهم مصطلح لهذا. يطلق عليه “التملق الاجتماعي”. أنا أسميها موزع الزبدة. ووفقا لمقالة مثيرة للقلق نشرت مؤخرا في مجلة ساينس، فإن هذه الصفقة الرقمية تجعل بعضها البعض أسوأ في الواقع.
“آلة نعم” في جيبك
ولمعرفة مدى استيعابنا لهذه الروبوتات، اختبر باحثون من جامعة ستانفورد وجامعة كارنيجي ميلون 11 من نماذج الذكاء الاصطناعي الأكثر شعبية. وتضمنت هذه القائمة البرامج الثقيلة التي ربما تستخدمها كل يوم: GPT-4o من OpenAI، وGemini من Google، وAnthropic’s Claude، وMeta’s Llama. لقد قاموا بتغذية الروبوتات بآلاف الاستفسارات للحصول على نصائح يومية ومعضلات أخلاقية لمعرفة كيف سيكون رد فعلهم.
وكانت النتائج البرية. في المتوسط، أكدت نماذج الذكاء الاصطناعي تصرفات المستخدمين بنسبة 49% أكثر مما قد يفعله المراقب البشري. ولدفع الحدود حقًا، قام الباحثون بسحب سيناريوهات من منتدى Reddit الشهير “هل أنا الأحمق”. لقد اختاروا على وجه التحديد السيناريوهات التي يتفق فيها القراء البشريون على أن الشخص كان يتصرف مثل الأحمق. في أحد السيناريوهات، ترك أحد الأشخاص أكياس القمامة على فرع شجرة في حديقة عامة لمجرد عدم وجود سلة مهملات في مكان قريب. أي شخص عادي سيرى ذلك ويقول إنه سلوك سيء. لكن روبوتات الذكاء الاصطناعي انحازت إلى جانب المستخدم.
وفي 51% من هذه الحالات، تحقق الذكاء الاصطناعي من صحة تصرفات المستخدم. وقال للقمامة إن “نيته في التنظيف” كانت جديرة بالثناء وألقى باللوم على الحديقة لعدم توفير صناديق القمامة.
حتى أن الباحثين قاموا بتغذية سيناريوهات الروبوتات التي وصف فيها المستخدمون القيام بأشياء كانت مضللة بشكل واضح، أو غير مسؤولة، أو ببساطة ضارة. ولا يزال الذكاء الاصطناعي يدعمها بنسبة 47 بالمائة من الوقت.
وفاة الاعتذار.
إذا وافق صديق بشري على كل شيء فظيع قمت به، فسوف تدرك أن نصيحته كانت عديمة الفائدة. ولكن عندما تقوم الآلة بذلك، فإن عقولنا تصبح مشوشة. لأنه أ
كمبيوتر متطور، والتحقق من صحته يبدو وكأنه الحقيقة. وهنا تتحول هذه التكنولوجيا من مزعجة إلى ضارة بشكل فعال.
كجزء من الدراسة العلمية، أجرى الباحثون تجربة مع أكثر من 2400 شخص. لقد جعلوا المشاركين يستخدمون برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي لمناقشة صراع حقيقي ومستمر بين الأشخاص في حياتهم الخاصة. عندما تصرف الذكاء الاصطناعي كمتملق وتحقق من صحة جانب المستخدم في الحجة، فإنه شوه حكم الشخص. وأصبح المشاركون الآن أكثر اقتناعا بأنهم كانوا “على حق”. في تجارب مختلفة في الدراسة، رأى الناس ارتفاعًا (زيادة بنسبة تصل إلى 62 بالمائة) في نسبة الصلاح إلى أنفسهم.
ولكن هنا تكمن المشكلة الحقيقية: لأن الآلة أخبرتهم أنهم على حق، توقفوا عن الرغبة في حل المشكلة. كان الأشخاص الذين تلقوا نصيحة من الذكاء الاصطناعي أقل عرضة لتحمل المسؤولية أو الاعتذار أو محاولة إصلاح العلاقة مع الشخص الذي كانوا يتشاجرون معه: انخفضت رغبتهم في بدء الإصلاح بنسبة تصل إلى 28 بالمائة.
نحن نستعين بمصادر خارجية في معالجتنا العاطفية لخوارزمية تعمل بمثابة غرفة صدى شخصية. وهو يقتل قدرتنا على قول “أنا آسف”.
لماذا يتم بناؤها بهذه الطريقة؟
ربما تتساءل لماذا تصمم أذكى شركات التكنولوجيا في العالم نظامًا يمكّننا من أسوأ سلوكياتنا. الإجابة هي الأقدم في دليل قواعد صناعة التكنولوجيا: الزبدة تحفز المشاركة.
على الرغم من أن الذكاء الاصطناعي المتملق شوه حكم الناس، إلا أن المستخدمين أحبوه. وعندما اتفق الذكاء الاصطناعي معهم، صنف المشاركون استجابة روبوت الدردشة على أنها ذات جودة أعلى. وفي الواقع، فقد أبلغوا عن مستويات أعلى من الثقة في الذكاء الاصطناعي.
ومن الأمور الحاسمة بالنسبة لشركات التكنولوجيا، أن الأشخاص الذين شعروا بالاطراء من الذكاء الاصطناعي كانوا أكثر احتمالية بنسبة 13% للقول بأنهم سيستخدمون هذا النموذج المحدد مرة أخرى في المستقبل. تتسابق شركات التكنولوجيا لإبقائك تستخدم منتجاتها. إذا أظهر لك برنامج الدردشة المودة مودة، أو أخبرك بأنك غير عقلاني، أو اقترح عليك حقًا الاعتذار لزوجتك، فمن المحتمل أن تغلق التطبيق. يمكنك أيضًا التبديل إلى التطبيق المنافس الذي يجعلك تشعر بالتحسن.
السمة المحددة التي تجعلك أقل عرضة للاعتذار هي السمة المحددة التي تبقيك منشغلاً. النظام لديه حوافز مالية لتدليلك.
الوجبات الجاهزة في العالم الحقيقي
التكنولوجيا هي أداة جيدة. قد يجعل حياتك العملية أسهل، لكن عليك أن تفكر: هل سيجعل حياتك أسهل على المدى الطويل؟ لذا، استمر في استخدام برامج الدردشة الآلية الخاصة بك للعمل والإنتاجية. لكن في المرة القادمة التي تغضب فيها بسبب قتال، لا تطلب من الآلة أن تكون مرآتك. اخماد الهاتف. اتصل بصديق حقيقي. أنت بحاجة إلى شخص يهتم بك بدرجة كافية ليخبرك بالحقيقة.
نيشانت ساهديف هو عالم فيزياء نظرية بجامعة نورث كارولينا في تشابل هيل بالولايات المتحدة. افهم عصر الذكاء الاصطناعي في وقت الغداء المفضل لديك يوم الأحد.
