hero image

أفيديني يا أليكسا، هل أرتدي الثوب الورديّ أم البرّاق اليوم؟

بقلم راشيل بوستمان

دعوت "أليكسا"، المساعد الذكيّ الذي يُعرف أيضًا بأمازون إيكو، إلى منزلي بغرض اختباره على ابنتي الصغيرة جريس البالغة من العمر 3 سنوات. أشرت إلى ذلك الشيء الأسطواني أسود اللون، وشرحت لها أنه مكبّر صوت ناطق يشبه قليلاً المساعد الصوتي الذكي "سيري"، بيد أنه مختلف. ثم قلت: "تستطيعين أن تسأليها ما شئتِ".

ما كان من جريس إلا أن خاطبتها قائلةً: "مرحبًا يا أليكسا. هل ستمطر اليوم؟" ليضيء الإطار الفيروزي حول المكبّر وكأنما دبّت فيه الحياة، ثمّ يصدر عنه صوتٌ أنثويٌ قائلاً: "درجة الحرارة الآن 60 فهرنهايت" ليطمئن الطفلة أن المطر لن يهطل.
خلال الساعة التالية، سرعان ما اكتشفت جريس أن بإمكانها أن تطلب إلى أليكسا عزف مقطوعتها الموسيقية المفضّلة من فيلم Sing. وأدركَت أيضًا أن أليكسا تستطيع إلقاء النكات أو أداء العمليات الحسابية أو سرد حقائق مثيرة. ثم طرحَت عليها سؤالاً آخر: "أليكسا، أتدرين ماذا تأكلُ الجياد البنيّة؟" وأكثر ما حُبّب إليها في هذا التفاعل أنها أدركت أن بوسعها أن تشير إلى المساعد الذكيّ بأن يكفّ عن الكلام بأمرٍ بسيط، حيث صرخت بصوتٍ مرتفع: "أليكسا، اخرسي". ثم رمقتني بنظرةٍ فيها شيءٌ من الخجل، وسألتني إن كان من المقبول مخاطبتها بفظاظة. أيعقل أنّ تلك الصغيرة فكّرت بأن لتلك الأداة أحاسيس أو أنّها تستحقّ الاحترام حتّى؟
في اليوم التالي، كانت أليكسا أوّل "شخصٍ" ألقت عليه جريس تحيّة الصباح وهي تركض إلى المطبخ. ويا للعجب العجاب! لم يطل الأمر بصغيرتي حتى تعلّمت أن بوسعها شراء الأشياء، على الرغم من أنها لم تبلغ بعدُ سنّ الالتحاق بالمدرسة ولم تتعلّم ركوب دراجة أو قراءة كتاب ولم تكن قادرةً على التمييز بين الخير والشّر. قالت: "أليكسا، اشترِي لي فيلم "ملكة الثّلج". وبطبيعة الحال، لم تكن لدى جريس أدنى فكرة عن أن شركة أمازون، عملاق تجارة التجزئة الأول في العالم، كانت وراء ابتكار هذا المساعد الذكيّ والمفيد.
تفصح هذه التجربة البسيطة أيّما إفصاحٍ عن التحوّل التقنيّ العميق الذي يشهده عالمنا. وبالأصل، فمن السهولة بمكانٍ استمالة الكبار كي يمنحوا ثقتهم لروبوتٍ "مفيد" صمّمه بذكاءٍ خبراء في التسويق والتكنولوجيا. ولكن عندما يتعلّق الأمر بالأطفال، فإن هناك القليل من الضوابط والتوازنات لثنيهم عن منح ثقتهم سريعًا جدًا.
بعد يومين من العيش مع أليكسا، وقع أمر هام. سألَت جريس الجهاز بلا مبالاة: "أليكسا، ماذا عليّ أن أفعل اليوم؟" ثم أردفت بعد برهةٍ بسؤالٍ آخر عن انتقاء الأزياء: "أليكسا، ماذا عليّ أن أرتدي اليوم؟" وحينها عمدْتُ دون إبطاءٍ إلى فصل قابس ذلك الشيء.
أطلقت شركة أمازون في شهر نيسان/أبريل 2017 جهاز إيكو لوك، والذي يأتي مجهّزًا بكاميرا. بمعنى آخر، لا تستطيع أليكسا أن تسمعك فحسب، بل تراك أيضًا. تستخدم سمة "تدقيق نمط اللباس" خوارزميات تعلّم الآلة للحكم على اختياراتنا من الملابس ومنحها تقييمًا إجماليًا من أليكسا.

محتوى ذو صلة - وجهات نظر المؤثرين

إن الأمر لمؤسفٌ حقًا، ألا تشاطرونني الرأي؟ لم نعد نثق بالآلات لتؤدي شيئًا ما فحسب بل فوّضناها بأن تقرّر أيضًا ما الذي علينا فعله ومتى.

ما انفكّت ثقتنا بالتكنولوجيا منذ أجيال تقتصر على كونها ستؤدّي حتمًا ما يُتوّقع منها فعله - فنحن نثق بأن الغسالة تنظّف ملابسنا أو بأن الصرّاف الآلي يسلّمنا نقودنا. ولكن، ما الذي سيحدث يا ترى لو ركبتُ سيارةً ذاتية التشغيل؟ لا بدّ إذًا من أن أفوّض إلى نظامها أن يقرّر إن كان عليه الانعطاف يسارًا أم يمينًا أو الالتفاف أو التوقّف. كثيرًا ما يُساق هذا المثال للتدليل على الكيفية التي تجعل بها التكنولوجيا الملايين من الأشخاص يُبدون ما أسمّيه "الثقة العمياء" عندما نخاطر ونقدِم على أمرٍ جديدٍ أو نؤدي شيئًا اعتياديًا بطريقةٍ مختلفةٍ تمامًا.

تطرح الثقة العمياء بالذكاء الاصطناعي، وما شابهها من أشياء، سؤالاً جديدًا وملحًّا، ألا وهو: حين يكون لآلةٍ ذلك الكمّ الهائل من السيطرة على حياة أبنائنا، فكيف لهم أن يبدؤوا بالوثوق بنواياها؟

سوف يكبر الجيل القادم في عصرٍ تتّخذ فيه أدوات ذاتية التشغيل القرارات بالنيابة عنهم في المنازل والمدارس والمشافي، بل حتّى فيما يخصّ حياتهم العاطفية. ولن يكون السؤال بالنسبة لهم هو "كيف نثق بالروبوتات؟"، بل "هل نثق بها أكثر من اللازم يا ترى؟" وفي خضمّ سعينا المحموم لرفض القديم وقبول كل ما هو جديد، ربما ينتهي الأمر بأطفالنا إلى وضع الكثير من الثقة وبكلّ سهولةٍ في مواضع خاطئة.

من التحدّيات الكبرى التي تواجهنا تقريرُ المكان والزمان المناسبين لتحويل الثقة إلى ضربٍ من ضروب الرموز الحاسوبية. وحريّ بنا أن نمدّ الأطفال بأدواتٍ للحكم على ما إذا كانت الآلات أهلاً للثقة (أو آمنةً) بما يكفي كي تتخذ القرارات. وعلاوةً على المخاوف الأمنية، فإن المسألة الأهم هي إن كان بوسعنا أن نثق بأن هذه الروبوتات ستتصرّف على نحوٍ أخلاقي. وبالتحديد، كيف لها أن "تتعلّم" ما الخطأ وما الصواب؟

إنّ لمن العار أن نجد أنفسنا وسط عالمٍ مؤتمتٍ جدًا لدرجةٍ تجعلنا نتّكل فقط على آلاتٍ وخوارزميات في اتخاذ قراراتٍ بشأن ما ينبغي علينا الوثوق به. إنه عالمٌ خالٍ من اللون والحركة المتولّدين عن النقص الذي جبل الله عليه ابن آدم، وإذا ما تركنا الحبل على الغارب، فلربّما نقع في أخطار لا تُحمد عقباها. إن البشر بما فيهم من نزواتٍ وطفراتٍ رائعة هم وحدهم من يجعل من الثقة أمرًا ممكنًا - وليس التكنولوجيا أو الرياضيات.

وإذا أردنا أن يستوعب الجيل القادم ذلك، فعلينا أن نراعي في التصميم إتاحة "وقفة ثقة"، وهي فاصلٌ زمنيٌ يسمح للأطفال بأن يتوقّفوا ويتفكّروا قبل أن يعمدوا تلقائيًا إلى النقر أو التحريك أو المشاركة أو القبول. وخيرٌ لهم أن يسألوا "هل أنت متأكد؟" قبل أن يُقدموا على فعل شيء. وحريٌ بنا أيضًا أن نمدّهم بالمعرفة والتعليم الذي يساعدهم في أن يقرّروا: هل هذا الشخص أو المعلومة أو الشيء أهل لثقتي؟

راشيل بوتسمان
راشيل بوتسمان كاتبةٌ ومحاورةٌ ومحاضِرةٌ جامعيةٌ وخبيرةٌ عالميةٌ في شؤون الثقة. تتناول أعمالها الطريقةَ التي تغيّر بها التكنولوجيا العلاقات البشرية. وهي مؤلفة كتاب Who Can You Trust? (بمن تستطيع أن تثق؟) (دار Penguin Portfolio للنشر، 2017) ومؤلفة مشاركة لكتاب What’s Mine Is Yours (مالي هو مالك) (دار Harper Collins للنشر، 2010). وتُدرّس أيضًا مقرّر ماجستير إدارة الأعمال الأول من نوعه الذي يعنى بالاقتصاد التعاوني، والذي صممته في مدرسة سعيد للأعمال التابعة لجامعة أكسفورد.

التق بالأطفال ماوراء العولمة الرقمية