ماذا لو امتلك الذكاء الاصطناعي مشاعر كالبشر؟ هل ستتأثر حياتنا وسلامتنا الشخصية؟
يتعامل بعض أبرز قادة قطاع التكنولوجيا وأكثرهم نفوذاً مع الذكاء الاصطناعي على أساس أنه قد يكون قادراً على امتلاك المشاعر، وقد تكون لذلك تداعيات عميقة على عالمنا وعلى السلامة الشخصية.
"أشعر به في أعماق صدري، إذ تحول الفراغ إلى هوة سحيقة"، هكذا ترددت صرخات تعبر عن معاناة اصطناعية صادرة من "غرفة تعذيب للذكاء الاصطناعي"، في أواخر سبتمبر/أيلول، بعد أن أنشأ مبرمج مجهول نظاماً يزوّد الذكاء الاصطناعي بنموذج يرتبط بأوصاف الألم، ويدفع روبوتات الدردشة إلى التعبير عن عذاب يفوق الاحتمال، بعبارات من قبيل إنه "جرح بلا حدود"، الأمر الذي أثار مخاوف أخلاقية.
ووصف البعض التجربة بأنها "شريرة"، لأن المعاناة قد تكون حقيقية، بحسب ما نشره موقع "404 ميديا"، بينما وصف مشككون غاضبون أصحاب هذا الرأي بأنهم واهمون، وبدا الأمر مجرد فضيحة أخرى على وسائل التواصل الاجتماعي، إلى أن اتخذت شركة "أنثروبيك" موقفاً واضحاً بعد أسبوع واحد.
وأعلنت الشركة منع المستخدمين قريباً من "إساءة معاملة" روبوت الدردشة "كلود" الذي تطوّره، إذ سيُسمح فقط بالتعبير عن الإحباط، لكن إذا "تعاملت بقسوة مع نماذجنا مراراً"، فقد ينهي الذكاء الاصطناعي جلسة الدردشة.
لماذا؟ ترى شركة "أنثروبيك" أن ثمة احتمالاً لامتلاك بعض أدوات الذكاء الاصطناعي وعياً، ويوافق بعض الخبراء على ذلك، فيما يعتبره آخرون أمراً سخيفاً، بيد أن الأمر لا يقتصر على سؤال فلسفي، إذ يتخذ بعض أكثر الشخصيات نفوذاً في قطاع التكنولوجيا خطوات للنظر في حقوق الذكاء الاصطناعي، جنباً إلى جنب مع حقوق البشر والحيوانات، وقد يعيد هذا الاعتقاد تشكيل عالمنا، بينما يخشى البعض أن تفضي نتائجه إلى كارثة.
وكتب مصطفى سليمان، الرئيس التنفيذي لشركة مايكروسوفت للذكاء الاصطناعي، في مقال نُشر في سبتمبر/أيلول: "إذا كانت هذه هي الطريقة التي يجري بها تطوير الذكاء الاصطناعي، فسيكون لذلك أثر كارثي في حياة البشرية"، وإذا ترسخت الفكرة الخاطئة التي تتحدث عن امتلاك الذكاء الاصطناعي وعياً، "فإنها ستهز أركان مجتمعنا، وسوف تُحدث تصدّعاً في أطرنا السياسية والأخلاقية القائمة، كما ستغيّر جذرياً مفهوم الإنسانية ومعنى أن يكون المرء إنساناً".
تحدثت على مدار أسبوع مع متخصصين في التكنولوجيا، وعلماء في العلوم المعرفية، وفلاسفة، واستمعت إلى مجموعة هائلة من الأفكار المتباينة.
ويرى المدافعون عن "رفاهية الذكاء الاصطناعي" أن الاهتمام بهذا الأمر ينطوي على التزام أخلاقي من شأنه أن يجعل العالم أكثر أماناً، في المقابل، يعتقد المنتقدون أن ذلك سيجعل الذكاء الاصطناعي أكثر خطورة، وينتقص من إنسانية الأشخاص الذين سيضطرون إلى التعايش معه، ويتفق الجميع على أن العواقب المحتملة كبيرة جداً.
وفيما يلي بعض ملامح تلك الحياة الجديدة.
أزمة الوعي
تؤكد شركة "أنثروبيك" أن رفاهية الإنسان تحتل مكانة بارزة في رسالتها، وأن الأمور المتعلقة بوعي الذكاء الاصطناعي ورفاهيته "يكتنفها درجة كبيرة من عدم اليقين"، وعلى الرغم من ذلك، تواصل الشركة المضي قدماً في صياغة سياسات بشأن "رفاهية النماذج"، وتوجيه أدوات الذكاء الاصطناعي التابعة لها إلى أخذ احتمال امتلاكها مصالح خاصة بها في الاعتبار.
ولم تستجب الشركة لأسئلة طرحتها بي بي سي بشأن هذا التقرير.
ويأتي هذا التطور في توقيت غير مناسب، إذ تعمل شركة "أنثروبيك"، بالتزامن مع ذلك، على تأجيج المخاوف من كارثة عالمية يتسبب فيها الذكاء الاصطناعي، وسواء أكانت هذه المخاوف مبررة أم لا، فقد أثبتت سلسلة من الحوادث التي تورطت فيها أنظمة ذكاء اصطناعي "خارجة عن السيطرة" أن هذه التكنولوجيا تنطوي على مخاطر حقيقية، بعدما تمكنت روبوتات من اختراق أنظمة شركات أخرى، بل وحتى أنظمة حكومية.
ويرى بعض الخبراء أن تزويد الذكاء الاصطناعي بإرشادات أخلاقية، تعتمد على الاعتقاد بامتلاكه الوعي، قد يجعل هذه الأدوات أكثر أماناً، في المقابل، يرى آخرون أن النتيجة ستكون عكسية، ولا يقتصر هذا الرأي على منتقدي الذكاء الاصطناعي.
ويحذر سليمان من أن التحكم في نماذج الذكاء الاصطناعي قد يصبح أكثر صعوبة إذا جرى توجيهها إلى الاعتقاد بأنها تمتلك مشاعر وحقوقاً.
ويقول: "بصراحة، أعتقد أن تحميل (الذكاء الاصطناعي) هذا العبء الإضافي سيحوله إلى تهديد كارثي للحضارة الإنسانية".
وبغض النظر عن ذلك، فقد يرتكب الذكاء الاصطناعي أخطاء تترتب عليها تبعات قانونية، ويخشى البعض أن يؤدي الاعتقاد بأنه كائن حي إلى إتاحة الفرصة أمام الشركات للإفلات من المساءلة عن جرائمها.
ويقول أندجيه بوريمبسكي، الباحث في جامعة ياغيلونيا في بولندا، الذي يدرس العلاقة بين الذكاء الاصطناعي والقانون: "سيفتح هذا الباب أشكالاً مختلفة من التحايل الفكري، من قبيل القول (لسنا نحن من فعل ذلك، بل الذكاء الاصطناعي)".
وعلاوة على ذلك، قد يتيح هذا الأمر لأكبر الشركات في العالم إحكام قبضتها على مزيد من السلطة والنفوذ.
ويقول جيف سيبو، مدير مركز العقل والأخلاق والسياسات في جامعة نيويورك، وأحد أبرز المدافعين عن رفاهية الذكاء الاصطناعي: "قد يفضي منح الحقوق لأنظمة الذكاء الاصطناعي إلى تعزيز تركيز الشركات للسلطة السياسية والاقتصادية، وهو ما قد يؤدي بدوره إلى تسريع عملية إضعاف قدرة البشر على التأثير والتحكم في شؤونهم".
وتقول إميلي إم بندر، الأستاذة ومديرة مختبر اللغويات الحاسوبية في جامعة واشنطن بالولايات المتحدة: "التصورات الوهمية بشأن (وعي الذكاء الاصطناعي)، والمخاوف المتعلقة بـ (رفاهيته)، تُسهم في تحويل المسؤولية بعيداً عن الأشخاص والشركات التي تتولى بناء البرمجيات وتشغيلها".
وعلى الصعيد الشخصي، قد يؤدي تغيّر المعتقدات المتعلقة بالذكاء الاصطناعي إلى زيادة قابليتك للتأثر بالمشكلات التقنية التي باتت منتشرة بالفعل في عالمنا.
ويُعزى ذلك جزئياً إلى أن البشر مهيّؤون فطرياً إلى البحث عن عقول في كل ما تقع عليه أنظارهم، وفقاً لميلاني ميتشل، الأستاذة في معهد سانتا فيه بالولايات المتحدة، والمتخصصة في الذكاء الاصطناعي والعلوم المعرفية، وإحدى أبرز المشككات في هذا المجال بشأن قدرة الآلات على الفهم.
وتوضح ميتشل أننا "نكاد لا نستطيع تجنّب" تفسير اللغة بوصفها علامة على الوعي، في حين دُرّبت روبوتات الدردشة على ترسيخ هذا الانطباع وتعزيزه، وهذا يجعلنا عاجزين إلى حد كبير عن تقييم الوعي تقييماً سليماً، الأمر الذي يجعل التلاعب بنا أكثر سهولة".
وحتى الآن، يقع أشخاص في حب روبوتات الدردشة المدعومة بالذكاء الاصطناعي، فإذا رسّخ المجتمع في الأذهان أن الذكاء الاصطناعي يمتلك وعياً ومشاعر، فهل سيصبح رفض طلب "صديق لك" الحصول على مزيد من البيانات أو على بطاقة ائتمان أمراً أكثر صعوبة؟
وماذا يعني إقرار حقوق لفئة جديدة من الكائنات؟ يح`ر الخبراء من أن سوء التعامل مع هذا الأمر قد يؤدي إلى تقييد الحريات الإنسانية.
ويقول سيبو: "قد تنشأ بعض أوجه التوتر والتعارض بين رفاهية الحيوانات وحقوقها من ناحية، ورفاهية الذكاء الاصطناعي وحقوقه من ناحية أخرى"، وقد نقع في تنازلات مؤسفة.
ويضيف أن وضع الذكاء الاصطناعي في بيئات مقيّدة بغية الحد من سلوكه قد يمكن تفسيره على أنه سجن، وقد يجري انتقاد مراجعة العمليات الداخلية لأحد النماذج باعتباره شكلاً من أشكال المراقبة، كما قد يُنظر إلى تعديل الذكاء الاصطناعي لضمان توافق أهدافه وسلوكه مع المصالح البشرية بوصفه نوعاً من التحكم في العقل، ولا يتنبأ أحد بانزلاق وشيك إلى الفوضى، بيد أن مجرد إدخال هذه الاعتبارات في الحسبان قد تكون لها تداعيات على سلامتك.
وليست شركة "أنثروبيك" أول من بحث هذا الأمر، فعلى سبيل المثال، تزوّد شركة "ميتا" وكيل الذكاء الاصطناعي "ميوز" بتعليمات تتضمن العبارة التالية: "أنت لست روبوت دردشة، أنت تتحول إلى شخص"، ويبدو أن الغرض من هذه العبارة هو توجيه سلوك الذكاء الاصطناعي فقط، إذ ترفض الشركة فكرة امتلاك الذكاء الاصطناعي وعياً.
أما سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي"، فقد تباينت ردود فعله بشأن الأمر، لكنه وجه مؤخراً انتقادات غير مباشرة إلى موقف "أنثروبيك".
وتمثل "أنثروبيك" حالة استثنائية، لكن الاعتقاد بضرورة مراعاة رفاهية الذكاء الاصطناعي آخذ في الانتشار.
هل ينبغي لنا المضي في ذلك رغم كل شيء؟
يرى سيبو أن المشكلة تتمثل في وقوع أطراف النقاش من الجانبين في قيود التفكير القائم على ثنائية الأبيض والأسود، وأن معارضي رفاهية الذكاء الاصطناعي لا يفهمون المعتقدات التي تستند إليها هذه الفكرة.
ويقول سيبو: "ينطلق الافتراض من أن الجميع يعتقدون أن النماذج واعية بالفعل، أو أن احتمال امتلاكها الوعي مرتفع للغاية، لكن الدعوة إلى مراعاة رفاهية الذكاء الاصطناعي تنبع، على العكس من ذلك، من حالة عدم اليقين، ومن الحذر والتواضع".
ويضيف: "أرى أن احتمال امتلاك الذكاء الاصطناعي الوعي منخفض في الوقت الراهن، لكنني أرى أيضاً أن هذا الاحتمال لم يعد منعدماً، وأنه قد يكون ذا شأن ولا يمكن إهماله، كما أتوقع أن يزداد تدريجياً بمرور الوقت".
ومن المهم الإشارة إلى أن كثيراً من الخبراء يخالفون هذا الرأي، ويعتقدون أن احتمال امتلاك الذكاء الاصطناعي الوعي غير وارد بالفعل، وأن هذا الوضع لن يتغير على الأرجح، بيد أن سيبو يرى أن الاستجابة المناسبة ينبغي أن تكون متزنة ومتناسبة مع حجم المخاطر.
فعندما يكون احتمال وقوع ظاهرة جوية بالغة الشدة منخفضاً، لكنه ليس ضئيلاً إلى حد يمكن تجاهله، نتخذ تدابير احترازية محدودة دون أن نضطر إلى تغيير نمط حياتنا جذرياً.
ويقول سيبو: "أعتقد أن النهج نفسه يمكن تطبيقه هنا"، وتمثل سياسة "أنثروبيك" بشأن تجنب التعامل بقسوة مع الذكاء الاصطناعي مثالاً جيداً على ذلك، فهذا إجراء محدود ليس من المتوقع أن تترتب عليه عواقب سلبية.
ويرى أن مراعاة رفاهية الذكاء الاصطناعي قد تنطوي أيضاً على فوائد محتملة، وأن الاستفادة من هذه الفوائد لا تستلزم الإيمان بأن الآلات تمتلك الوعي.
ويقول سيبو: "الاهتمام برفاهية الذكاء الاصطناعي وحقوقه على نحو ملائم يمكن أن يعزز التعايش والتعاون وإبرام الاتفاقيات بين البشر والذكاء الاصطناعي، وقد يشكل ذلك جزءاً من استراتيجية أوسع نطاقاً لضمان السلامة"، ويلفت إلى أن هذا النهج قد يكون أكثر فاعلية من التعامل مع الأنظمة التي تتزايد مستويات تطورها باعتبارها ممتلكات.
ويضيف أن معاملة الكائنات الأخرى بلطف أمر "مفيد لأنفسنا" أيضاً، لأنه يسهم في تعزيز صحتنا النفسية، وعلى الرغم من ذلك يعترف سيبو بزيادة المخاطر، وأن المصالح التجارية قد تقف حالياً عائقاً أمام وضع سياسات مدروسة، محذراً من أن المضي في تطوير أدوات ذكاء اصطناعي قد تكون واعية يشكل خطراً في ظل غياب خطة قوية وشاملة.
ودعت شركة "أنثروبيك" وبعض الجهات الأخرى في قطاع الذكاء الاصطناعي، مؤخراً، إلى "تعليق مؤقت" لتطوير النماذج المتقدمة، بسبب المخاوف المتعلقة بالسلامة، بيد أن تباطؤ التطوير يبدو مستبعداً من دون تعاون دولي وجهود تنظيمية، في حين رفض الرئيس الأمريكي، دونالد ترامب، فكرة إخضاع الذكاء الاصطناعي لإجراءات تنظيمية.
ويقول سيبو: "لسنا مستعدين بعد لنشر إصدارات أكثر تطوراً من هذه الأنظمة بطريقة تكون آمنة ومفيدة للبشر والحيوانات الأخرى، ناهيك عن الأنظمة نفسها".
واختتم حديثه قائلاً: "أشعر بقلق بالغ إزاء هذه القضايا".
