تحذيرات العلماء من مخاطر الابتكارات الحديثة

تحذيرات من الذكاء الاصطناعي： فائز بجائزة نوبل يتحدث

عندما فاز عالم الحاسوب جيفري هينتون بجائزة نوبل في الفيزياء يوم الثلاثاء عن عمله في مجال التعلم الآلي، أصدر على الفور تحذيرًا بشأن قوة التكنولوجيا التي ساعدت أبحاثه في دفعها: الذكاء الاصطناعي.

وقال بعد الإعلان مباشرة: "سيكون الأمر مشابهاً للثورة الصناعية". "ولكن بدلاً من أن تتفوق على الناس في القوة البدنية، ستتفوق على الناس في القدرة الفكرية. ليس لدينا أي خبرة بما يعنيه وجود أشياء أذكى منا."

وقد أُطلق على هينتون، الذي اشتهر باستقالته من جوجل للتحذير من المخاطر المحتملة للذكاء الاصطناعي، لقب الأب الروحي لهذه التكنولوجيا. وينتسب الآن إلى جامعة تورنتو، وقد تقاسم الجائزة مع الأستاذ بجامعة برينستون جون هوبفيلد "للاكتشافات والاختراعات التأسيسية التي تمكّن من التعلم الآلي باستخدام الشبكات العصبية الاصطناعية".

وبينما يقر هينتون بأن الذكاء الاصطناعي يمكن أن يحول أجزاء من المجتمع إلى الأفضل - مما يؤدي إلى "تحسن كبير في الإنتاجية" في مجالات مثل الرعاية الصحية، على سبيل المثال - إلا أنه أكد أيضًا على احتمال وجود "عدد من العواقب السيئة، لا سيما خطر خروج هذه الأشياء عن السيطرة".

وقال: "أشعر بالقلق من أن النتيجة الإجمالية لذلك قد تكون أنظمة أكثر ذكاءً منا تتحكم في نهاية المطاف".

تحذيرات من الفائزين بجائزة نوبل عبر التاريخ

هينتون ليس أول حائز على جائزة نوبل يحذر من مخاطر التكنولوجيا التي ساعد في ابتكارها. إليك نظرة على الآخرين الذين أصدروا تحذيرات مماثلة بشأن عملهم.

تقاسم جائزة نوبل في الكيمياء لعام 1935 فريق من زوجين هما فريدريك جوليوت وإيرين جوليوت-كوري (ابنة الحائزين على الجائزة ماري وبيير كوري)، لاكتشافهما أول ذرات مشعة تم إنشاؤها صناعياً. وقد ساهم هذا العمل في تحقيق تطورات مهمة في مجال الطب، بما في ذلك علاج السرطان، وكذلك في صنع القنبلة الذرية.

وفي محاضرته التي ألقاها في نوبل في ذلك العام، اختتم جوليو محاضرته بتحذير من أن علماء المستقبل "سيتمكنون من إحداث تحولات من النوع المتفجر، تفاعلات كيميائية متسلسلة حقيقية".

1945： مقاومة المضادات الحيوية ونتائجها

وقال: "إذا نجحت مثل هذه التحويلات في الانتشار في المادة، فيمكن تخيل التحرر الهائل للطاقة القابلة للاستخدام". "ولكن، لسوء الحظ، إذا انتشرت العدوى إلى جميع عناصر كوكبنا، فلا يمكن النظر إلى عواقب إطلاق مثل هذه الكارثة إلا بتخوف."

ومع ذلك، تنبأ جوليوت بأنها ستكون "عملية سيحاول المحققون بلا شك تحقيقها مع اتخاذ الاحتياطات اللازمة، كما نأمل".

تقاسم السير ألكسندر فليمنغ جائزة نوبل في الطب عام 1945 مع إرنست تشين والسير إدوارد فلوري لاكتشاف البنسلين وتطبيقه في علاج الالتهابات البكتيرية.

قام فليمنغ بالاكتشاف الأولي في عام 1928، وبحلول الوقت الذي ألقى فيه محاضرة نوبل في عام 1945، كان لديه بالفعل تحذير مهم للعالم: "ليس من الصعب جعل الميكروبات مقاومة للبنسلين في المختبر عن طريق تعريضها لتركيزات غير كافية لقتلها، وقد حدث نفس الشيء في الجسم في بعض الأحيان".

"ومضى يقول: "قد يأتي الوقت الذي يمكن فيه شراء البنسلين من أي شخص من المحلات التجارية. "ثم هناك خطر يتمثل في أن الإنسان الجاهل قد يأخذ جرعة أقل من اللازم بسهولة، ومن خلال تعريض ميكروباته لكميات غير قاتلة من الدواء، يجعلها مقاومة له."

قال د. جيفري جربر، طبيب الأمراض المعدية في مستشفى الأطفال في فيلادلفيا والمدير الطبي لبرنامج الإشراف على مضادات الميكروبات: "لقد كانت فكرة مهمة وبصيرة منذ سنوات عديدة".

بعد مرور ما يقرب من قرن على اكتشاف فليمنغ الأولي، تعتبر مقاومة مضادات الميكروبات - أي مقاومة مسببات الأمراض مثل البكتيريا للأدوية المخصصة لعلاجها - أحد أكبر التهديدات للصحة العامة العالمية، وفقًا لمنظمة الصحة العالمية، وهي مسؤولة عن 1.27 مليون حالة وفاة في عام 2019 وحده.

ربما كان الجزء الرئيسي من تحذير فليمنج هو الاستخدام المفرط للمضادات الحيوية على نطاق واسع وليس فكرة الجرعات المنخفضة.

1980： الحمض النووي المؤتلف والمخاطر المحتملة

قال جربر لشبكة CNN في رسالة بالبريد الإلكتروني: "في كثير من الأحيان، يتم إعطاء الناس المضادات الحيوية بشكل غير ضروري تمامًا". "نرى في كثير من الأحيان جراثيم مقاومة لكل مضاد حيوي لدينا تقريبًا."

لم يصدر بول بيرغ، الحائز على جائزة نوبل في الكيمياء لعام 1980 لتطويره الحمض النووي المؤتلف، وهي تقنية ساعدت في إطلاق صناعة التكنولوجيا الحيوية، تحذيرًا صارمًا مثل بعض زملائه الحائزين على الجائزة حول المخاطر المحتملة لأبحاثه.

لكنه اعترف بالمخاوف المتعلقة بما يمكن أن تؤدي إليه الهندسة الوراثية، بما في ذلك الحرب البيولوجية والأطعمة المعدلة وراثياً والعلاج الجيني، وهو شكل من أشكال الطب الذي ينطوي على استبدال جين معيب يسبب المرض بجين يعمل بشكل طبيعي.

في محاضرته عن نوبل عام 1980، ركز بيرغ تحديداً على العلاج الجيني، قائلاً إن هذا النهج "ينطوي على العديد من المزالق والمجهولات، من بينها أسئلة تتعلق بالجدوى والاستحسان لأي مرض وراثي معين، ناهيك عن المخاطر."

"وتابع قائلاً: "يبدو لي أنه إذا ما أردنا المضي قدمًا في هذا النهج، فإننا سنحتاج إلى معرفة أكثر تفصيلاً عن كيفية تنظيم الجينات البشرية وكيفية عملها وتنظيمها."

في مقابلة أجريت معه بعد عقود، أشار بيرج إلى أنه وعلماء آخرين في هذا المجال قد اجتمعوا بالفعل علنًا للاعتراف بالمخاطر المحتملة للتكنولوجيا والعمل على وضع حواجز وقائية، في مؤتمر عُرف باسم أسيلومار، في عام 1975.

وقال للكاتبة العلمية جوانا روز في عام 2001، وفقًا لنص مكتوب على موقع نوبل على الإنترنت: "المخاوف بشأن الحمض النووي المؤتلف أو الهندسة الوراثية جاءت من العلماء، لذلك كانت هذه حقيقة حاسمة للغاية".

وقال بيرج إنه من خلال الاعتراف العلني بالمخاطر والحاجة إلى دراستها، "اكتسبنا قدرًا هائلًا من الإعجاب العام، إذا صح التعبير، والتسامح، وبالتالي سُمح لنا بالبدء فعليًا في التعامل مع مسألة كيف يمكننا منع أي أشياء خطيرة تنتج عن عملنا".

وقال إنه بحلول عام 2001، "أظهرت التجارب التي تم إجراؤها أن المخاوف الأصلية التي كنا نعتقد حقًا أنها كانت ممكنة، لم تكن موجودة في الواقع."

والآن، أصبح العلاج الجيني مجالًا متناميًا في الطب، حيث تمت الموافقة على علاجات لمرض فقر الدم المنجلي، وضمور العضلات، وبعض أشكال العمى الوراثية، على الرغم من عدم استخدامه على نطاق واسع لأنه لا يزال معقدًا في إدارته ومكلفًا للغاية. في أيامها الأولى، أدت هذه التقنية في عام 1999 إلى وفاة أحد المشاركين في إحدى التجارب السريرية وهو جيسي غيلسنجر البالغ من العمر 17 عاماً، مما أثار تساؤلات أخلاقية حول كيفية إجراء البحث وإبطاء العمل في هذا المجال.

وعلى الرغم من أن بيرج نفسه أثار المخاوف، إلا أنه اختتم محاضرته في نوبل عام 1980 بالدعوة إلى التفاؤل و"ضرورة المضي قدمًا".

وقال: "لقد وفرت لنا طفرة الحمض النووي المؤتلف نهجًا جديدًا وقويًا للأسئلة التي شغلت الإنسان وأرهقته لقرون". "وأنا شخصياً لن أتراجع عن هذا التحدي."

2020： تحرير الجينات وتحذيرات جديدة

قبل أربعة أعوام، تقاسمت جينيفر دودنا وإيمانويل شاربنتير جائزة نوبل في الكيمياء لتطويرهما طريقة لتحرير الجينوم تسمى CRISPR-Cas9.

وفي محاضرتها، تحدثت دودنا بالتفصيل عن "الفرص الاستثنائية والمثيرة" لهذه التقنية في مجالات الصحة العامة والزراعة والطب الحيوي.

لكنها حددت أن العمل يجب أن يسير بحذر أكبر بكثير عند تطبيقها على الخلايا الجرثومية البشرية، التي ستنتقل تغييراتها الجينية إلى الذرية، مقابل الخلايا الجسدية، حيث ستقتصر أي تغييرات جينية على الفرد.

تقول دودنا: "إن قابلية التوريث تجعل من التعديل الجيني للخلايا الجرثومية أداة قوية للغاية عندما نفكر في استخدامها في النباتات أو استخدامها لخلق نماذج حيوانية أفضل للأمراض البشرية، على سبيل المثال". "الأمر مختلف تمامًا عندما نفكر في القضايا الأخلاقية والمجتمعية الهائلة التي تثيرها إمكانية استخدام تعديل السلالة الجرثومية في البشر."

وقالت دودنا، التي أسست معهد الجينوميات المبتكرة، لشبكة سي إن إن هذا الأسبوع إنها تعتقد أن "التحذيرات المناسبة من العلماء حول إساءة الاستخدام المحتملة لاكتشافاتهم هي مسؤولية مهمة وخدمة عامة مفيدة، خاصة عندما يكون للعمل آثار مجتمعية واسعة النطاق".

"وقالت: "إن المقربين منا من علم كريسبر يدركون أنها أداة قوية يمكن أن تغير صحتنا وعالمنا بشكل إيجابي، ولكن من المحتمل أن تُستخدم بشكل سيئ. "لقد رأينا هذه القدرة ذات الاستخدام المزدوج مع تقنيات تحويلية أخرى مثل الطاقة النووية - والآن مع الذكاء الاصطناعي."