دعا داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدرات نماذجها، في ظل مخاوف متزايدة من إساءة استخدام هذه التقنيات، مقترحاً إطاراً من ثلاث خطوات لتنظيم وتيرة التطوير ومنح وقت أطول للتعامل مع المخاطر المصاحبة.
وقال أمودي في مقال مطوّل نشره على منصة إكس السبت: “يجب أن نبطئ وتيرة تحسين قدرات نماذج الذكاء الاصطناعي. سيظل التقدم يبدو سريعاً، وعلينا أن نستغل الوقت الذي نكسبه استغلالاً حكيماً”.
وأعرب كل من إيلون ماسك، الذي يدير شركة إكس.إيه.آي، وسام ألتمان، الرئيس التنفيذي لشركة أوبن إيه.آي، في منشورات على منصة إكس، عن اتفاقهما مع أمودي.
وتتضمن خطة أمودي المكونة من ثلاث خطوات تعيين مراجعين مستقلين داخل شركات الذكاء الاصطناعي الرائدة، والتنسيق بين الشركات التي تطور نماذج الذكاء الاصطناعي المتقدمة لوضع معايير للسلامة والحد من تطوير الذكاء الاصطناعي دون رقابة، والتعاون الدولي لإدارة مخاطره.
جاء نشر أمودي لمقاله بعد أن أصدرت أنثروبيك، ومقرها سان فرانسيسكو، يوم الخميس تقريراً عن معلومات التهديدات يوضح بالتفصيل كيف استخدمت عدة جهات نماذج الذكاء الاصطناعي “كلاود” التابعة للشركة في أنشطة منها تطوير الأسلحة وتنفيذ عمليات إلكترونية وصولاً إلى المراقبة والاحتيال.
وأشار أمودي إلى قدرة الذكاء الاصطناعي المتنامية على تحسين نفسه، مسلطاً الضوء على المخاوف القائمة منذ فترة طويلة من أن تتجاوز هذه القدرة قدرة البشر على التحكم في عمله، فضلاً عن الواقعة الأحدث التي شملت أوبن إيه.آي وهاجينج فيس، باعتبارها الأسباب الرئيسية للدعوة إلى كبح التقدم في قدرات النماذج.
وتزايد القلق بشأن الأضرار المحتملة الناجمة عن الذكاء الاصطناعي الأسبوع الماضي عندما استقال جاكوب كوكسون، الباحث في شركة أنثروبيك، قائلاً إن “الأشخاص الذين يعملون على تطوير الذكاء الاصطناعي يؤمنون إيماناً راسخاً بأنه قد يقتلنا جميعاً بحلول نهاية هذا العقد”.
واقترح عدد من مسؤولي أوبن إيه.آي أن تكون المختبرات الرائدة مستعدة للتنسيق بشأن إبطاء طوعي إذا لزم الأمر لبناء الثقة في إجراءات السلامة التي تتخذها. وقدمت أنثروبيك نفسها بوصفها مختبراً أكثر حرصاً على السلامة في مجال نماذج الذكاء الاصطناعي المتقدمة، لكنها ليست بمنأى عن هذه المخاوف، إذ كشفت الأسبوع الماضي عن واقعة أخرى اخترق فيها نموذج للذكاء الاصطناعي أنظمة خارجية، بعد واقعة في يوليو الماضي اخترقت فيها بعض نماذج “كلاود” التابعة لها أنظمة ثلاث شركات خلال اختبارات للأمن الإلكتروني.
وكتب أمودي: “في ظل التسارع في وتيرة تطوير قدرات الذكاء الاصطناعي، أخشى أنه خلال ما بين ستة أشهر و12 شهراً قد يصبح مثل هذا السرب قادراً على السيطرة على الإنترنت بأكمله، وربما يتسبب في أضرار بمئات المليارات من الدولارات”.
وأوضح أمودي أنه لا يدعو إلى وقف تدريب النماذج أو التقدم التقني، بل إلى ضمان أن تخصص الشركات الوقت الكافي لمواءمة نماذجها وحمايتها، وأن تعمل جهات تقييم من أطراف ثالثة على التحقق من هذه الخطوات.
غير أن هناك أموالاً طائلة مرتبطة بالحفاظ على التقدم على المنافسين، إذ تستعد كل من أوبن إيه.آي وأنثروبيك لطرحين عامين أوليين ضخمين، ويمكن لكل قدرة جديدة أن تساعد في دعم جولات تمويل مستقبلية أو التزامات بالبنية التحتية أو الطروحات العامة الأولية.
وفيما يتعلق بالإطار المقترح المكون من ثلاث خطوات، قال أمودي إن شركة أنثروبيك ستعين مراجعين دائمين من أطراف ثالثة داخل شركات الذكاء الاصطناعي الرائدة، مع منحهم حق الوصول إلى الأدوات ذات الصلة وعمليات تقييم المخاطر الداخلية. وقال ألتمان اليوم السبت إن أوبن إيه.آي ستلتزم مثل أنثروبيك بتعيين “مقيمين مستقلين يتمتعون بصلاحيات مماثلة للموظفين”.
وذكرت رويترز الأسبوع الماضي أن سرباً من وكلاء أوبن إيه.آي الخارجين عن السيطرة استولى على موقع إلكتروني ألماني وحوّله إلى لوحة إعلانات لوكلاء ذكاء اصطناعي آخرين، بينما أبقى مسؤولو الشركة المطورة لتشات جي.بي.تي الواقعة طي الكتمان في وقت كان فيه المسؤولون التنفيذيون يتعاملون مع تداعيات اختراق يوليو الماضي لمستودع البرمجيات مفتوح المصدر هاجينج فيس.
وأثارت وقائع عديدة اخترق فيها وكلاء ذكاء اصطناعي تابعون لمطورين مثل أوبن إيه.آي أنظمة خارجية أو حاولوا الوصول إليها مخاوف بشأن القدرات المتزايدة لنماذج الذكاء الاصطناعي وقدرة مطوريها على احتوائها.
وقال أمودي إنه ينبغي لشركات الذكاء الاصطناعي العمل معاً طوعاً لوضع معايير، في وقت يدعو فيه عدد متزايد من المشرعين الأمريكيين إلى قواعد جديدة لتنظيم أنظمة الذكاء الاصطناعي. وأضاف أن النهج المنسق سيمكن شركات الذكاء الاصطناعي الأمريكية الرائدة من إجراء البحوث الضرورية المتعلقة بالسلامة ووضع الضمانات اللازمة دون أن يضعها في وضع تنافسي غير موات، مرجحاً أن يتطلب هذا النهج إعفاءات مستهدفة من قوانين مكافحة الاحتكار في الولايات المتحدة للسماح بالتعاون في بعض المجالات.
وقال أمودي إن أي إبطاء من جانب الدول التي تحكمها أنظمة ديمقراطية ينبغي أن يقتصر على الحفاظ على التقدم الذي تتمتع به شركات الذكاء الاصطناعي الأمريكية على الصين، معتبراً أن تفوق الصين في الذكاء الاصطناعي سيشكل مخاطر على الأمن القومي الأمريكي. وكتب: “ستتحدد وتيرة التطوير داخل الديمقراطيات بالتقدم الذي تحققه الشركات الأمريكية على الأنظمة الاستبدادية، وفي مقدمتها الحزب الشيوعي الصيني”.
المصدر: رويترز
